12月7日,首届AIPC创新论坛在北京联想集团总部举办。联想集团副总裁、联想研究院人工智能实验室负责人范建平博士在分享联想混合智能进展时表示,为提供真正可信、个性化的AI专属服务,联想提出了混合智能(Hybrid AI)概念,加速推动AI普惠。”
范建平在论坛上介绍说,联想混合智能主要解决三大问题,其一,离线状态下无法使用云端公共大模型;其二,隐私和商业机密泄露;其三,无法或很少用到个人/企业的私有数据和知识,“通过解决这三大问题,提供更精准的服务和更好的客户体验”。
(联想集团副总裁、联想研究院人工智能实验室负责人范建平)
据介绍,联想混合智能指的是公共大模型、面向企业的私域大模型,以及个人大模型的混合应用,三者共同构建一个混合人工智能框架,让企业和个人没有后顾之忧地享受大模型带来的效率红利。
范建平提到,联想混合智能主要包括五种混合,即端侧个人大模型/企业私域大模型跟云端公共大模型的能力混合、大模型和小模型的混合、多种算力和端-边-云的混合、多种数据源和知识源的混合、人与大模型的有机混合。
其中,端侧个人大模型/企业私有大模型跟云端公共大模型的能力混合,是指个人大模型、企业私有大模型和云端的公有大模型实现在特征空间的有效对齐,发挥各自优势进行协同推理;大模型和小模型混合,是指大模型能够准确调用相关小模型,发挥各自专长,并通过蒸馏达到大小模型在特征空间的有效对齐和能力互补;多种算力和“端-边-云”混合,是指结合多种异构算力利用各自优势分配工作负载,协作完成大模型推理任务;多种数据源和知识源混合,是指充分利用个人数据和企业私有数据及其知识,开源公开的数据和知识;人与大模型有机混合,则是指通过自然语言交互和意图理解,使AI与人类形成合作关系,实现人机融合智能,相互学习,开启新的智能时代。
未来,大模型的用户规模会不断扩大,用于推理的计算负载将会让公有云上训练和推理任务的效率低、成本高的问题日益凸显,大模型的计算负载,将逐渐由云端向边缘侧和端侧下沉,越来越多的人工智能的推理任务将会在边缘和设备端进行。
范建平表示,联想混合智能架构有着明显的优势。一方面,它拥有更强和更普适的算力支持,如GPU、CPU、NPU;另一方面,算力分配也将更加均衡,可有效降低大模型的使用成本,真正实现AI的普惠化。
此外,联想拥有的从设备到企业服务的全栈式智能布局,为实现混合智能提供了良好的业务应用基础。六年前,联想前瞻性布局智能化变革,围绕“端-边-云-网-智”新IT技术架构,致力于打造AI内嵌的智能终端、AI导向的基础设施和AI原生的方案服务,形成全栈智能的产品及方案服务布局。
在智能终端和智能基础设施方面,联想拥有包括个人电脑、手机、平板、边缘工作站、服务器等全矩阵产品,同时也致力于提供行业智能化解决方案。在行业智能解决方案方面,联想自身就是智能化转型的先行者和引领者,并把自身的智能化转型经验经过沉淀和积累,赋能到各行各业,成为各行各业智能化转型的赋能者。
范建平最后表示,联想正不断加大技术创新投资,开发了如联想大脑这样的大模型训练和推理平台,拥有全栈式AI构建模块(大模型和小模型系列),也即将推出AI异构推理加速平台。“未来,联想将围绕‘新IT’持续投资技术创新,拥抱异构算力和开源大模型,发展有自己特色的大模型微调、压缩和增强技术。几十年前,我们推动了PC的普惠;今天,我们将继续为实现AI的普惠而砥砺前行,”他说。
相关稿件