大模型正在让手机成为“专属私人助理”

今年以来,国内互联网科技企业、人工智能企业、研究团队等纷纷推出大模型产品,开启“百模大战”,推动大模型相关应用加速落地。

随着模型压缩技术和边缘侧计算性能的同步提升,大模型开始向手机、PC、车机等消费级终端中渗透,在加速智能终端产品创新迭代的同时,也让大模型技术真正融入每个人的生活,推动AI普惠。

以手机行业为例,大模型的“落地生花”不仅可以推动手机这一终端的体验上一个新的台阶,而且还为整个手机行业创造了新的机遇。

vivo发布蓝心大模型,“智能体”雏形已现

11月1日,在2023 vivo开发者大会上,vivo发布自研通用大模型矩阵——蓝心大模型,带来vivo基于蓝心大模型开发的首款全局智能辅助蓝心小V、自然语言对话机器人蓝心千询等全新功能应用,让AI大模型“走入寻常百姓人家”。

众所周知,目前大家使用的智能手机普遍配备了智能助手,不过日常使用中却很少用到。

对此,手机行业观察者小天(化名)解释道:“造成这一现状的原因有两点,一方面是,现在的手机助手在理解指令和反馈结果的过程中,不够精准,很多时候不仅‘答不对题’,甚至不能理解问题,这就会劝退用户;另一方面,大部分手机用户也并没有养成使用‘助手’的习惯,自然形成一种‘手机就在手上,直接用手操作就行,没必要用语音唤醒操作’的惯性思维。要形成使用助手的习惯,首先得让用户感受到便利。”

相较于传统的AI应用,蓝心小V是基于蓝心大模型的首款全局智能辅助应用,拥有更为自然、便捷的人机交互方式,行业领先的智慧大脑,丰富多维的信息表达。这三大技能点让蓝心小V具备了手机专属私人助理的能力。蓝心小V可以通过语音或文字,甚至是拖拽的方式,接受并处理信息数据,同时设计了便捷小巧的悬浮态,不用时最小化挂起,需要时再点击打开。

值得关注的是,蓝心大模型是vivo自研的通用大模型矩阵,包含十亿、百亿、千亿三个参数量级,共5款自研大模型(蓝心大模型1B、蓝心大模型7B、蓝心大模型70B、蓝心大模型130B、蓝心大模型175B),全面覆盖核心场景,从而满足不同的应用需求和算力条件,可以高效快速地将大模型技术转化为用户价值。

蓝心大模型矩阵包括5款自研大模型:蓝心大模型1B、蓝心大模型7B、蓝心大模型70B、蓝心大模型130B、蓝心大模型175B

目前,手机端成为vivo蓝心大模型落地的第一个层面,即以AI助理的方式出现。而未来,基于蓝心大模型的智能化应用有望进阶为“智能体”,它能够感知到周边环境信息,识别用户意图,能够用户进行决策,还能够借助大模型去执行和管理执行,从而使整个“智能体”变得越来越智能。

生态是大模型应用“落地生花”的必经之路

如今国内大模型开源生态正在加速形成,从代码大模型开源、通用大模型开源到垂直行业大模型开源,覆盖大模型全产业链。可见,大模型想要在各领域各行业实现应用落地,需要联合社会多方力量,通过开源开放的方式开展协同创新。对此,vivo选择拥抱开源合作,与伙伴共建大模型产业生态。

首先,vivo需要解决大模型供给的问题,vivo把蓝心大模型7B(70亿)能力贡献出来,并把训练的能力、调优的能力、各个行业数据热拔插的能力,全部整合起来、贡献出来,同时推出蓝心开发者激励计划,让每一位开发者都有大模型可用,有好模型可用,携手给用户带来更丰富极致的产品体验。

同时,vivo从3-5年的时间维度上去探索行业可能出现的难题:用户应用大模型的门槛的问题。vivo认为,解决办法是让大模型落地终端设备,而如果要“上端”的话就要解决系统最小权限和算力以及最重要的内存资源的问题。

比如,在算法模型层面,vivo在结构设计上选择更适合端侧加速的子结构设计与维度;在工具层面,使用int4做权重存储减小模型体积和内存占用,并充分利用带宽达到极致的性能优化;同时优化框架设计与底层运行时的极致性能功耗。

另外,vivo自主研发的自然语言对话机器人“蓝心千询”,则支持与用户自然对话、进行知识信息的快速问答、文学创作、中文理解、图片生成,还可以像一名软件工程师去编写应用程序。

据悉,蓝心千询将以手机公版app的形式上线各大手机应用市场,不仅vivo手机用户可以使用,所有安卓和ios的用户都可以在应用市场下载。

深蹲远跳,以底层技术创新加速产业蝶变

要想打造好用、优秀的大模型,除了成本,更重要的是数据量、高维度的应用范式和逻辑思维链,而这背后就需要强大的技术积累和创新能力。

资料显示,vivo从2017年就已开始布局研究人工智能,组建了Al全球研究院,是首批设立专攻人工智能方向研究院的中国手机公司之一。6年来,vivo始终坚持在人才、数据、算法、算力、安全等方面进行战略投入,最终才将大模型做到如今的成就。

在人才方面,vivo从2017年开始就一直维持着1000人左右的专业人工智能团队,到2021年vivo已有超过600人专注研发大模型。在数据方面,vivo人工智能图谱研究院已经积累了13000T的多种模态数据,以及2800T高质量中文文本数据,仅用于百亿蓝心大模型的文本数据量就达到了15T。

在算法层面,vivo将理论与实践相结合,累计在顶级期刊发表了70多篇高水平论文,并持续跟踪全球顶尖学术期刊动态,将其转化成算法和工程应用;在算力层面,vivo联合阿里云搭建了千卡级别的算力集群,于国内率先配备了最先进的H系列GPU。

如业界所评论的,作为一个长周期行业,影响智能手机最大因素,并非经济周期,而是创新周期。如今,要想真正抓住大模型变革手机产业的风口,则是技术、人才的长期储备所决定。

其中,对于手机用户的隐私安全的保障,就是考验手机厂商底层技术研发能力的一道“关口”。

对此,vivo手机终端大模型打造了行业首发的端侧过滤能力,能够保护用户隐私文件、隐私照片不上云,在端侧完成内容输入、输入审核、模型生成、输出审核以及返回给用户,真正做到了在端侧闭环。

手机AI大模型已成为国内手机厂商争相布局的新兴领域。对于vivo而言,选择的路径是,依托多年的技术积累,以用户的需求为核心,打造切实好用的大模型矩阵产品。而且,面对新一轮技术革命的“奇点时刻”,vivo主动联合行业伙伴进行协同创新,为手机产业产品迭代开辟新的蓝海,并加速产业链良性健康发展。

热门相关:抗日之特战兵王   抗日之特战兵王   大明武夫   盛世娇宠之名门闺香   陆先生偏要以婚相许