天天看点

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

《科创板日报》11月1日讯(记者 黄心怡),vivo今日发布自研AI蓝心大模型矩阵,包括10亿蓝心大模型1B、70亿蓝心大模型7B、700亿蓝心大模型70B、1300亿蓝心大模型130B和1750亿蓝心大模型175B五款不同参数规模。此外,130亿蓝心大模型实现端侧跑通,并将开源70亿蓝心大模型。

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

在会后的采访中,vivo相关负责人表示,即将发布的vivo X100系列会向提供1B和7B端侧大模型选项,用户可选择本地化部署。目前,大模型研发在算力方面的挑战很大。“芯片很难买,成本也很高。我们做了6年相关研究,每年2、30亿的成本,数据和算力占一半,人力占一半。目前云端大模型调用一次需要1分5左右的成本。”

▍新机vivo X100系列将搭载7B端侧大模型

在这五款vivo自研大模型中,10亿量级模型是主要面向端侧场景打造的专业文本大模型,具备本地化的文本总结、摘要等能力。70亿模型是面向手机打造的端云两用模型,具有语言理解、文本创作能力,同时,上述两个量级的模型支持高通和MTK最新旗舰双平台端侧化部署。而700亿模型是面向云端服务的主力模型。

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

此外,vivo自研自然语言对话机器人“蓝心千询”正式发布,公版APP将上线各大手机应用市场。而“蓝心小V”智能助手也将在手机端上线,在现场演示中,“小V”对照片进行路人一键消除,并基于照片进行朋友圈文案写作。

记者亲身体验了蓝心小V,可以给出指令要求其进行文稿撰写、图片生成。

编辑一份手机行业绿色发展的倡议书

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

画一幅女孩在玩手机的图

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

写一篇vivo发布自研大模型的新闻稿,生成的文章可导出为word、PDF等形式

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

设计五个服装店的名字

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

从会场展示来看,目前蓝心大模型还支持虚拟人生成、AI音频生成,也具备一定的数理逻辑能力。

对记者的影像进行虚拟人生成

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

输入对音频的风格要求,快速生成一段10秒音乐

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

vivo MathGPT对数学作业进行解题和批改

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

输入一道鸡兔同笼的数学图

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

vivo副总裁、OS 产品副总裁、vivo AI全球研究院院长周围在采访中表示,vivo在2018年成立人工智能图谱研究院,目前已积累了13000T的多种模态数据以及2800T中文文本数据,并已组建了150人的工程化团队,千亿模型的训练周期为60天、百亿模型的训练周期为14天。

据了解,vivo蓝心大模型将在OriginOS 4系统中被首次应用,会在即将发布的vivo X100系列上搭载。

vivo AI解决方案中心总监谢伟钦介绍,vivo X100系列将提供1B和7B端侧大模型选项,用户可选择本地化部署。

“7B在任务拆解方面能够勉强胜任,但其实13B大模型会更优。我们已经实现了130亿蓝心大模型在端侧跑通,但所占用的内存比较大,这对现有手机配置有较高的挑战。”周围说,“从长期来看大模型对行业的影响是颠覆性的,未来每个人都需要一个精灵助理的角色,甚至摄像头、机器狗都会具备这样的交互能力。”

谈及大模型研发的难点,周围坦言,一是数据量,二是算力限制。“数据不够就没有机会,这也是为何我们在18年成立图谱研究院。而算力方面的挑战很大。芯片很难买,成本也很高。我们做了6年相关研究,每年2、30亿的成本,数据和算力占一半,人力占一半。目前来看,两年内可能还不会有商业模式上的机会,我们还是保持平常心。”

谈及蓝心大模型的性能水平,周围表示,与GPT4还有接近一年的差距。“我们正在研发多模态大模型。这次推出不同参数量的大模型矩阵,一方面是在端侧实现大模型,能更好地维护用户的隐私安全;另一方面是为了提升体验,端侧时延更短。另外,端侧的应用成本更低。而云端大模型调用一次需要1分5左右的成本。”

▍面向AI大模型时代 vivo发布自研操作系统蓝河

在本次开发者大会上,vivo还首次发布了自研蓝河操作系统,系统框架由Rust语言编写,将引入蓝心大模型能力,支持复杂的意图识别和交互方式,这既为用户提供了声音、图片、手势等交互方式,也为开发者提供了自动编写代码等应用开发范式。

记者在现场看到,vivo WATCH3将成为首款搭载蓝河操作系统的设备,用户可以通过语音的方式,基于AI能力来创作手表表盘。

vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型
vivo发布蓝心大模型矩阵 新机X100系列将搭载端侧大模型

据介绍,蓝河操作系统作为一个标准的操作系统,兼容不同的硬件体系结构。通过内核抽象层实现了对不同内核兼容,蓝河是符合Posix标准的操作系统,支持Linux内核,RTOS内核。

周围表示,之所以启动蓝河操作系统的研发,正是考虑到未来大模型时代对终端的需求。

“蓝河操作系统与现有的OriginOS 4系统并非替换关系,是面向未来的智能体手机来研发的。大模型需要较高的性能配置支撑,当下的终端很难符合要求。我们希望低配置的终端也能以很高的流畅性来跑端侧大模型,这是开发蓝河操作系统的初衷。目前该系统不兼容安卓,后续还会上其他IoT终端,但暂时不会在手机上应用。”

(科创板日报记者 黄心怡)