AI终端与个人智能体元年已至!深度对话全产业链玩家畅聊AI新风口

时间: 2024-07-31 12:47:50 |   作者: 破胎器

  智东西12月27日报道,昨日,在2023联想天禧AI生态大会上,联想发布天禧AI生态“四端一体”战略,并首次亮相了个人智能体“小乐同学”。

  其中,“四端”指的是,AI PC、AI平板、AI手机和AIoT四类终端设备;“一体”一方面指承接用户个人助理任务的个人智能体,也就是“小乐同学”,另一方面意味着个人智能体将四类AI终端融为一体。

  随着端云混合大模型、个人智能体、AI应用开放生态等的嵌入,以及上下游厂商的携手发力,AI终端及生态必将掀起新一轮的变革浪潮。

  围绕着“AI终端及个人智能体的思考与实践”这一主题,在大会的圆桌论坛环节,智一科技联合发起人、总编辑张国仁与英特尔中国研究院院长、英特尔研究院副总裁宋继强,百度副总裁陈一凡,联想集团副总裁、中国区战略及业务拓展副总裁阿不力克木阿不力米提(以下简称阿木),爱设计&AIPPT创始人、CEO赵充,MiniMax副总裁魏伟,联想中国区消费互联网服务事业部总经理陈学桂,一同探讨了芯片玩家、云服务玩家、大模型玩家、AI应用玩家将如何通过AI终端及个人智能体协同为用户打造便捷、高效、易用的AI体验。

  张国仁首先抛出了一个问题,如今业界对终端跑大模型、本地AI部署的关注度上升,英特尔怎么样才能解决性能和算力的要求?

  大模型基于云端访问带给人们的体验已经十分丰富,但他认为,想要让大模型的能力发挥更广泛,就需要更靠近用户来部署,“现在最优的部署方式是,PC、AIoT加云”。

  他谈道,个人智能体要和用户实现密切交互十分复杂,既要做到低延迟、保护隐私,还要真正释放出大模型在终端设备上的能力。

  宋继强举了一个例子,智能体的框架中需要基于终端的外设与用户通过自然语言、视觉等方式实现交互,当设备进入休眠状态,也能够有计算能力支持其不断听、观察。该设备还能通过调用本地个性化的知识图谱进行数据处理,同时完成隐私管控、安全方面的检查。

  “这样的多任务进程,就需要大量的高通量计算,未来对这种本地算力的支持将基于多架构共同完成,包括系统级芯片、系统架构等,还要满足多种功耗运行的需求。”他解释道。

  12月15日,英特尔发布了作为AI PC基石的酷睿Ultra处理器,采用Meteor Lake架构,宋继强称,这就是典型的NPU+GPU+CPU架构。

  其中,CPU中包含性能核、能效核等,能够准确的通过工作负载需要调度,并基于软硬件组合提供对应性能;GPU就可以负责完成本地大模型的推理、调优;NPU主要负责完成高性能、低功耗的大模型推理,并在系统休眠时期提供智能化管理的平台能力。

  最后,宋继强总结道,这样的演进是未来的必由之路,通过硬件创新以及软件工具将大模型在终端调度起来,然后通过生态合作继续推动未来大模型在终端的部署,呈现出大模型这一使用模式的更多价值。

  百度作为国内云厂商同时也是国产大模型的典型代表,张国仁问道,百度认为用户本地终端具备部署AI的能力后,端云混合能带来哪些不一样的AI使用体验?

  在陈一凡看来,大众的认知在发生明显的变化,大模型刚出现之时,大家一致认为其能解决非常多的问题,但现在大模型相结合这种混合专家模型(MoE)的方式被看作比较好的方案。

  当对用户进行需求分析时,陈一凡举例说道,用户在问乘法、“今天星期几”等简单问题时,往往需要快速得到答案;用户询问帮我订机票等问题时,大模型应该要依据其个人习惯给出答案。他认为,个人数据上传到云端,云端反馈不仅时延长,也有一定安全的风险。

  因此,这样的一种情况下MoE的方式就更合适。这一解决方案既能在终端回答问题简单的问题,还能结合用户反馈在云端进行训练,包括对Prompt的调整、微调等。

  陈一凡认为,对于联想的用户而言,大模型实现从终端到云端的结合后,其获得的体验最好。用户能通过终端大模型得到快速反馈,在解数学题、生成摘要等复杂场景中也能基于云端能力获得更高质量的答案。

  在用户个人隐私方面,百度与联想的合作采用了向量数据库等方案,能实现对用户个人数据的脱敏,保证用户获得更好的个人服务,同时发挥出云端大模型的能力。

  他还提到,这一过程里百度和联想的合作非常顺理成章。他说:“过去十年有一个思维习惯就是Mobile First——所有事先考虑移动生态。”但他认为,很多生产力其实在PC上,例如预定回忆、处理文档、智能助手等功能。

  因此AI时代很多功能回到了PC上,百度将与PC大厂联想在PC端、移动端启动终端和云端合作,并最终服务好其共同用户。

  本月中旬,联想发布两款AI PC产品,张国仁问道,在此背景下,联想未来打算如何携手合作伙伴将这种智能体验辐射到更多场景中?

  阿木谈道,大模型和设备相结合,并让用户肉眼看到强大的表现,就是始于PC。

  大模型呈现出了强大的创作能力,这一能力的重要载体一直以来都是PC,智能手机主要解决的是消费和社交。因此,他认为,从AI PC开始,AI手机、AI平板、AI投影仪、AI机器人,甚至是家庭边缘侧的主机,都会有新形态来承载大模型的运算、快速推理及本地数据保护,并且这些设备将慢慢的变懂用户,并在端侧完成微调。

  这背后有一个重要的概念,阿木认为,这是15年来OS(操作系统)的一大升级,现在OS就是大模型,形成了智能体前端、大模型支持、知识库调用、AI原生应用相连接的服务形态,并且在这个时代已经落地。

  ▲联想集团副总裁、中国区战略及业务拓展副总裁阿不力克木阿不力米提

  对于应用开发者而言,他提到,要么做AI原生应用,要么将原有应用升级为可以通过原生自然交互方式调用的应用,并且这一产品还需要获得用户认可并愿意持续使用,“这件事情就是越快越好”。

  一方面,这样的产品形态未来将与AI PC、AI手机、AI平板等各种终端设备直接一体全部适配;另一方面,阿木谈道,算力的支撑也会让AI技术更快推广到类型丰富的终端上。不过从目前来看,PC因其在配置、续航、交互方面已经打磨了几十年之前,所以现阶段其能力也更强。

  他也坚信,在不同玩家的共同参与下,英特尔等厂商会引领终端AI第一算力的身份,拉动整个AI的下一代OS创新,其余设备在这样的趋势下很快补齐算力的不足,迎头赶上,这样就会逐渐形成真正意义的终端生态。

  作为国内AI首批开发者,爱设计&AIPPT对于AI应用开发的方向有什么思考?张国仁问道。

  一开始,承接着阿木的观点,赵充谈道,他们与联想达成了高度共识——这是AI PC时代,整个OS被AI重新改造。他同样认为,所有的应用都应该基于AI重做一遍或者增加AI功能,这对于开发者而言是一个重要变量,因为其为用户所带来的体验将会存在代际差异,因此开发者必须拥抱AI。

  爱设计的AI PC产品早已开始布局,该公司2017年就上线了首款GPT产品,并陆续开发了十几款不同的编辑器,内置了几十万份素材模板。基于这样的产品体系,赵充谈道,他们抽出其中一个单品打造了AI PPT,并在今年成为小爆款应用,在联想生态下获得了用户反馈并变现。

  谈及最初选择市场时,他举例说,做海报这一场景的用户频次大概在双周左右,很多公司会选择在某一节气发布海报,因此他们盼望选择一大用户使用频次更高的赛道。办公场景做PPT就是这样的存在,赵充补充道,这一赛道国内有千亿市值玩家、国外有万亿市值玩家,因为市场足够大,“我们只需要抢一点点就足够了”。

  未来,基于AI PPT,赵充谈道,首先他们会布局多模态大模型,引入虚拟人等,其中一大典型的应用就是为嘉宾打造数字人,并换各种方言讲解PPT。此外,他们还会与视觉中国的图库进行匹配,自动生成配图等。

  其次就是协作。日常工作中,一份PPT的制作与完善往往需要很多同时参与,因此他们会将这一模式变为线上化,用户只需要发送链接就能进行同步修改。

  第三是出海。他谈道,全球办公市场的规模大概为450亿美元,目前AI PPT已经上线了英文版。

  在最后总结时,赵充称,他们先后推出了开放平台和API,并基于Agent已经在文心一言插件商城上线月会在联想小乐同学个人智能体中上线。这也是他们重要的增长策略,拥抱联想生态共同成长。

  对于有丰富AI经验的大模型厂商MiniMax,张国仁提问道,MiniMax将如何赋能其他不一样的产品的应用落地?

  MiniMax作为国内最早做AGI(通用AI)的创企之一,一开始就瞄准了文本、语音、视觉三大模型,并不断布局面向B端和C端的产品。魏伟透露,近期MiniMax将发布国内首个MoE模型,该模型的数据和性能将对标GPT-4,他们会不断迭代产品来缩小其与CPT-4的差距。

  在赋能场景落地方面,魏伟提到了一个观点,模型的能力决定了应用或产品的上限,产品的边界由技术驱动。

  他解释道,MiniMax的文本模型迭代并不是结合理论上的测试题,而是基于实际用户的场景,语音模型在生成的自然度、拟人性、多样性方面会比传统的TSL中文语音合成模块效果更好。

  MiniMax已经如让郭德纲用英文讲相声、马斯克讲中文、实时对话等在很多场景通过大模型能力实现了。

  面向C端,该公司打造了娱乐类产品星野等,魏伟谈道这一产品在用户使用时长、互动上的效果表现较好。还有生产力产品海螺问问,在实时搜索、语音通话、长文本分析、拍照解析上做了更多探索。

  如作为生产力工具的金山办公,MiniMax通过模型微调、思维链拆分、意图理解等,帮助其完成文档、表格、PPT等的深层润色优化;还有娱乐类的阅文集团、小红书,MiniMax会帮助其提高长文理解、人机交互的效果。

  魏伟谈道,MiniMax坚持的是通过迭代自己的技术,来继续扩展应用和场景的上限。

  目前联想已拥有十分丰富的上下游合作伙伴,张国仁也询问了联想将如何携手合作伙伴开放共赢。

  陈学桂感慨道,当下上下游伙伴的合作让他回忆起了12年前,当时移动互联网刚开始,行业中孕育了大量的机会,也有众多类似今天的圆桌对线余年间,移动互联网行业诞生了很多成功的公司、产品、开发者,他认为现在或许是一轮新的机会。

  根据以往的经验,每一次的技术发展可能都会使得原先的业务形态发生明显的变化。陈学桂一直身处行业之中,他见证了安卓、iOS操作系统的诞生。

  他回忆道,当时智能终端的操作系统是塞班、应用形态纷繁复杂、电子设备屏幕采用电阻屏,当2011-2013年间,市场机会出现时大家并没有第一时间反应过来。与此同时,一些大的桌面网络公司被逐步淘汰,一些抓住机遇的公司成长起来。

  回到现在,他认为,联想作为终端平台希望将最新的机会体现出来。上一个时代设备先行,智能手机先跑起来才造就了移动互联网行业崛起。所以这一轮AI机遇期,可能智能体、端云混合的大模型架构、开放的互联互通交互会让新的公司抓住机遇成长起来。

  在大模型的应用方面,怎么来实现商业闭环是联想与众多生态链企业要共同探索的方向,其变现方式是基于订阅、Token的使用或者广告需要整个行业的合作伙伴共同实践。他补充说,或许这一过程还会通过互相组合产生全新的机会,使得这一行业的体量翻番。

  大模型引爆的热潮已经持续一年之久,在端侧部署的大模型能力受关注度慢慢的升高。AI终端和更强的个人智能体正在走向我们,并改变我们的工作和生活。最后,各位嘉宾也探讨了对于AI终端及个人智能体未来的发展期许。

  宋继强将AI PC这一波创新机遇类比为多年前将Wi-Fi能力装进PC,对公司而言,这是非常大的机会,它会改变未来整个平台架构、OS、用户交互界面。

  陈一凡认为AI的全栈技术和边缘云的部署方式将成为AI原生应用的重要成功因素。

  阿木谈道,今年2024年不仅是AI PC的元年,更是AI终端的元年。个人智能体成为终端和用户、大模型与实际体验的一座桥梁,这将重构未来应用体验与产品之间的关系。

  做AI应用的赵充称,他希望2024年AI PPT能成为打工人“神器”,将这些工具送到所有打工人面前。

  陈学桂谈道,联想致力于将智能体打造为下一代设备和用户的新交互入口,让更多公司参与到这一大变革浪潮中。

  可以预见,在不远的将来,AI不仅会改变PC的发展进程,同样会促使各类终端设备发生改变。