原文:电子爱好者网
生成式人工智能(generative artificial intelligence)又称AIGC或生成式人工智能，是指基于算法、模型和规则生成文本、图片、声音、视频、代码等内容的技术。中科院人工智能学院教授、亚太人工智能学会执行主席雷曲江认为，未来，生成式AI将在医疗、生命科学、游戏、娱乐、计算机工程等垂直领域产生巨大影响。国际研究机构Gartner预测，2025年AIGC的渗透率有望提升至10%，2030年市场规模将超过万亿人民币。一些公司已经进入了这一轨道，谷歌、微软、Snapchat和Meta已经宣布在其产品中推出AIGC工具。作为边缘人工智能领域的全球领导者，高通的进展如何？
“今天，生成式人工智能的能力让所有人兴奋不已。作为一项革命性的技术，它将被广泛应用，并颠覆我们的工作和娱乐。”6月16日，高通AI商业媒体在线沟通会上，产品管理高级副总裁兼AI负责人Ziad Asghar表示。
图片来源:由* * AI生成
终端侧的edge AI体验如何显著提升？边缘方面，生成式AI如何成为生产力？为什么说混合AI技术是AI技术的未来？带着这些热点话题，高通科技公司产品管理高级副总裁兼AI负责人Ziad Asghar与记者畅谈了AI技术的发展趋势和生产AI落地的最新进展。
生成式AI的终端端用例丰富，高通AI技术和软件栈全面辅助。
“生成式AI有非常丰富的应用领域，包括搜索、内容生成、生产力、代码编写等。，颠覆了很多技术领域。一些内容可以由一个大模型在几秒钟内生成。但是很多人看到AI就觉得是云AI做的，但是在高通，通过先进的技术，我们可以让这些优秀的用例在边缘实现。”齐亚德·阿斯加尔说。
在手机、PC、XR、物联网、汽车中，生成式AI的应用大量涌现。首先，在手机端，手机作为一种高度个性化的设备，可以通过生成式AI成为消费者真正的数字助手，接受用户的需求，甚至可以在不联网的情况下完成任务。比如完全通过大型基础模型(比如文本生成文本模型LLaMA)与用户沟通；在XR上，生成式AI可以根据终端侧提供的用户信息进行定制和优化，为用户带来完全不同的独特虚拟世界体验；在PC上，以骁龙为例，生成式AI可以根据视频会议的语音转写内容制作任务清单，自动生成完整的演示文稿，供用户直接使用，生产力可以翻倍。本地有硬件组块，允许用户在本地生成AI能力，这是区别于其他竞争对手的。
图:互动AI电子爱好者在智能驾驶舱拍摄
此外，汽车端也有很多用例，今年在全球增长很快。比如在驾驶舱使用对话式AI，给你推荐餐厅，规划你的工作任务。生成式AI还可以根据起点和目的地信息，以及汽车丰富的传感器数据，制定不同的路线规划，寻找最佳路线。在物联网领域，生成式AI可以帮助建立专业领域和物联网助手的GPT类型模型，帮助用户完成不同的任务，适用于改善医疗、零售和酒店管理领域的客户和员工体验。
“在云端运行一个超过10亿个参数的生成式AI模型可能需要数百瓦的功耗，而在终端端运行只需要几毫瓦。高通在Android手机上实现了全球首个稳定扩散终端演示。稳定扩散是一个超过10亿个参数的大型神经网络基础模型，可以根据输入的文字提示生成图片。”Ziad Asghar指出，“通过我们的全栈AI优化，这个模型可以完全在终端侧运行，在15秒内实现20步推理，生成充满细节的图像。高通的AI技术可以支持终端在给定功耗下完成更多的处理工作，遥遥领先于竞争对手，这让我们在生成式AI领域拥有独特的优势。”
据报道，高通已经为稳定扩散优化了全栈AI。2022年6月，高通特别推出了面向edge AI的领先软件栈产品——高通AI软件栈。它从软件层面支持模型优化。
Ziad Asghar强调:“高通在人工智能商业领域的三个关键要素包括:1。行业领先的硬件，在给定功耗下支持更高的性能；2.行业领先的高通软件堆栈；3.领先的工具，包括高通人工智能模型协同工具包(AIMET)。亿万终端充分利用高通在人工智能技术方面的硬件、软件和工具优势发挥作用。在高通统一技术路线图的背景下，我们可以将核心的硬件、软件和工具技术扩展到不同的产品线。开发者只需要开发一次，就可以将开发成果和经验运用到其他使用高通技术和平台的产品上。”
混合AI技术是AI的未来，高通AI技术从C端到B端全面发力。
“云端和终端分布式处理的混合AI是AI的未来。混合AI的优势在于，即使不同的终端具有不同的处理能力，但仍然可以提供类似的体验，同时带来包括成本、能耗、隐私和安全以及个性化在内的优势。还可以通过优秀的5G连接技术，保证信息端到端的高效传递。”Ziad Asghar对AI的未来做出了明确的判断。
为什么云AI很难支撑生产AI的大规模扩展？这是因为云处理中存在成本的乘数效应。用户查询次数越多，模型规模越大，会导致云的成本上升。成本节约是主要驱动因素。据估计，使用基于生成式AI的搜索，每次查询的成本是传统搜索方式的10倍，而这只是生成式AI的众多应用之一。此外，应用和用户数量的增加也会导致成本的增加。很难在云端实现生成式AI所需的所有工作负载。我们需要更多的利用混合AI，把一些处理交给终端侧，这样才能真正发挥生成式AI的优势。
混合AI架构可以根据模型的复杂程度和查询需求，选择不同的方式在云和终端之间分配处理负载。“以汽车为例。在数字驾驶舱中，我们可以为用户提供一个真实的虚拟助手。在汽车领域，我们需要结合雷达、激光雷达、摄像头等多模态和传感器数据，才能在用生成式AI规划路线时获得最佳效果。汽车需要非常强大的处理能力。一方面，汽车领域的生成式AI用例需要非常丰富的终端侧处理能力。同时，它还需要通过高速低时延的5 G连接使用云资源进行处理。相比其他产品线，汽车产品高通可以提供更具生成性的AI处理能力。”Ziad Asghar告诉电子爱好者。
Ziad Asghar透露，目前，高通可以支持超过10亿个参数的稳定扩散模型在终端侧运行，但我们也看到许多关键的生成式AI模型，如文本生成图像、自然语言处理、编程、图像理解、图像创建等。，一般都是10亿到100亿之间的参数。未来几个月，高通有望支持超过100亿参数的模型在终端侧运行，这也将成为基于高通技术的产品的一大差异化优势。混合AI战略适用于所有生成式AI应用和终端领域，包括手机、笔记本、XR耳机、汽车和物联网。从C端到B端，这一策略对于生成式AI的大规模扩张非常重要。
本网站声明:网站内容来源于网络。如有侵权，请联系我们，我们会及时处理。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信，我们会及时处理和回复。
原文地址"高通项目，高通aie"：http://www.ljycsb.cn/qukuailian/213876.html。
微信扫描二维码投放广告
▲长按图片识别二维码
