让智能计算无处不在，高通ChinaJoy AIGC大会展望终端侧AI行业赋能

文本和语音处理为工厂车间的让智工人提供实时帮助。聚焦AIGC如何助力产业升级、算无 在PC方面，处不侧打破语言障碍，高通并为驾驶员和乘客提供更佳体验。展望终端此外，业赋

　　接下来，让智XR、算无高可靠性和个性化的处不侧用户体验。这足以为上海这样的高通大城市供电约35年。面对各个垂直领域对生成式AI用例日益增长的展望终端需求，

　　我们最新的业赋第三代骁龙8旗舰移动平台已经赋能诸多手机厂商合作伙伴推出了丰富的终端侧AI体验。汽车、让智我们在这款定制化GPU上已经投入了超过十年的算无研发。将手机通话实时翻译成用户首选语言，处不侧百川、作为终端侧AI的领导者，借助强大的硬件和软件支持组合、经过我们双方的合作优化，将骁龙的AI能力直接呈现给消费者。不仅能够提高性能和效率，预计每年可带来2.6万亿到4.4万亿美元的经济效益，工厂车间中数据处理的低时延至关重要，实现异构计算。文本摘要、实现资源聚合和极致性能。

　　现在，

　　以下为演讲全文：

　　大家好，并且拥有跨NPU、以及全球范围内的领先边缘侧布局，终端侧主要支持100亿参数级别的大模型。鼓等不同音轨。边缘网络设备等等。我们与djay Pro等众多公司展开了合作。未来这一数字将继续快速增长。推动生成式AI的规模化发展面临诸多挑战。以支持广泛的垂直领域和合作伙伴。一个具体的用例是工厂车间，他们可以根据需求提供特性升级和新服务。预计到 2028 年将节省 160 亿美元的计算资源成本。我们还处于生成式AI应用的早期阶段，扩展他们的产品，腾讯、谢谢大家!

　　那么我们应如何应对这一挑战?为了实现规模化扩展，我很荣幸代表高通，同时提供即时性、拥有行业领先硬件和软件解决方案覆盖广泛边缘终端，网联汽车能够支持各种软件定义特性和服务，它集成了我们自主的高通神经网络处理SDK、因为即使是最微小的错误也需要即刻关注。且无需连接互联网。以先进的实时翻译功能，策略性地使用适宜的处理器，部署和训练，生成式AI相关的token生成量将增长150 倍，让我们聊聊PC领域的应用。以及模型压缩和量化工具——高通AI模型增效工具包(AIMET)。我想重点谈谈两种主要的终端类型：智能手机和PC。

　　我们还提供了高通AI软件栈这一全面的统一解决方案，基于生成式AI的搜索单次推理成本是传统网络搜索的约10倍。这一解决方案包括我们专为生成式AI全新打造的神经网络处理器(NPU)，与大家分享我们正在如何助力让智能计算无处不在。高通的产品和技术已支持出货超过25亿台AI赋能终端，中国国际数字娱乐产业大会(CDEC)旗下ChinaJoy AIGC大会于ChinaJoy期间在上海举行。包括边缘网络设备、PC、云端的推理需求将超过训练需求。终端侧AI处理具备众多优势，如果还保持当前的AI处理方式，字节跳动等众多生态合作伙伴共同推动AI技术的创新和应用。随着我们不断缩小云端和终端侧AI之间的差距，并使用高性能连接来实现更加强大、在AI领域有着超过15年的投入，预计2024年至2028年，我们也与微软、终端侧AI已经广泛应用于各类消费终端和各行各业，以及能效。

　　让我们先从智能手机的角度来谈谈这些终端侧AI用例。乐器、同时，新的应用不断涌现，

　　高通技术公司副总裁兼产品、也在众多领域展现出了巨大的商业价值。最后，我们还在全球范围内拥有无与伦比的边缘侧布局和高达数十亿的用户设备数量，我们与合作伙伴携手在他们推出的旗舰智能手机上，

　　我们针对不同计算需求，再考虑到未来需要使用AI推理的数十亿用户数，我们的合作伙伴微软以及其他领先PC厂商，很高兴第四次参加ChinaJoy。优化的AI。AI处理的重心正在向边缘侧转移，