与腾讯混元展开合作，基于骁龙8至尊版移动平台实现腾讯混元大模型7B和3B版本的终端侧部署，进一步扩展生成式

  •借助骁龙8至尊版的强大终端侧AI性能和高通AI软件栈，腾讯混元大模型可以在一定程度上完成出色的终端侧运行表现，为腾讯的广泛业务场景和应用提供底层端侧AI支持。

  骁龙峰会期间，高通技术公司宣布与腾讯混元合作，基于骁龙8至尊版移动平台，一同推动了腾讯混元大模型7B和3B版本的终端侧部署，展示了此合作实现出色的运行表现。这将有利于腾讯混元大模型为广泛的业务场景提供技术上的支持，通过利用终端侧AI加速产品创新，大大降低经营成本，并进一步扩展生成式AI在终端侧的应用和普及。

  骁龙8至尊版移动平台搭载全新的第二代定制高通OryonCPU和增强的高通HexagonNPU，充分的利用高通AI引擎优势，能带来更强大的终端侧生成式AI解决能力。骁龙8至尊版的强大AI算力，结合高通AI软件栈以及行业领先的工具套件，包括高通AI模型增效工具包（AIMET）等，为模型提供了全栈优化能力。利用基于硬件的INT4量化技术，可以大幅度的提高腾讯混元大模型在终端侧的运行效率，端侧推理实现首个token生成时延达到150ms，解码速率达到超过30 tokens/秒。

  腾讯混元大模型已为腾讯内部超过700个业务场景和C端应用提供底层技术上的支持，包括微信输入法、腾讯手机管家、QQ、qq视频、QQ浏览器、企业微信、腾讯会议等，通过实现面向骁龙8至尊版的终端侧部署，能利用终端侧生成式AI的丰富优势，更好地满足广泛的终端侧业务需求。例如，腾讯手机管家短信智能识别功能率先利用腾讯混元的终端侧模型能力，通过海量数据结合深度神经网络与预训练，让模型具备极强的语义理解能力，通过结合上下文语境信息更准确地理解短信意图，使短信召回率大幅度提高将近200%，识别准确率提升20%。由于部分短信涉及用户个人敏感信息，端侧AI还可以在保证出色性能表现的同时，有效保护用户的个人隐私信息隐私安全。

  高通与腾讯混元大模型团队长期携手推动前沿终端侧技术创新在移动应用中的部署和推广，为广大新老用户和消费的人打造创新的应用体验。高通公司致力于赋能广大ISV合作伙伴和开发者，利用高通强大的异构计算、行业领先的CPU、GPU、NPU和软件解决方案，在搭载骁龙平台的终端上推动生成式AI应用的普及，惠及全球更多用户。

  腾讯混元已经构建起了全链路的大模型矩阵和应用平台。同时，腾讯混元逐渐完备部署生态。在云服务场景，我们通过多种技术在提升效果的同时调用价格持续降低。在智能终端场景，腾讯和高通持续深入合作，赋能不同业务对端侧模型的部署需求，并在腾讯丰富的生态中持续迭代能力，让更多的B端和C端用户获得实用大模型的非凡体验。

  原文标题：高通与腾讯混元合作，基于骁龙8至尊版一同推动腾讯混元大模型终端侧部署

  文章出处：【微信号：Qualcomm_China，微信公众号：高通中国】欢迎添加关注！文章转载请注明出处。

  近日，在2024年12月24日举办的开放原子开发者大会暨首届开源技术学术大会上，

  近日，北京智源人工智能研究院(BAAI)发布了最新的FlagEval大模型评测排行榜，其中多模态模型评测榜单的文生图模型引起了广泛关注。结果显示，

  大模型正式上线，并开源了一项令人瞩目的能力——文生视频。该大模型参数量高达130亿，支持中英文双语输入，为用户更好的提供了更方便快捷和多样化的视频生成体验。 据官方介绍，

  日前，北京玻色量子科技有限公司(以下简称“玻色量子”)与相干(北京)科技有限公司(以下简称“相干科技”)

  伙伴关系，双方将在人工智能生态建设、AI应用等领域长期开展广泛和深入

  内容不仅限于音乐产品层面，更将深入音乐AI技术等多重维度，旨在全方面提升用户的音乐娱乐享受。

  近日，Fujitsu Limited与Supermicro, Inc宣布

  全链路自研的万亿参数大模型，采用混合专家模型（MoE）结构，模型总体性能较上一代提升50%。

  宇宙 /

  以色列汽车科技初创企业Foretellix于5月7日发布声明，宣布与吉利汽车

  ，携手为边缘计算领域带来变革，共创边缘人工智能生态系多元且开放的新格局。

  全新高通骁龙888移动平台集成有史以来最强大的Adreno 660 GPU

  eIQ Time Series Studio工具使用攻略(三)-工程创建

  LabVIEW运动控制（一）：EtherCAT运动控制器的SCARA机械手应用

  imx6ull 和 lan8742 工作起来不正常, ping 老是丢包