天玑9300 AI实力飙升 最高支持330亿参数的AI大语言模型

在今晚的新闻发布会上，联发科推出了其全新的旗舰级5G集成智能处理平台天玑 9300，支持在端侧生成式AI、游戏、影像等方面定义旗舰新体验。

APU 790内置了硬件级的生成式AI引擎，可实现更加高速且安全的边缘AI计算，深度适配Transformer模型进行算子加速，图像处理速度是上一代的处理器的8倍，意味着1秒内可高效能地生成数以百万计的图片。

同时，基于亿级参数大语言模型特性，MediaTek开发了混合精度INT4量化技术，结合MediaTek特有的内存硬件压缩技术NeuroPilot Compression，可以更高效地利用内存带宽，大幅减少AI大模型对终端内存的占用，支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型。

此外，MediaTek的AI开发平台NeuroPilot构建了丰富的AI生态，支持Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型，完整的工具链助力开发者在端侧快速且高效地部署多模态生成式AI应用，为全世界用户提供文字、图像、多媒体音乐等便携式终端侧个性化的生成式AI自然语言处理的创新用户体验。

（编辑：银川站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!