**联发科端侧AI新突破：天玑全面优化微软小语言模型Phi-3.5**

2023年12月27日，联发科宣布其天玑系列移动平台已针对微软最新发布的Phi-3.5小语言模型进行了优化与适配。这一举措标志着联发科在端侧人工智能领域的持续深耕，并预示着用户将享受到更为高效的智能体验。此次优化成功落地在天玑9400、天玑9300和天玑8300芯片上，而未来的生成式AI技术芯片，如天玑8400，也将支持这一新模型。

微软Phi-3.5系列AI模型由三款不同功能的模型组成：Phi-3.5-mini-instruct、Phi-3.5-Mixture of Experts-instruct（简称Phi-3.5-MoE-instruct）以及Phi-3.5-vision-instruct。Phi-3.5-mini-instruct模型包含38亿参数，针对快速推理任务进行了优化，在代码生成及逻辑、数学问题解决等领域表现出色。尽管规模相对较小，但其在各种性能基准测试中表现优异，可媲美Meta Llama 3.1及Mistral 7B等大模型。

Phi-3.5-MoE-instruct模型是家族中体量最大的一位，拥有420亿参数。得益于其混合专家架构，在任何给定操作期间，仅66亿参数处于活动状态。这种设计使得模型能够高效处理跨多种语言的复杂AI任务，特别是在需要多语言能力的任务中，其表现甚至优于谷歌Gemini 1.5 Flash等由竞争对手打造的更大模型。

Phi-3.5-vision-instruct模型则将功能扩展到了多模态领域，拥有42亿参数，能够处理文本和图像，适用于光学字符识别、图表分析及视频摘要等任务。在处理复杂视觉任务时，其能力几乎与业界体量更大的多模态模型不相上下。

联发科此次优化的关键在于小语言模型（SLM）的高效适配。与大语言模型（LLM）相比，小语言模型的参数量大幅减少，从数千亿到数万亿减少到几百万至几十亿，从而降低了模型体积与复杂度，提高了运行效率，降低了开发与使用门槛。这使得小语言模型非常适合智能手机等处理器和内存资源有限的设备。

联发科在推出新模型优化的同时，也简化了开发者的工作流程。开发人员可以通过微软Azure AI模型目录以及联发科的NeuroPilot SDK开发工具包，轻松将Phi-3.5应用于自家产品的开发，特别是那些集成了NPU AI引擎的联发科平台设备。这一技术的融合带来了更多的可能性，使得生成式AI在实际应用中表现得更加出色。

联发科一直致力于端侧AI生态的发展，并不断演进其NPU AI硬件引擎，确保每一代天玑移动平台都能提供旗舰级的性能。在苏黎世AIBenchmark测试中，联发科的AI性能几乎一直名列前茅，牢牢占据行业领先地位。联发科推出的“天玑AI智能体化引擎”正在推动传统应用向智能应用的转型，已经与众多知名应用达成深度合作，使年轻人的日常生活更加智能化和趣味化。

联发科在端侧AI领域的深耕不仅仅是为了提升技术性能，更是为了加速生成式AI的普及和应用落地。联发科认为，智能手机因为具备体验更好的端侧算力、用户规模大且粘性高、具备完整的应用生态等特征，成为了端侧AI应用的首选。生成式AI手机需要支持大模型的本地部署，具备多模态能力，确保流畅和无缝的用户体验，而这些都离不开先进的移动计算平台和神经网络运算单元。

天玑9300+移动平台作为联发科在端侧AI领域的重要产品，拥有强大的生成式AI能力，率先在端侧支持AI推测解码加速技术，性能大幅提升。在芯片硬件方面的强大支持，是联发科能够在端侧AI走向智能手机时代发挥重要作用的根本。而在软件和生态方面的并驾齐驱，则是联发科能让AI在智能手机大展拳脚的底气。

为了加速生成式AI应用的普及，联发科举办了首届“天玑开发者大会”，展示了由芯片、模型和应用构成的天玑AI生态战略，并寄望与产业伙伴、开发者共同探索和发展端侧AI技术。会上，联发科推出了“天玑AI开发套件”，为开发者提供“快、全、强、易”的专业开发体验，赋能终端生成式AI应用开发全流程。这一套件包含了快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境等四大模块。

天玑AI开发套件不仅面向智能手机，还覆盖了智能汽车、物联网、个人电脑等智能终端设备，为全场景生成式AI应用开发赋能。联发科还联合阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo和小米等企业，共启了一个面向全球开发者的“天玑AI先锋计划”，高效赋能开发者，构建从云端到终端的AI新生态，加速推送生成式AI技术在智能终端上的普及。

总的来说，联发科针对微软Phi-3.5小语言模型的优化不仅提升了其移动芯片的性能，更为开发者和最终用户提供了崭新的体验。未来，随着技术的进一步成熟与应用，我们将在快速变革的AI时代中收获更多的可能与智慧。联发科将继续在端侧AI领域深耕，为用户带来更丰富的AI应用，推动人工智能成为推动社会进步和人类幸福的重要力量。

1.联发科天玑AI新飞跃：全面赋能微软Phi-3.5语言模型介绍

2.本站文章推荐

3.相关作者介绍

4.来源信息

5.同作者文章