可以在笔记本电脑或移动设备上运行。

微软研究院推出Phi-2小语言模型,“也可以解决物理等学科问题”

2023-12-13 11:07:14发布     来源:多知网    作者:王上  

  多知网12月13日消息,微软研究院今天在X上宣布发布其 Phi-2 小语言模型(SML)和promptbase,微软表示,“Phi-2 足够小,可以在笔记本电脑或移动设备上运行。”

  Phi-2 有 27 亿个参数(人工神经元之间的连接),其他的大模型如Meta 的 Llama 2-7B 有 70 亿个参数。

WechatIMG89.jpg

  微软研究员说,在各种综合基准测试中,Phi-2 的表现超过了欧洲AI初创公司Mistral旗下拥有70亿个参数的大语言模型(LLM)Mistral 7B、以及Meta发布的参数达130亿个的AI模型Llama 2,甚至优于谷歌最新发布的 32 亿参数的Gemini Nano 2。

  微软称,Phi-2模型的性能与谷歌Gemini Nano 2相当,甚至更好,尽管模型规模较小。此外,也能够正确回答问题并纠正学生。

WechatIMG91.jpg

(Phi-2回答物理题目)

  微软于今年6月发布只有13 亿参数的Phi-1模型,适用于QA问答、聊天格式和代码等等场景。微软表示,Phi-2在逻辑推理和安全性方面显示出显著的改进,通过正确的微调和定制,小型语言模型是云和边缘应用程序的强大工具。

  但是,微软研究院指出,Phi-2 仍然存在很大的局限性,它只有“仅研究目的”的许可证,而不是商业用途,该许可证进一步规定了 Phi -2只能用于“非商业、非创收、研究目的”。(多知网 王上)