phi

phi-3

简介

  • 仅3.8B参数的Phi-3-mini在多项基准测试中超过了Llama 3 8B,体积小,可以量化为4位,仅占用约1.8GB的内存,能够在iPhone 14上每秒生成超过12个令牌,对中文支持不太好

  • Phi-3-medium 14B,多数测试中已超越GPT-3.5和Mixtral 8x7b MoE。

  • Phi-3 on Azure AI Studio

参考文章

phi-2

简介

特点

  • 衡算方面:基础模型参数量约为27亿;
  • 移动端要求:量化后的内存需求仅为约1GB;
  • 处理范围:上下文长度可达2048个令牌;
  • 性能比较:表现优于谷歌Nano Gemini(32亿参数量)模型;
  • 适用场景:擅长编程任务,尤其适合Python;
  • 使用许可:遵循MIT协议

相关文章