品玩9月26日讯,据 Meta 官方消息,Meta 现已发布全新开源大模型 Llama 3.2。其中包括适用于边缘和移动设备的中小型视觉 LLM(11B 和 90B)以及轻量级纯文本模型(1B 和 3B),包括预训练和指令调整版本。
Llama 3.2 1B 和 3B 模型支持 128K 字元的上下文长度,在边缘本地运行的设备用例(如摘要、指令跟踪和改写任务)中处于同类产品的领先水平。高通和联发科硬件在第一天就启用了这些型号,并针对 Arm 处理器进行了优化。
Meta将分享首批官方 Llama Stack 发行版,这将简化开发人员在不同环境中使用 Llama 模型的方式,实现检索增强生成(RAG)和工具支持型应用的交钥匙部署,并集成安全性。

0 条评论
请「登录」后评论