品玩11月4日讯,Standard Intelligence Lab 宣布近日推出开源模型 Hertz-Dev,可实现与 AI 的实时对话。
据 Standard Intelligence Lab 表示, Hertz-Dev 规模达到8.5亿参数,理论延迟仅为80毫秒,实际使用中的延迟为120毫秒,所有这一切都只需一块 NVIDIA RTX4090显卡。Hertz-Dev 的架构采用了多种新颖的优化技术,确保了在降低计算负担的同时,输出质量依然保持高水平。
初步测试表明,与之前的开源模型相比,Hertz-Dev 在响应时间上可减少多达40%。这种灵活性使得它适用于多种场景,从智能家居的语音控制到客户服务的自动化。
0 条评论
请「登录」后评论