腾讯混元大模型推出4款小模型,支持手机等设备部署
2025年8月4日消息,腾讯混元大模型团队宣布开源4款小尺寸模型,腾讯混元0.5B、1.8B、4B、7B模型发布,消费级显卡即可运行,适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景,Arm、高通、Intel、联发科技等芯片平台也支持部署。
据了解,四款腾讯混元小模型属于融合推理模型,具备推理速度快、性价比高的特点。四款模型均实现对标业界同尺寸模型,尤其是在语言理解、数学、推理等领域表现出色,在多个公开测试集上均取得领先的成绩。
四款腾讯混元小模型支持单卡部署,手机、笔记本、平板Pad均可接入,支持主流推理框架,如SGLang,vLLM and TensorRT-LLM等多种量化格式,具有较强的开放性。
1、复旦大学教授谈“武大图书馆”事件:怎么看都是提告的一方欺人太甚,校方处分不当
2、重大好消息!商务部老字号数字博物馆清真食品与宗教捆绑的现象,已全部清理!