腾讯混元开源四个小尺寸模型，支持端侧部署

腾讯混元开源四个小尺寸模型，支持端侧部署

8月4日，腾讯混元宣布开源四款小尺寸模型，参数分别为 0.5B、1.8B、4B、7B，消费级显卡即可运行，适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景，且支持垂直领域低成本微调。

目前，四个模型均在 Github 和Huggingface等开源社区上线，Arm、高通、Intel、联发科技等多个消费级终端芯片平台也都宣布支持部署。

据介绍，新开源的4个模型属于融合推理模型，具备推理速度快、性价比高的特点，用户可根据使用场景灵活选择模型思考模式——快思考模式提供简洁、高效的输出；而慢思考涉及解决复杂问题，具备更全面的推理步骤。

Top

1、《罗小黑战记2》票房破3.5亿，泡泡玛特官方发文祝贺，联名盲盒即将上市

2、为8千月薪每天工作快14小时，想从「扫腿舞团播」里分杯羹的年轻人快累吐了

3、俄罗斯占领战略重镇，美国威胁要动用核潜艇，美俄关系又僵了,美国侵犯俄罗斯领海,俄罗斯发射核弹轰炸美国本土