手机端也能流畅运行,腾讯混元宣布开源四款小尺寸模型
8月4日,腾讯混元宣布开源四款小尺寸模型,参数分别为 0.5B、1.8B、4B、7B,消费级显卡即可运行,适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景,且支持垂直领域低成本微调。
相关模型参数 腾讯官方
目前,四个模型均在Github和Huggingface等开源社区上线,Arm、高通、Intel、联发科技等多个消费级终端芯片平台也都宣布支持部署。
据官方发布的内容,在实测中,四个新模型在语言理解、数学、推理等领域,得分都达到领先水平。
模型相关得分 腾讯官方
据悉,相关模型也兼容SGLang、vLLM、TensorRT-LLM等主流推理框架。
同时,模型拥有超强记忆,能精准应答。它可一次性处理256K上下文,即便经过几十轮项目方案讨论,也能记住每处细节,后续提问时依旧对答如流。
模型的Agent能力也相当突出。它能深度搜索资料、整理去年消费账单并自动生成Excel分析,还能一手包办旅行规划从路线搜索到攻略制定的全流程,高效处理多种任务。
1、我是兰州人,兰州拉面牌子是有其兄弟省份的功劳,但部分青海人确实也让甘肃人苦恼
2、看完谷歌Meta最新财报,终于理解它们为啥砸锅卖铁干AI了,谷歌业绩
3、侄子和我四叔都是退役军人,没有过这样的行为,侄子和叔叔一个姓吗