手机端也能流畅运行,腾讯混元宣布开源四款小尺寸模型
8月4日,腾讯混元宣布开源四款小尺寸模型,参数分别为 0.5B、1.8B、4B、7B,消费级显卡即可运行,适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景,且支持垂直领域低成本微调。
模型相关得分 腾讯官方
据悉,相关模型也兼容SGLang、vLLM、TensorRT-LLM等主流推理框架。
模型的Agent能力也相当突出。它能深度搜索资料、整理去年消费账单并自动生成Excel分析,还能一手包办旅行规划从路线搜索到攻略制定的全流程,高效处理多种任务。
本文系观察者网独家稿件,未经授权,不得转载。
1、花都发布龙卷风警报!广州今明两日强降水仍将持续,花都天气风向
2、俄军在哈尔科夫方向利用无人机投放劝降传单,哈尔科夫反击战
3、南部战区:对菲拉拢域外国家搅局南海持续保持高度戒备,中华人民共和国南部战区