对话后摩智能CEO吴强：未来90%的数据处理可能会在端边
作为主打端边大模型和存算一体的芯片企业，后摩智能这次带来的M50芯片专为大模型推理设计，主要面向AI PC（人工智能个人电脑）、智能终端等场景。
“未来大模型有两个重要发展趋势：一是大模型的重心逐渐从训练向推理迁移。二是逐渐从云端智能逐渐向边端或者端边智能迁移。”7月25日，后摩智能CEO（首席执行官）吴强对观察者网等表示。
他认为，未来的计算格局有可能是端、边、云的混合体，但是90%的数据处理可能会在端和边，只有10%的训练算到云端做更昂贵或者更复杂的任务在云端做。
M50芯片被视为后摩智能过去两年交出的一份答卷。
据介绍，M50芯片实现了160TOPS INT8、100TFLOPS bFP16的物理算力，搭配最大48GB内存与153.6 GB/s的超高带宽，典型功耗仅10W，相当于手机快充的功率，能让PC、智能语音设备、机器人等智能移动终端高效运行1.5B到70B参数的本地大模型，实现了“高算力、低功耗、即插即用”。
吴强曾表示，国产替代的企业可以对标海外的某类产品，但绝不能用同样的技术路径进行照搬，如英伟达、AMD等国际巨头的研发、工程、供应链能力远超过初创企业，硬碰硬难以取得成功，创业公司需要另辟蹊径，以一种差异化的技术路线来应对和巨头们之间的竞争。
当前，后摩智能通过存算一体技术与大模型的深度融合，推动AI大模型在端边侧实现“离线可用、数据留痕不外露”。
吴强称，M50芯片的发布是后摩智能现阶段迈出的重要的一步，后面会推出更多的芯片去解决端边大模型的算力和功耗问题以及带宽问题。“长期来说，后摩希望定位在端边AI计算。”
吴强还披露了当下后摩智能的意向客户，包括联想的下一代AI PC产品、讯飞听见的下一代智能语音设备以及中国移动的全新一代的5G+AI边缘计算设备等。
“目前我们看重几个领域，一是平板和电脑这种消费终端类，大模型是生产力工具。二是智能语音系统，大模型语音会议也是我们重点布局的方面。三是运营商的边缘计算，5G+AI是一个趋势。”他说道。
面向未来，后摩智能已启动下一代DRAM-PIM技术研发，通过将计算单元直接嵌入DRAM阵列，使计算与存储的协同更加紧密高效。该技术将突破1TB/s片内带宽，能效较现有水平再提升三倍，推动百亿参数大模型在终端设备实现普及，让更强大的AI算力能够融入PC、平板等日常设备。
本文系观察者网独家稿件，未经授权，不得转载。
1、祝贺！中国队获得游泳世锦赛男女4x100米混合泳接力银牌,中国男女混合4x100接力游泳世界纪录
2、华安基金人事变动：原招商基金总经理徐勇接任党委书记，将迎接合并挑战原招商基金总经理徐勇已经入职华安基金，接任华安基金党委书记。