时间:2025-07-31 00:43 作者:环游世界
对话后摩智能CEO吴强:未来90%的数据处理可能会在端边
在后摩智能展台,后摩智能M50系列产品首次亮相,后摩智能M50芯片与力谋®BX50计算盒子、力擎LQ50 Duo M.2卡等旗下核心产品一同位于展台的核心位置。
“未来大模型有两个重要发展趋势:一是大模型的重心逐渐从训练向推理迁移。二是逐渐从云端智能逐渐向边端或者端边智能迁移。”7月25日,后摩智能CEO(首席执行官)吴强对观察者网等表示。
图源:观察者网
后摩智能创立于2020年,创立早期定位为基于存算一体技术的大算力AI(人工智能)芯片研发企业。创始人吴强拥有美国普林斯顿大学博士学位,曾任地平线CTO(首席技术官)。
据介绍,M50芯片实现了160TOPS INT8、100TFLOPS bFP16的物理算力,搭配最大48GB内存与153.6 GB/s的超高带宽,典型功耗仅10W,相当于手机快充的功率,能让PC、智能语音设备、机器人等智能移动终端高效运行1.5B到70B参数的本地大模型,实现了“高算力、低功耗、即插即用”。
当前,后摩智能通过存算一体技术与大模型的深度融合,推动AI大模型在端边侧实现“离线可用、数据留痕不外露”。
吴强称,M50芯片的发布是后摩智能现阶段迈出的重要的一步,后面会推出更多的芯片去解决端边大模型的算力和功耗问题以及带宽问题。“长期来说,后摩希望定位在端边AI计算。”
在他看来,M50的发布只是一个开始,“我们的目标是让大模型算力像电力一样随处可得、随取随用。”
面向未来,后摩智能已启动下一代DRAM-PIM技术研发,通过将计算单元直接嵌入DRAM阵列,使计算与存储的协同更加紧密高效。该技术将突破1TB/s片内带宽,能效较现有水平再提升三倍,推动百亿参数大模型在终端设备实现普及,让更强大的AI算力能够融入PC、平板等日常设备。
1、橙色预警!广东中部等地将有大到暴雨,局地有雷暴大风,广东地区暴雨
2、土耳其称将于8月2日开始向叙利亚供应天然气,土耳其称将于8月2日开始向叙利亚供应天然气吗
3、自然资源部:解除浙江、上海沿岸的海啸黄色警报,上海海啸记录