对话后摩智能CEO吴强:未来90%的数据处理可能会在端边
在后摩智能展台,后摩智能M50系列产品首次亮相,后摩智能M50芯片与力谋®BX50计算盒子、力擎LQ50 Duo M.2卡等旗下核心产品一同位于展台的核心位置。
作为主打端边大模型和存算一体的芯片企业,后摩智能这次带来的M50芯片专为大模型推理设计,主要面向AI PC(人工智能个人电脑)、智能终端等场景。
“未来大模型有两个重要发展趋势:一是大模型的重心逐渐从训练向推理迁移。二是逐渐从云端智能逐渐向边端或者端边智能迁移。”7月25日,后摩智能CEO(首席执行官)吴强对观察者网等表示。
他认为,未来的计算格局有可能是端、边、云的混合体,但是90%的数据处理可能会在端和边,只有10%的训练算到云端做更昂贵或者更复杂的任务在云端做。
图源:观察者网
后摩智能创立于2020年,创立早期定位为基于存算一体技术的大算力AI(人工智能)芯片研发企业。创始人吴强拥有美国普林斯顿大学博士学位,曾任地平线CTO(首席技术官)。
M50芯片被视为后摩智能过去两年交出的一份答卷。
吴强称,M50芯片的发布是后摩智能现阶段迈出的重要的一步,后面会推出更多的芯片去解决端边大模型的算力和功耗问题以及带宽问题。“长期来说,后摩希望定位在端边AI计算。”
图源:观察者网
2024年初,后摩智能把第一代芯片调整了一版,推出了M30,针对大模型做了一些调整和优化。
本次推出的M50产品可广泛应用于消费终端、智能办公、智能工业等多元领域,且均能在离线状态下实现全流程本地处理,从源头杜绝数据联网传输风险。
“目前我们看重几个领域,一是平板和电脑这种消费终端类,大模型是生产力工具。二是智能语音系统,大模型语音会议也是我们重点布局的方面。三是运营商的边缘计算,5G+AI是一个趋势。”他说道。
吴强还提到,机器人包括具身智能机器人(特指陪伴机器人),更像是十年前的智能驾驶,是一个新兴的垂直赛道,格局还未定,“大家还有机会”。
“只要是端边,只要对大模型有需要,对功耗敏感,都有可能是我们的客户,需要我们逐步地拓展。目前大方向是消费终端、智能办公、智能工业,机器人也算其中,这是我们重点在布局的几个领域。”他表示。
1、尺素金声丨上半年绿色贷款余额增长14.4%,“贷”动美丽中国建设
2、米兰名宿卡拉泽的儿子完成职业生涯首秀,也是左脚中后卫,卡拉泽踢什么位置
3、网友吐槽高铁乘客高声打电话,八小时旅程打了七个半小时,你怎么看?