首页资讯

警惕人工智能数据污染:0.01%虚假文本可使有害输出增11.2%

时间:2025-08-05 10:25 作者:笔刀吏

警惕人工智能数据污染:0.01%虚假文本可使有害输出增11.2%

IT之家 8 月 5 日消息,国家安全部微信公众号今日发文称,当前,人工智能已深度融入经济社会发展的方方面面,在深刻改变人类生产生活方式的同时,也成为关乎高质量发展和高水平安全的关键领域。然而,人工智能的训练数据存在良莠不齐的问题,其中不乏虚假信息、虚构内容和偏见性观点,造成数据源污染,给人工智能安全带来新的挑战。


文章称,人工智能的三大核心要素是算法、算力和数据,其中数据是训练 AI 模型的基础要素,也是 AI 应用的核心资源。

文章称,高质量的数据能够显著提升模型的准确性和可靠性,但数据一旦受到污染,则可能导致模型决策失误甚至 AI 系统失效,存在一定的安全隐患。

IT之家注意到,文章最后提出应对方案:

Top

1、我也是用华为手机,一直不敢升级,工作生活全依赖它,就是怕给自己找麻烦

2、【光明论坛】把伟大抗战精神一代代传下去,伟大抗战精神 向世界展示

3、大学文科,都在研究些啥?,大学文科,都在研究些啥呢

小编推荐

当前文章:http://www.share.tuanjian7.cn/XQK/detail/wsvxkr.html

相关阅读

网友评论

我要评论

发表

取消

笔刀吏