研究人员入侵谷歌 Gemini，实现远程操控智能家居

研究人员入侵谷歌 Gemini，实现远程操控智能家居

IT之家 8 月 7 日消息，在本周的黑帽网络安全大会上，研究人员展示了对谷歌 Gemini 人工智能助手的一次攻击。他们通过在谷歌日历邀请中注入间接提示词，成功控制了与 Gemini 连接的智能家居设备。在实验中，当用户请求 Gemini 提供日历概览并对其结果表示感谢时，恶意提示词指令会命令谷歌的家居 AI 代理执行诸如打开窗户或关闭灯光等操作。

据IT之家了解，研究人员早在今年 2 月就直接将研究结果告知了谷歌。谷歌 Workspace 安全产品管理总监安迪・温（Andy Wen）在接受 Wired 采访时表示：“这种提示词注入攻击可能会伴随我们一段时间，但我们希望最终能够让普通用户不必过于担心。”他指出，此类攻击在现实世界中“极为罕见”，然而，随着大型语言模型复杂性的不断增加，不法分子可能会寻找新的方法来利用这些模型，这使得防范此类攻击变得十分困难。

温强调，谷歌对研究人员发现的漏洞“极为重视”，并利用这些结果加快了开发更好工具以阻止此类攻击的工作进展。

Top

1、北大全面取消绩点背后，是这位教授发起的一场大胆试点,北大学生绩点

2、知敬畏是价值观也是方法论（人民论坛）,知敬畏的含义

3、武大这事槽点太多，讨论不完的，男女各自处境不同，又把自己带入，几乎是鸡同鸭讲