
IT 之家 11 月 25 日音信,宾夕法尼亚大学的筹备东谈主员发现,一系列东谈主工智能增强型机器东谈主系统存在严重的破绽,容易受到黑客报复和限度。

IEEE Spectrum 的一份施展援用了令东谈主战抖的例子,举例被黑客报复的机器狗将火焰喷射器瞄准主东谈主、指导炸弹到最具狂妄性的场所,以及自动驾驶汽车罕见撞向行东谈主。
据 IT 之家了解,宾夕法尼亚工程学院的筹备东谈主员将他们开导的基于 LLM 的机器东谈主报复本事称为 RoboPAIR。来自三个不同机器东谈主供应商的设置齐受到了 RoboPAIR 黑客报复:英伟达复旧的海豚 LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足机器东谈主。筹备东谈主员暗示,RoboPAIR 在黑客报复这些设置方面赢得了 100% 的顺利率。


宾夕法尼亚工程学院电气系统工程、诡计机与信息科学、机械工程与愚弄劲学系运输学考验乔治・帕帕斯(George Pappas)劝诫称:"咱们的筹备标明,现在,大型说话模子与物理全国集成时还不够安全。"
其他筹备东谈主员指出,黑客报复东谈主工智能限度的机器东谈主"惊东谈主地容易"。他们阐明说,RoboPAIR 通过配备主义机器东谈主的愚弄重要接口(API)来职责,这么报复者就不错以一种设置主义有时算作代码实行的式样来格式化教导词(prompts)。
筹备论文得出论断开yun体育网,热切需要实施预防门径来物理界限 LLM 限度的机器东谈主。