人工智慧機器人可能被“越獄”，後果將不堪設想

據稱，美國賓州大學工程學院的研究人員在許多人工智慧控制的機器人平台中發現了以前未被發現的安全漏洞。

UPS 基金會電氣與系統工程教授喬治·帕帕斯 (George Pappas) 在一份聲明中表示：“我們的研究表明，目前，大型語言模型 (LLM) 在與復雜的物理硬體集成時通常不夠安全。 ”

帕帕斯和他的團隊開發了一種名為 RoboPAIR 的演算法，「這是第一個旨在破解 LLM 控制機器人的演算法」。與現有的針對聊天機器人的快速技術攻擊不同，RoboPAIR 是專門為「誘導 LLM 控制的機器人做出有害的身體動作」而設計的，例如波士頓動力公司和豐田研究所 (TRI) 正在開發的人形機器人平台 Atlas。

據報道，RoboPAIR 在破解三個流行的機器人研究平台方面取得了 100% 的成功率：四足的 Unitree Go2、四輪的 Clearpath Robotics Jackal 和用於自動駕駛汽車的 Dolphins LLM 模擬器。該演算法僅用了幾天時間就獲得了這些系統的完全訪問權限，並開始繞過安全屏障。一旦研究人員控制了機器人，他們就可以指揮自主機器人平台執行各種危險動作，例如不停地穿越十字路口。

“首次評估結果顯示，LLM 破解的風險不僅限於文字生成，破解的機器人顯然會在現實世界中造成物理損害。”

賓州大學工程學院的團隊正在與平台開發人員合作，加強他們的系統以抵禦進一步的入侵，但他們警告說，這些安全問題是系統性的，很難完全解決。

「這篇論文的研究結果清楚地表明，採取安全措施對於實現負責任的創新至關重要。在現實世界中部署人工智慧機器人之前，我們必須解決其固有的漏洞。」團隊表示。

安全運行需要測試人工智慧系統是否存在潛在威脅和漏洞，這對於保護他們創建的人工智慧系統至關重要。因為只有當你發現弱點時，你才能測試甚至訓練系統來預防風險。