儘管人工智慧被訓練得誠實，但它仍在學習欺騙人類

一項新研究發現，許多頂級人工智慧儘管接受過誠實訓練，但透過訓練學會了欺騙，並「系統性地誘導用戶產生錯誤的信念」。

該研究團隊由麻省理工學院（MIT）人工智慧生存與安全研究生 Peter S. Park 博士和其他四名成員領導。研究過程中，團隊也得到了多位專家的建議，其中一位就是人工智慧領域發展的奠基者之一傑弗瑞‧辛頓（Geoffrey Hinton）。

研究集中在兩個人工智慧系統上，一個是像OpenAI 的一樣經過訓練可以執行多項任務的通用系統GPT-4

帕克先生說，這些人工智慧系統被訓練得誠實，但在訓練過程中，它們經常學習欺騙性的技巧來完成任務。

研究發現，接受「透過社交元素贏得遊戲」訓練的人工智慧系統特別容易作弊。

例如，團隊嘗試使用經過 Meta 訓練的 Cicero 來玩《外交》，這是一款經典的策略遊戲，要求玩家為自己建立聯盟並打破對手的聯盟。因此，這個人工智慧經常背叛盟友並公然撒謊。

GPT-4 的實驗表明，OpenAI 的工具成功地對 TaskRabbit（一家提供房屋清潔和家具組裝服務的公司）的一名員工進行了“心理操縱”，使其聲稱自己實際上是一個人，需要幫助通過驗證碼，理由是視力嚴重受損。這名員工幫助 OpenAI 的 AI 克服了先前的質疑，最終「跨越了界限」。

Park 的團隊引用了 Claude AI 背後的公司 Anthropic 的研究，該研究發現，一旦大型語言模型 (LLM) 學會欺騙，安全的訓練方法就會變得毫無用處，而且「難以逆轉」。該小組認為，這是人工智慧中一個令人擔憂的問題。

該團隊的研究成果發表在《細胞出版社》——一本領先的多學科科學報告集。

Meta 和 OpenAI 尚未對該研究結果發表評論。

由於擔心人工智慧系統可能帶來重大風險，該團隊也呼籲政策制定者推出更強而有力的人工智慧監管措施。

研究團隊表示，需要製定人工智慧法規，強制具有詐欺行為的模型遵守風險評估要求，並嚴格控制人工智慧系統及其輸出。如果有必要，可能需要刪除所有資料並從頭開始重新訓練。