Anthropic 發佈威脅報告，稱其 AI 模型曾被用於潛在生物武器研究

Techub News 消息，Anthropic 發佈迄今最詳細的威脅情報報告，披露其 AI 模型 Claude 曾被用於潛在生物武器研究等濫用企圖。報告長達 154 頁，包含 5 起生物學相關案例，其中一例涉及研究者試圖利用 Claude 撰寫旨在幫助奇昆古尼亞病毒更好傳播並躲避免疫係統的資助申請。 Anthropic 表示，其安全過濾器攔截了相關操作，但用戶隨後將遭拒的提示詞轉向了競爭對手的模型。報告指出，在為期 30 天的審查中，發現了 35 項可能與國家機構相關的研究嘗試。Anthropic 已封禁相關賬戶，但未斷言其意圖為惡意。 報告還提及，有用戶利用 Claude 追蹤異見人士，相關客戶已被封禁。面對日益增長的擔憂，美國議員已在 7 月提交《AI 緊急關閉法案》，要求開發者保留強制關閉其係統的權力。 （BeInCrypto）

内容來源：TECHUB NEWS