Techub News 消息，Anthropic 發佈迄今最詳細的威脅情報報告，披露其 AI 模型 Claude 曾被用於潛在生物武器研究等濫用企圖。報告長達 154 頁，包含 5 起生物學相關案例，其中一例涉及研究者試圖利用 Claude 撰寫旨在幫助奇昆古尼亞病毒更好傳播並躲避免疫係統的資助申請。 Anthropic 表示，其安全過濾器攔截了相關操作，但用戶隨後將遭拒的提示詞轉向了競爭對手的模型。報告指出，在為期 30 天的審查中，發現了 35 項可能與國家機構相關的研究嘗試。Anthropic 已封禁相關賬戶，但未斷言其意圖為惡意。 報告還提及，有用戶利用 Claude 追蹤異見人士，相關客戶已被封禁。面對日益增長的擔憂，美國議員已在 7 月提交《AI 緊急關閉法案》，要求開發者保留強制關閉其係統的權力。 （BeInCrypto）
内容來源：TECHUB NEWS
財華網所刊載內容之知識產權為財華網及相關權利人專屬所有或持有。未經許可，禁止進行轉載、摘編、複製及建立鏡像等任何使用。
如有意願轉載，請發郵件至 content@finet.com.hk，獲得書面確認及授權後，方可轉載。
或
按钮分享