Techub News 消息，Anthropic 發佈迄今最詳細的威脅情報報告，披露其 AI 模型 Claude 曾被用於潛在生物武器研究等濫用企圖。報告長達 154 頁，包含 5 起生物學相關案例，其中一例涉及研究者試圖利用 Claude 撰寫旨在幫助奇昆古尼亞病毒更好傳播並躲避免疫係統的資助申請。 Anthropic 表示，其安全過濾器攔截了相關操作，但用戶隨後將遭拒的提示詞轉向了競爭對手的模型。報告指出，在為期 30 天的審查中，發現了 35 項可能與國家機構相關的研究嘗試。Anthropic 已封禁相關賬戶，但未斷言其意圖為惡意。 報告還提及，有用戶利用 Claude 追蹤異見人士，相關客戶已被封禁。面對日益增長的擔憂，美國議員已在 7 月提交《AI 緊急關閉法案》，要求開發者保留強制關閉其係統的權力。 （BeInCrypto）
内容來源：TECHUB NEWS
財華網所刊載內容之知識產權為財華網及相關權利人專屬所有或持有。未經許可，禁止進行轉載、摘編、複製及建立鏡像等任何使用。
如有意願轉載，請發郵件至 content@finet.com.hk，獲得書面確認及授權後，方可轉載。
香港領先,世界一流的科技媒體平台 在數字化時代,Web3技術的崛起為媒體行業注入了新的活力。作為香港領先的Web3媒體平台,Techub News憑借其專業的團隊、豐富的資源和創新的業務模式,成為了行業内的佼佼者。Techub News,作為香港的科技媒體翹楚,致力於打造「香港領先,世界一流」的科技媒體和新媒體集群。Techub News平台提供最新、最快、最專業的Web3科技資訊,為用戶呈現科技前沿的無限魅力。
或
按钮分享