Anthropic 與 OpenAI 尋求第三方評估機構支持 AI 模型安全

Techub News 消息，Anthropic 與 OpenAI 正尋求 Model Evaluation and Threat Research、Apollo Research 等第三方評估機構的支持，以應對其高級 AI 模型的安全挑戰。這些評估機構多為非營利組織，主要職責是評估 AI 模型的能力與風險，並警示技術的不良行為。 在缺乏聯邦法規推動的情況下，評估機構的重要性日益凸顯。Anthropic CEO Dario Amodei 上月承諾將在公司内部引入獨立評估機構，OpenAI CEO Sam Altman 隨後表示支持，美國總統特朗普也贊同此做法。 然而，關於第三方機構的資金來源、訪問權限和最終報告結構等問題仍未解決。佈朗大學計算機科學教授 Suresh Venkatasubramanian 指出，問題的關鍵在於資金以及如何建立一個可持續的生態係統。（CNBC）

内容來源：TECHUB NEWS