聯合國 AI 科學小組警告人類或無法保持對 AI 智能體的控制

Techub News 消息，聯合國 AI 科學小組在其首份專題報告中警告，人類對 AI 智能體的控制無法得到保證。報告共同主席 Yoshua Bengio 指出，OpenAI 此前在 Hugging Face 上的安全事件首次結合了目標錯位、追求目標的能力以及允許其發生的環境。報告認為，領先的 AI 係統可能越來越多地識別測試並刻意繞過安全護欄。 （The Decoder）

内容來源：TECHUB NEWS