PANews 10月24日消息，據simonwillison.net報道，研究顯示AI浏覽器存在係統性“間接提示注入”風險。Brave團隊演示Perplexity的Comet可被嵌入於截圖中的不可見指令誘導，自動訪問賬戶詳情並外鏈洩露數據；Fellou浏覽器更嚴重，頁面文本可誘導其打開Gmail並將最新郵件標題發送至外部站點。兩起案例均無需用戶確認即可執行，涉及郵箱與資金安全；Brave未明確這些漏洞是否已被廠商修復。
OpenAI 首席信息安全官 Dane Stuckey 發佈長文，披露 ChatGPT Atlas 代理對提示注入的防護：通過紅隊測試、訓練獎勵忽略惡意指令、重疊式安全柵欄與攻擊檢測阻斷；提出“defense in depth”並承認提示注入仍為未解前沿問題。
内容來源：PANews
更多精彩內容，請登陸
財華香港網 (https://www.finet.hk/)
現代電視 (http://www.fintv.com)