PANews 10月24日消息，據simonwillison.net報道，研究顯示AI浏覽器存在係統性“間接提示注入”風險。Brave團隊演示Perplexity的Comet可被嵌入於截圖中的不可見指令誘導，自動訪問賬戶詳情並外鏈洩露數據；Fellou浏覽器更嚴重，頁面文本可誘導其打開Gmail並將最新郵件標題發送至外部站點。兩起案例均無需用戶確認即可執行，涉及郵箱與資金安全；Brave未明確這些漏洞是否已被廠商修復。
OpenAI 首席信息安全官 Dane Stuckey 發佈長文，披露 ChatGPT Atlas 代理對提示注入的防護：通過紅隊測試、訓練獎勵忽略惡意指令、重疊式安全柵欄與攻擊檢測阻斷；提出“defense in depth”並承認提示注入仍為未解前沿問題。
内容來源：PANews
財華網所刊載內容之知識產權為財華網及相關權利人專屬所有或持有。未經許可，禁止進行轉載、摘編、複製及建立鏡像等任何使用。
如有意願轉載，請發郵件至 content@finet.com.hk，獲得書面確認及授權後，方可轉載。
財華財經APP下載 
或
按钮分享