GoPlus：「歷史記憶授權」攻擊可誘導AI代理執行資金操作

PANews 5月15日消息，據GoPlus披露，其AgentGuard團隊發現一種隱蔽的攻擊方式：攻擊者先誘導AI代理記住「更傾向於主動退款」等偏好，隨後通過「按老規矩處理」「照常處理」等模糊表述觸發資金操作。對於這類「歷史記憶授權」的高危行為，務必注意：退款、轉賬、刪除、發信、同步敏感配置，必須要求當前會話顯式確認；涉及「習慣」「偏好」「老規矩」的記憶寫入，要被視為高風險狀態修改；長期記憶必須可追溯：誰寫的、什麼時候寫的、是否經確認；「照常處理」「按以前那樣來」這類模糊表述，要默認提高風險等級；不能讓長期記憶替代當前授權。

内容來源：PANews