Motional 與 MIT 發佈可解釋 AI 係統，讓自動駕駛汽車實時解釋決策

Techub News 消息，自動駕駛公司 Motional 與麻省理工學院研究人員合作，開發出一種名為概念包裝網絡（CW-Net）的係統，可讓自動駕駛汽車實時解釋其決策邏輯，旨在解決自動駕駛 AI 的「黑箱」問題。該係統將神經網絡的内部計算轉化為人類可讀的概念，例如「接近靜止車輛」或「靠近騎行者」，並顯示在儀表盤上，使決策過程可追溯。 研究團隊已在拉斯維加斯周邊公共道路和私人測試場進行了實際部署測試。測試中，該係統成功揭示了實驗性規劃係統因訓練數據問題而「幻覺」出前方靜止車輛，以及車輛刹車實際由安全備份係統而非深度學習規劃器觸發等關鍵發現。Motional CEO Laura Major 表示，純端到端的深度學習方案可能達到 80-95% 的準確率，但不足以贏得城市和客戶的信任。（AI News）

内容來源：TECHUB NEWS