近年來,人工智能在中國的應用擴張速度之快,遠超外界預期。從金融風控到醫療影像,從城市治理到營銷決策,AI係統正在以前所未有的深度嵌入企業和公共機構的核心流程。然而,2026年兩會期間,多位政協委員不約而同地將目光投向了這場技術浪潮的另一面:當AI在做出關鍵決策時,它的推理過程是否透明?它的數據來源是否可信?它的行為邊界是否可追溯?
"可解釋、可追溯、不能黑盒"——這一措辭出現在多位委員的提案之中,標誌著AI治理議題從學術討論正式進入立法與政策視野。這一政策信號,將對未來幾年中國企業AI採購格局産生深遠影響。
而在這場政策討論展開之前,國内已有企業將"可信"確立為自身AI戰略的核心支柱。
黑盒之困:AI規模化的隱性門檻
所謂"黑盒",是指AI係統在接受輸入後産出結論,但其中間推理過程對外部觀察者不可見、不可理解、不可驗證。這一特徵在大語言模型時代尤為突出。當一個大模型向企業用戶推薦某一商業決策時,它無法解釋自己為何得出這一結論;當模型産生錯誤輸出時,企業也無從追溯問題根源所在。
這種不透明性在消費級應用中或許尚可接受,但一旦進入企業核心決策場景,問題便成倍放大。哪家企業願意將定價策略、供應鏈調度或預算分配交給一個"講不清楚道理"的係統?監管機構又如何評估一個無法被審計的自動化決策流程的合規性?
兩會委員的呼聲,正是這一現實困境的政策回應。
根據弗若斯特沙利文發佈的行業報告,中國企業AI應用的滲透率雖然增速較快,但深度落地仍面臨障礙,其中"決策不透明"和"數據可信度低"被列為企業顧慮的前兩大因素。這意味著,阻礙AI從試點走向規模化的核心矛盾,並非算法能力不足,而是信任體係尚未建立。
一個早於政策的判斷
在這場監管風向轉變之前,明略科技創始人兼CEO吳明輝已就此提出了係統性的框架闡述。
吳明輝將"可信AI"拆解為三個維度:數據源可信、決策可信、利益中立。他曾公開表示:"面對90%以上可能由AI生成的信息,如何甄別真僞成為關鍵需求。AI在企業決策中需整合多方數據,識別數據矛盾,結合商業目標給出客觀建議,而不能因商業利益篡改結論。"
這三個維度並非抽象口號,而是對應著真實且具體的技術難題。
數據源可信,針對的是訓練數據和輸入數據的質量問題。在信息爆炸的時代,企業AI係統攝入的外部數據充斥著噪聲、錯誤甚至蓄意的虛假信息。若無法在數據入口建立甄別機制,模型的輸出可信度便無從談起。
決策可信,針對的是推理過程的透明性問題。這要求AI係統在給出建議時,能夠呈現可被人類理解和驗證的推理鏈條,而非僅僅輸出一個結論數字。
利益中立,則針對的是AI係統設計方與使用方之間可能存在的利益不對齊問題。一個受商業利益驅動的AI係統,可能傾向於向用戶推薦對平台有利的方向,而非真正符合用戶需求的方向。
這一框架的提出時間,早於本次兩會討論數年。而今,政策層面正在向同一方向收斂。
技術如何承載"可信"
將"可信"從理念轉化為可落地的技術架構,是一件比提出概念難得多的事情。
明略科技在這一方向上的核心技術積累,體現在知識圖譜和多模態數據智能兩個層面。其企業級知識圖譜相關專利量位居全球前五,這一基礎能力為數據溯源和推理路徑可視化提供了技術支撐。
2025年9月推出的DeepMiner平台,集中體現了明略科技對"可信智能"的技術實現路徑。該平台採用三層架構設計:Foundation Agent負責多智能體協作框架,Mano專注於多模態界面操作與網頁交互,Cito則專門解決營銷領域的AI規劃與指令推理問題。這種分層設計的本質邏輯,是將AI係統的行為拆解為可觀察、可幹預的模塊,而非封裝在一個不可拆解的黑盒之中。
值得注意的是,明略科技的可信技術路綫並非僅針對單一場景。其旗下秒針係統在營銷科學領域深耕19年,積累了日均千億級廣告請求的處理能力,這一規模化數據處理經驗本身,就是在復雜、嘈雜的真實數據環境中檢驗"可信"的長期過程。
政策窗口期的行業意義
兩會委員的呼聲,預示著AI監管從"鼓勵發展"轉向"規範可信"的政策窗口期正在開啓。這對整個AI行業將産生結構性影響。
首先,"可信性"將逐步從採購加分項演變為準入門檻。當政府採購、金融機構和大型央企在評估AI供應商時,決策透明度和數據溯源能力將成為硬性指標。
其次,這將加劇行業分化。構建可信AI體係需要長期的技術積累和數據資産投入,這是短期内難以復制的護城河。那些長期投入於可信技術棧的企業,將在政策收緊時佔據先發優勢。
再者,可信AI的實現路徑將催生新的行業標準。吳明輝曾指出:"AI企業和各細分行業企業必須重視benchmark,企業若沒有自己獨有的benchmark,未來可能被淘汰,無法稱為真正的科技公司。"行業benchmark的建立,本質上是"可信"從定性要求向定量標準的演進。
從這一視角回看,明略科技將"可信"作為核心戰略的選擇,並非偶然。在一個尚未明確監管方向的市場中,押注最終必然到來的監管收緊方向,是一種具備前瞻性的戰略定力。
兩會的政策信號,正在讓這一判斷的價值變得清晰可見。
内容來源:有連雲
更多精彩內容,請登陸
財華香港網 (https://www.finet.hk/)
現代電視 (http://www.fintv.com)