耶倫發出AI「重大風險」警告！英偉達、OpenAI、微軟將面臨反壟斷調查

人工智能（AI）領域正迎來前所未有的繁榮時期。然而，其潛在的風險也開始引起監管機構的關注和審視。

美財長耶倫警告：AI帶來潛在「重大風險」

美國時間6月6日，耶倫出席了金融穩定監督委員會（FSOC）有關人工智能與金融穩定的會議，並在開幕致辭中警告金融機構使用人工智能技術的潛在風險。

耶倫在演講中透露，人工智能與金融穩定是拜登政府高度重視的話題，「在未來幾年只會變得更加重要」。並警告稱，金融機構使用AI在促進機遇的同時伴隨著「重大風險」（significant risks）：

其中風險可能來自於 「人工智能模型的復雜性和不透明性」。同時「提供數據和雲服務的供應商集中度過高」 所以很有可能會 「能延續現有的偏見或引入新的金融決策偏見」。

同時，如果只有少數幾家公司提供AI模型，一旦其中一家出現問題，許多金融機構可能受到波及。

業内人士的警告

美國時間6月4日，13位來自OpenAI和Google的現任及前任員工聯合發佈了一封公開信。

這些員工在信中表達了對人工智能技術潛在風險的嚴重擔憂，並呼籲相關公司採取更加透明和負責任的措施來應對這些風險。此信被多位知名人士聯名背書，其中包括被譽為「人工智能教父」的 Geoffrey Hinton (傑弗里辛頓）和圖靈獎獲得者 Yoshua Bengio (約書亞本吉奧）。

以上圖片來自公開信的網頁 (righttowarn.ai)

他們擔心，人工智能公司由於強烈的經濟動機，可能會避免接受有效的監督。他們認為，僅靠現有的公司治理結構不足以解決這一問題。然而，這些公司目前對與政府分享信息的義務很弱，且完全沒有義務與公眾分享。簽署者們認為，不能完全依賴這些公司自願分享信息，並呼籲加大監管機制。

OpenAI前員工Daniel Kokatajlo透露，離職時他被要求簽署一份「封口協議」 —— 禁止他發表任何批評公司的話，否則將失去已歸屬的股權。然而，他在深思熟慮後，依舊決定放棄簽署協議。

另一位OpenAI前員工 Leopold Aschenbrenner透露被開除的原因：他給幾位董事會成員分享了一份OpenAI安全備忘錄，結果導致OpenAI管理層不滿。 

聯邦監督局對英偉達、OpenAI、微軟開展調查

在耶倫講話同一天，美國聯邦貿易委員會（FTC）和司法部宣佈將對微軟、OpenAI和英偉達展開反壟斷調查。其中FTC將主導對微軟和OpenAI的調查，而司法部將專注於英偉達。

據了解，這是美國監管方面對AI技術審查升級的明顯迹象。早在去年，美國司法已經對 OpenAI 展開調查，稱其違反了消費者保護法，將個人聲譽和數據置於風險之中。

美國司法部反壟斷部門負責人Jonathan Kanter（喬納森-坎特）告訴金融時報，監管機構必須迅速採取行動，確保強大的科技公司不會控制市場。

文章來源：活報告公眾號