BBC大哉問：把AI吹成毀滅世界的惡魔，科技巨頭為何賺更多？

他們開發了它。他們害怕它。然後他們又仍然在販售它。

或許你以前聽過這樣的說法：某家科技公司表示，它開發出一種強大得令人害怕的新型人工智慧（AI）；據說它過於危險，不應該被發佈出來——其後果將會是災難性的；幸運的是，他們目前把它鎖了起來。他們只是想讓你知道這件事。

這正是人工智慧公司Anthropic對其最新模型「Claude Mythos」所傳達的訊息。該公司表示，Mythos在找出網路安全漏洞方面的能力遠超人類專家，如果類似技術落入錯誤之手，可能帶來改變世界的後果。Anthropic在4月初的一篇網誌中表示：「其影響——對經濟、公共安全及國家安全——可能是嚴重的。」一些過於誇張的評論者甚至警告，Mythos很快會迫使你更換生活中每一件科技產品，甚至包括你的WiFi微波爐，以防止數位世界失常錯亂。

一些安全專家對這些說法表示懷疑，但我們暫且不論。這並不是新鮮事。主要人工智慧公司高層經常對自己產業的產品發出警告，稱它們可能毀滅人類。那麼，為什麼AI公司希望我們害怕它們？

這對任何公司來說，都是一種奇怪的表述方式。你不會聽到麥當勞宣稱它創造了一款美味得令人恐懼的漢堡，好吃到將它賣給公眾都是不道德的。

其中一種理論是這樣的：批評者認為，讓大眾專注於末日敘事，對AI公司是有利的，因為這會轉移人們對它們已經對世界造成的真實傷害的注意力。科技界領袖表示，他們只是對不可避免的未來發出警告，無論現在還是未來，安全都是首要任務。但其他人則認為，我們看到的其實是一種恐嚇策略，它誇大了技術的潛力，並有助於推高股價。這同時也鼓勵一種敘事，即監管機構應該退後，因為只有這些AI公司才能阻止壞人並負責任地建構這項技術。

「如果你把這些技術描繪成幾乎具有超自然危險性的東西，就會讓我們感到無力，好像我們無法與之匹敵，」英國愛丁堡大學資料倫理與人工智慧教授香農・瓦洛爾（Shannon Vallor）說，「就像我們唯一能依靠的對象，只剩下這些公司本身。」

Anthropic的發言人告訴我，公司在這些問題上一直表達得相當清楚。他們分享了其他機構的網誌，以支持Mythos的網路安全能力，但沒有回應本文提出的觀點，除了我稍後會引用的一句評論之外。

這並不是Anthropic行政總裁達里奧・阿莫代（Dario Amodei）第一次參與開發一項被公司認為過於危險、無法向公眾發佈的工具。2019年，當阿莫代仍在OpenAI任職時，該公司宣佈推出GPT-2。他和其他公司高層表示，由於擔心這項技術被惡意使用，他們無法發佈GPT-2。那是一個遠不如ChatGPT先進的工具。但幾個月後，它還是被發佈了。OpenAI行政總裁山姆・阿特曼（Sam Altman）後來在一篇網誌中表示，公司「接受不確定性」，並承認當時對GPT-2的恐懼是「被誤導的」。 （相關報導： AI界「數位核武」現身？Anthropic新模型Mythos恐掀駭客大戰　科技專家曲博：金融、軍事系統首當其衝 ｜ 更多文章 ）

阿特曼在最近一次播客訪談中批評Anthropic的「恐懼式行銷」。但他自己「我創造了一個怪物」的敘事可以追溯到多年以前。

「人工智慧很可能最終會導致世界末日，但在此之前會誕生不少偉大的公司，」阿特曼在2015年曾這樣說。多年後，他又聲稱自己會因為擔心是否「做了錯事，推出了ChatGPT」而失眠。如果早有人提醒他就好了。

包括阿特曼、阿莫代、比爾蓋茲（Bill Gates）及Google DeepMind行政總裁德米斯・哈薩比斯（Demis Hassabis）在內的數百位科技領袖，在2023年一同支持一份簡短聲明。當中表示：「減輕人工智慧導致人類滅絕的風險，應與疫情和核戰等社會級風險一樣，成為全球優先事項。」同年，包括伊隆・馬斯克（Elon Musk）在內的富豪簽署一封信，呼籲暫停開發先進AI六個月。然而不到半年後，馬斯克就宣佈成立新的人工智慧公司xAI。

「這只是這種未經證實的強大能力宣稱模式的一部分，」華盛頓大學計算語言學教授、《AI騙局》（The AI Con）共同作者艾蜜莉・本德（Emily M Bender）說，這不僅限於OpenAI和Anthropic，而是整個AI產業的標準姿態。「他們在說：『看這邊』，別理會環境破壞、勞工剝削，以及我們正在破壞的各種社會制度。我們只需要擔心，確保這個東西不會變成毀滅人類的壞東西。」

我向OpenAI詢問此事。一名發言人分享了阿特曼最近的一篇網誌，當中寫道，OpenAI將「抵制這項技術集中在少數人手中的可能性」，並補充說，「AI的重要決策應透過民主程序、以平等原則制定，而不是僅由AI實驗室作出」。

Anthropic表示，其新模型已在整個科技領域中找到數千個「高嚴重性」漏洞，其能力超越人類專家。公司還宣佈與40多個企業與組織建立新合作關係，以「緊急」修補漏洞，防止駭客利用。一名發言人表示，公司刻意與各界合作修補基礎計算系統中的漏洞，而這些問題佔據了「大部分」風險。

然而，這些說法受到相當大的質疑，AI現代研究所（AI Now Institute）的首席AI科學家海迪・克拉夫（Heidy Khlaaf）並不認同。她的職業生涯正是建立並審核Anthropic所聲稱已超越的那些程式碼分析工具，她也曾負責核設施中的數碼安全工作。

克拉夫指出，最令人警惕的是缺乏「誤報率」這一指標——這是衡量安全工具誤判問題的行業標準。「這並不是什麼未知的指標，」她說，「這其實是衡量工具實用性最重要的指標之一。」Anthropic並未提及這一點，當我詢問時也迴避了問題。此外，公司也沒有將Mythos和現有工具進行比較，而這些工具已被安全工程師使用了數十年。

還有一些說法指出，Anthropic或許延後大規模發佈Mythos，是因為無法負擔所需的算力。該公司亦未對此作出回應。 （相關報導： AI界「數位核武」現身？Anthropic新模型Mythos恐掀駭客大戰　科技專家曲博：金融、軍事系統首當其衝 ｜ 更多文章 ）

這並非表示威脅是想象出來的。「Mythos可能確實具備能力，」克拉夫說。AI工具確實非常適合掃描大規模程式碼庫，自動尋找漏洞也確實是一個現實且嚴峻的風險。但在缺乏證據支持的情況下，她對Anthropic的說法持懷疑態度。「我認為『Mythos無所不能、無法發佈』這個敘事存在許多漏洞。」

防止世界末日，正是OpenAI和Anthropic所宣稱自己存在的最初原因。OpenAI最初以非牟利機構成立，承諾以安全方式發展AI，以免被谷歌（Google）或 Meta 等較不負責任的科技巨頭搶先。後來，一個分支團隊離開OpenAI成立Anthropic，因為他們認為原公司對安全的重視程度不足。如今，這兩家機構都在朝上市公司轉型。

瓦洛爾表示：「如果你想理解一個組織，特別是企業，將如何行事，就要看它的激勵機制。」

谷歌已經放寬其在研發人工智慧武器方面的紅線。OpenAI也曾透過法律行動試圖擺脫其非牟利地位。Anthropic則放棄了其一項核心政策——即如果無法確保足夠的安全措施，就不會訓練人工智慧模型。

「我不會指望這些公司為了維持『好人』形象，而放棄主導市場的機會，」瓦洛爾說。

與此同時，儘管對誤診存在嚴重疑慮，人工智慧在醫療領域的應用仍在推進。以天然氣為能源的數據中心，可能排放比某些國家更多的溫室氣體。有報導指出，人工智慧正將大量脆弱人群推向精神失常甚至自殺的邊緣。越來越多研究顯示，人工智慧可能與認知能力下降有關。深度偽造（deepfake）技術已經越過了無法回頭的界線——我甚至無法說服自己的阿姨，相信我不是機器人。

人工智慧公司表示，他們非常重視這些問題。OpenAI向我提供了一些有關心理健康、人工智慧準確性、詐騙及欺詐問題的立場說明鏈接；而阿特曼表示，公司致力於在人工智慧發展的每個階段解決相應的問題。

但瓦洛爾指出，這些公司之所以只對「世界末日」發出警報，是有原因的。如果人工智慧可能毀滅社會，那麼其他問題看起來就顯得不那麼重要。「這種策略是有效的，」她說，「把自家產品描述成可能終結世界，並沒有損害這些公司，反而讓它們更有權力。人們反而會覺得，唯一能夠提供保護的，只有這些公司本身。」

幾乎在同一時間，一些發出毀滅警告的人，也承諾帶來救贖。在2024年的一篇文章中，阿特曼預測「驚人的成就——例如解決氣候問題、建立太空殖民地，以及發現所有物理學定律——最終都將變得司空見慣。」阿莫代則承諾打造「一個在數據中心中的天才國度」。

瓦洛爾認為，烏托邦和末日其實是一體兩面。「無論哪一種說法，其規模都過於宏大和神化，以致於監管、治理或法律似乎都難以發揮作用，」她說。「這會讓人們覺得，他們唯一能做的，就是坐下來等待，看這些技術最終會變成毀滅文明的惡魔，還是帶來烏托邦的救世主。」甚至連「Mythos」這個名稱，似乎都刻意喚起某種宗教式的敬畏。

但瓦洛爾表示，這些並不是神，而是企業為了盈利所打造的產品。人類曾對比聊天機械人更具威脅性的技術加以監管。「除了這一項技術之外，其他所有技術——包括核武和生物武器——我們從未讓這種敘事使我們認為它們是超出人類控制的力量，」她說，「沒有任何東西是無法治理的，除非我們選擇不去治理它。」

說清楚一點：從理論上來說，人工智慧確實有可能接管世界。我並不是預言家。但請問問自己，這種想法是否和過去你在矽谷聽過的其他說法有些相似？

我們不是應該早就生活在馬克・祖克柏（Mark Zuckerberg）的「元宇宙」中了嗎？比特幣不是應該取代全球所有貨幣嗎？還記得2010年代，我們曾聽說社交媒體會拯救民主嗎？這些事情或許仍然有可能會發生，但也可能不會。 （相關報導： AI界「數位核武」現身？Anthropic新模型Mythos恐掀駭客大戰　科技專家曲博：金融、軍事系統首當其衝 ｜ 更多文章 ）