Anthropic 執行長 Dario Amodei 近日反駁了外界認為他對人工智慧及其未來發展描繪過於悲觀的說法。
Amodei 的言論是回應投資人 Gavin Baker 的批評。Baker 在 All-In 播客和 X 平台上指出，Amodei 對 AI 危險性的警告，助長了美國對 AI 的反彈，尤其是針對資料中心。
Baker 認為 Amodei 在 AI 監管議題上「輸掉了爭論」，並指出 Anthropic 曾倡導一些法規，包括加州一項對大型 AI 公司施加透明度要求的法案。鑑於 Amodei 即將成為「全球最重要的公司之一的執行長」，Baker 寫道：「我誠懇地認為他應該努力成為自己產業更正面的倡導者。」
Baker 並非唯一一位認為 AI 懷疑論甚至政府打壓，是對某些 AI 高管嚴峻警告的自然反應的人。然而，Amodei 在一系列貼文中不同意他的「訊息傳遞過於負面」的觀點。他表示，他的寫作在「風險與益處之間大致平衡」，並撰寫了文章《愛的恩典機器》（Machines of Loving Grace），因為他「覺得 AI 產業未能描繪出這項技術如何徹底改變世界、使其變得更好的鼓舞人心願景。」
儘管如此，Amodei 承認「公眾對 AI 抱持負面看法」，他也同意「這是一個大問題」。但他不同意這種負面情緒「主要」是由 Amodei 或任何其他 AI 領導者對 AI 風險的警告所引起的。
Amodei 表示：「我認為這根本是一場信任危機。」「我認為普通民眾不信任公司、政府或科技產業，總是懷疑我們正在策劃某種新方法來剝削他們。」
事實上，「信任」一詞經常出現在關於 OpenAI 執行長 Sam Altman 的新聞標題中，顯然對 Amodei 等其他 AI 執行長來說也是個問題。然而，Amodei 認為這場危機已經醞釀數十年，而 AI 反彈「只是其最新的一次體現」。
Amodei 說：「我認為對包括 Anthropic 在內的 AI 公司最準確的批評是，我們尚未兌現改善世界的重大承諾。」「這完全是我們的責任，我認為這才是你們應該提出的批評，而不是那些關於訊息傳遞和行銷的言論。」
換句話說，他表示承諾 AI 將治癒癌症「與其說是鼓舞人心，不如說更像陳腔濫調」；真正能改變人們對 AI 看法的，將是「實際治癒癌症」。
至於監管，Amodei 認為 Baker 提出的是「一個錯誤的選擇」，即在沒有監管的情況下廣泛分發 AI，或透過監管將技術集中在少數公司手中。
Amodei 說：「我知道矽谷有一種簡寫，認為監管 = 監管俘虜 = 權力集中，但我一直認為這過於簡化了世界。」「這個圈子之外的許多人認為監管是限制企業權力並造福普通民眾的東西。」
Amodei 補充說，他「也不一定同意這種觀點」，但他表示這就是「Anthropic 一直非常謹慎地提出政策建議的原因」。
他說：「我們非常努力地提出建議，旨在讓領先的 AI 公司處於劣勢（減緩其發展），同時 有利於 規模較小的競爭者。」
那為什麼要提出這些建議呢？Amodei 表示，在他看來，「AI 在 結構上 是一種傾向於集中權力的技術」，而「開源模型（open-weights）確實有所幫助，但遠非足夠的解決方案，因為它們只是將權力集中轉移到擁有最多算力和晶片的人手中。」
他說：「相比之下，我認為正確的『道路規則』可以同時 (a) 解決 AI 的網路安全/生物/對齊風險，(b) 從制度上限制領先 AI 公司的權力，以及 (c) 為開源模型留下空間，同時也解決它們帶來的特定風險。」
這篇文章已更新，納入更多 Amodei 貼文中的引述，包括關於開源模型的部分。
