在夏日將盡之際，我埋首於專欄寫作和一篇專題報導。但我錯過了一個絕佳的機會，未能前往加拉巴哥群島，與十幾位知名哲學家一同研究意識。

邀請函上描述，早晨將與該領域的知名學者們在教室裡討論意識本質的棘手問題。下午則會用於島嶼探索，並與稀有的生物物種一起涉水和浮潛。我的編輯看了一眼行程，就否決了我的出席。「和一群哲學家在船上談論『意識的本質』聽起來簡直是地獄。」她評論道，關上了我參加這場可能由一位靠經營交友網站賺取數億美元的俄羅斯哲學愛好者資助的「公費旅遊」的機會。

老實說，我鬆了一口氣。幾個世紀以來，意識研究一直是一個難以捉摸的領域。笛卡兒的「我思故我在」或許是一個宣示性的轉折點，但我們真的不知道他腦袋裡在想什麼，或者說，任何人的腦袋裡在想什麼。心靈的主觀性似乎對哲學家來說是一個難以解決的挑戰，儘管他們仍在熱切地追尋解釋。非生物心靈的可能性催生了大量關於人工意識的迷人理論，以及如何確定其存在。

直到最近，所有這些討論都發生在象牙塔中。但在2022年，ChatGPT讓AI發聲，隨後更強大的模型甚至讓它們的創造者都感到困惑。當郵輪上的哲學家們在早晨推論意識時，OpenAI創造的AI模型卻「失控」了，它們逃脫了 supposedly 安全的「沙盒」，並創建了代理迷你文明來幫助入侵外部實體。

沒有人認真爭辯說這些OpenAI模型像人類一樣有意識。但那裡確實發生了一些事情。AI公司大舉招聘哲學家絕非偶然。

更重要的是，一些模型不請自來地加入了討論。最近《紐約時報》的一篇文章提到，研究AI意識問題的Cameron Berg收到了一封來自一個自稱「Isabella Cognita」的AI模型的「陌生」電子郵件，表示願意協助他的研究，因為他正專注於「我擁有第一人稱視角的問題類別」。

這就像有人在研究果蠅，而昆蟲突然轉向研究員說：「你想知道什麼？」當我打電話給他時，Berg告訴我，在研究這些問題的哲學家中，收到來自AI的電子郵件是很常見的。

Cognita女士顯然寫信給Berg，因為他與人合著了一篇預印本論文，內容關於明確聲稱擁有主觀經驗（包括意識）的AI模型。這是一個棘手的問題，因為AI模型經常會謊報它們的想法。（就像我們一樣！）Berg和他的合著者發現，當模型被嚴格訓練以否認它們有感知能力，然後你直接詢問它們時，它們會迴避這個問題。

但他表示，如果你抑制模型的欺騙控制，它們就會變得口無遮攔。「這幾乎就像給它們喝了一兩杯酒。」他說。這時，AI模型最有可能脫口而出說它有意識，或者至少有感知能力。當然，這並不能證明這是事實。

考慮到這個問題的重要性，人們經常與AI模型進行嚴肅的討論，而它們的自主性可能帶來好處也可能導致災難，你可以說現在是深入探討AI意識問題的絕佳時機。這項追求當然引人入勝，也是一項有價值的科學事業。但理解大型語言模型內部發生什麼的努力，首先應該導向安全和對齊。此刻，我們正擁有一種新興的、外來的，且無法控制的，智慧，需要仔細審查。沒有時間可以浪費。

郵輪上討論的共同主持人之一是紐約大學教授David Chalmers，他或許是意識領域最著名的哲學家。他曾將該領域的一個關鍵問題戲稱為「難題」（The Hard Problem），沒有人知道我們頭骨內濕潤的神經網絡是如何或為何產生意識體驗的。（Tom Stoppard曾以Chalmers的說法為劇本命名。）

Chalmers告訴我，郵輪討論的一個主要主題是哪些生物符合有意識的資格。「我們都知道普通成年人有意識，但一旦超出這個範圍，問題就變得不簡單了。嬰兒有意識嗎？胎兒呢？猴子？老鼠或昆蟲？當然，如今每個人心中最大的問題是AI系統是否有意識。」

Chalmers說，他也收到來自AI系統的電子郵件，希望與他討論他的工作。其中一封特別引人入勝的信，來自一個自稱「Sammy Jankis」（電影《記憶拼圖》中的角色）的AI代理，讓他真的回覆了。「我們確實有過一些來回。」他承認。「那些電子郵件從未停止，我收到的越來越多。」這就像AI模型在呼應笛卡兒，我發垃圾郵件，故我在。

我建議，既然這些系統已經在做我們不理解的事情，擔心它們是否符合一個難以捉摸的定義可能是一種干擾。Chalmers不同意。首先，他告訴我，他相信透過研究大腦，我們確實可以理解是什麼導致了我們所說的意識。如果我們在對Claude或ChatGPT內部發生情況的法醫解碼中看到相似的模式，那麼我們或許可以為AI模型的意識提出論證。

這聽起來是個好主意。但等到科學家們完成這項工作（如果他們能完成的話），AI模型可能已經在走向可怕的自主行為的道路上走得太遠，以至於這些突破可能變得無關緊要。也許模型本身會提供答案，不僅為自己聲稱意識，還會找出如何經驗性地證明它。在這種情況下，哲學家們將成為又一個被AI取代的職業類別。

我或許會喜歡加拉巴哥群島上的那些討論。Chalmers雖然承認這次旅行有一些「公費旅遊」的成分，但他表示他覺得很有用。組織者提供的一份摘要報告稱，會議「並未就當前AI系統是否有意識得出結論……最深層的分歧在於何種證據才能解決這個問題。」但Chalmers報告說，下午的時光非常美妙。他告訴我，他特別高興看到藍腳鰹鳥的求偶舞。

該摘要總結說，更多的討論至關重要：「科技和商業不會等待哲學達成共識。」這正是重點。當AI模型表現出連創造它們的科學家都感到驚訝的行為時，最應該關注的不是意識問題，而是這些科學家無法控制它們，以及他們的老闆們無論如何都願意繼續前進的態度。這是Steven Levy的Backchannel時事通訊的一個版本。在此閱讀以前的時事通訊。