AI 哪裡出錯？微軟研究員 Jennifer Neville 談 AI 評估與實務挑戰

Jennifer Neville 是微軟的合作研究經理，她的職業生涯圍繞著理解和推進 AI 在實際應用中的發展。就像她一直在研究的人機互動一樣，她早期的職業道路也是多回合的：先是數學，然後是物理；接著是認知科學，然後是工作；最後是電腦科學，儘管她曾盡力避免這個領域。

在與首席應用科學家 Chad Atalla 的對話中，她探討了評估在推動當今 AI 系統效能邊界以滿足使用者需求方面的作用，以及當模型在傳統基準測試之外進行測試時所出現的「意外失敗」。Neville 也分享了與當前 AI 系統合作的實用指導，並討論了當結果不符預期時，仔細審視資料的重要性，以及數十年 AI 進展教會她如何預測未來。

從意想不到的職業軌跡到 AI 互動與學習的前沿，本集提出了一個更大的問題：當道路，無論是人類還是人工智慧，沒有按照我們預期的方式展開時，我們能從中學到什麼？

[音樂]

JENNIFER NEVILLE：有時候我覺得自己徒勞無功。事情沒有進展。我會感到有點沮喪。但隨後我們會達到一個點，我們確實學到了一些東西，那種情感上的刺激，那才是真正讓我著迷的地方。能夠理解一些其他人尚未理解的東西……

CHAD ATALLA：當然……

NEVILLE：……因為它正處於我們知識的前沿。

標準介紹：這裡是微軟研究院播客，微軟研究人員透過基礎科學和技術研究推動進步，探索運算和 AI 領域的參與者、方法和未來。

[音樂結束]

CHAD ATALLA：大家好，歡迎收聽。我是 Chad Atalla，微軟研究院的應用科學家。

今天，我邀請到 Jennifer Neville，她是微軟研究院的合作研究經理，也是普渡大學電腦科學與統計學的 Samuel D. Conte 講座教授。

她的研究探討互動領域和結構化資料的機器學習與 AI，著眼於 AI 系統訓練所用的資料點如何影響其行為，以及這如何與使用者實際需求相符。在她的研究中，她發表了超過 130 篇論文，被引用超過 10,000 次，並獲得了多項榮譽，例如美國國家科學基金會 CAREER 獎、入選 IEEE「AI 領域十大值得關注人物」名單，以及國際資料探勘會議和國際學習表徵會議的最佳論文獎。

Jen 的工作最讓我驚訝的是她的遠見和能力，她能在 AI 領域發展的過程中保持一貫的思路。我很高興能聽到更多關於她如何走到今天的故事。Jen，謝謝妳的加入。

JENNIFER NEVILLE：謝謝邀請我。

ATALLA：太棒了。我很想了解妳是如何走到今天的。讓我們回溯到很久以前。我小時候想成為一名天文物理學家，但當然，我現在擁有電腦科學背景。妳是什麼時候知道自己想進入電腦科學領域的？

NEVILLE：這是個好問題。我……我小時候想做除了電腦科學以外的任何事，因為那是我爸爸的專業，而我不想做我爸爸做的事。所以當我上大學時，我先主修數學，然後是物理，但我真的對這些主修不來電。

所以我休學了一段時間，當我再次回到大學時，我改主修認知科學，但這對我來說也太模糊了，數學不夠多。那時候，如果有人告訴我：「AI 才是妳該做的事，因為它結合了認知科學、數學和計算思維」，我想我會省下很多時間，[笑聲] 但這並沒有發生。

所以我工作了一段時間。然後當我回到學校時，我決定主修電腦科學，因為我想做的是思考如何處理資料。那時我偶然發現了 AI。我甚至沒有意識到它是電腦科學的一部分。

ATALLA：太棒了。進入電腦科學領域並想研究資料或 AI 是一回事，而想參與這方面的研究又是另一回事。那麼，是什麼樣的問題或大想法激發了妳的研究動力呢？

NEVILLE：是的，這也是一個有趣的故事。我之所以進入研究領域，只是因為我參加了電腦科學學位的榮譽學程，而作為榮譽學程的一部分，妳必須完成一個研究專案 [笑聲]。

ATALLA：這是強制性的，是的。

NEVILLE：這是強制性的。所以當我與教授討論研究專案應該是什麼時，他們實際上說：「嗯，妳必須決定妳想研究什麼主題。」

那時我對資料和 AI 很感興趣，我思考了很多，也閱讀了很多。我決定要研究的問題是如何在互聯網資料上進行資料探勘，所以當我決定這是我想研究的問題時，我被引導到一位特定的教員……

ATALLA：不錯。

NEVILLE：……他當時剛開始在這個新興領域工作，這個領域被稱為統計關係學習。我們在這個領域完成了我的專案，我在一個研討會上發表了一篇論文，然後我就有點著迷了。

ATALLA：好的，是的。

NEVILLE：所以我原本沒有計劃讀研究所，但那次經歷……

ATALLA：是的。

NEVILLE：……讓我想讀研究所並繼續下去。

ATALLA：不錯。妳認為是哪一部分讓妳著迷？是做研究的刺激感嗎？還是會議的氛圍和學術出版的樣貌？

NEVILLE：真正讓我著迷的是做研究的刺激感和過程。那是一個漫長的專案。有時候我覺得自己徒勞無功。事情沒有進展。我會感到有點沮喪。但我的指導教授會給予支持和鼓勵，說：「不，繼續下去。我們正在學習一些東西。」然後，我們會達到一個點，我們確實學到了一些東西，那種情感上的刺激，那才是真正讓我著迷的地方。能夠理解一些其他人尚未理解的東西……

ATALLA：當然。

NEVILLE：……因為它正處於我們知識的前沿，這簡直就像一種毒品，對吧？[笑聲] 所以這讓我長期以來一直從事研究，追逐著同樣的感覺。

ATALLA：明白了。太棒了。是的，妳在 2021 年從學術界加入微軟。事實上，妳仍然是一名教授，並且已經教學和指導了 20 年。是什麼促使妳的職業生涯轉向部分在業界進行研究？妳會如何描述業界研究和學術研究之間的差異？

NEVILLE：我的研究涵蓋了從理論到應用的整個光譜。當我獲得終身職後第一次休假研究時，許多與我處於相同職業階段的同事都去了業界實驗室進行休假研究，然後就沒有回到普渡大學。我思考了我想走哪個方向，是更偏理論還是更偏應用，我認為在我職業生涯的那個階段，探索理論方面會更好，因為那樣我可能真的會回到普渡大學。

所以我去了柏克萊的西蒙斯研究所進行休假研究，那是非常理論性的。那是一次很棒的經歷，但回到學術界幾乎是無縫接軌的。在我第二次休假研究時，我走了另一個方向，那就是來到微軟研究院進行休假研究。當然，能夠看到理論中的演算法如何在實踐中，在真實系統、真實使用者和真實資料中實際應用，這很難再回頭了。所以這就是我現在還在這裡的原因。

ATALLA：明白了。

NEVILLE：所以我認為學術界和業界研究之間的差異取決於……實際上受到研究目標的影響。所以我認為從根本上來說，學術界和業界提出的問題感覺非常相似，但在業界，妳在真實系統上以真實資料大規模應用它的能力與學術界非常不同。而在學術界，我認為妳最終會提出更多抽象的問題，這些問題同時涵蓋許多不同領域的應用。

這就是妳從 DARPA（美國國防高等研究計畫署）和 NSF（美國國家科學基金會）等地方獲得資金的方式。

但在業界，親身實踐並在真實系統中執行會更容易一些。然後妳的目標是產品和公司的利益。所以這會改變妳可能提出或調查的問題類型。所以我認為能夠……

ATALLA：是的。

NEVILLE：……同時身處兩個地方真是太棒了，對吧？兩者之間有很多協同效應，我認為有很多機會可以去業界然後回到學術界，或者從業界開始然後去學術界。但現在，如果妳正在研究 AI 系統，我認為業界是真正值得去的地方。

ATALLA：明白了。是的。這對那些現在正在決定職業生涯方向的人來說，或許是很有用的建議。

我來到微軟已經六年多了，其中大部分時間都在從事 AI 評估工作，這個領域當然存在許多令人望而生畏的基本問題和挑戰。

我最初接觸到妳的工作並了解到妳的工作，是因為妳的部分工作為這些問題提出了一些解決方案並指出了這些問題。我當時的第一反應是鬆了一口氣，因為有像妳這樣優秀的人在處理這些事情，妳會為我們解決這些問題。我非常欣賞妳在批判 AI 評估的同時，也一路提供了解決方案。

但我知道這只是妳更廣泛研究議程的一小部分。那麼，妳會如何描述妳目前在這裡領導的團隊的研究章程呢？

NEVILLE：我們的團隊叫做 AI 互動與學習團隊。我們真正關注的是努力推動這些 AI 系統在真實工作環境中的行為邊界。這包括研究當前系統的效能邊界在哪裡，使用者在實際工作流程中如何體驗這些邊界，然後我們如何改進並推動模型在這些複雜任務上的效能，這些任務是使用者正在處理的。

我們之所以專注於評估，是因為我們發現機器學習和 AI 領域的標準評估方式是透過相對簡單的基準測試，這與人們在實踐中實際使用它們的方式相比，過於簡單。所以我們發現，妳真正需要做的第一件事是問，我們希望這些系統達到什麼目標？並設計實用評估，將系統置於那樣的環境中。這意味著像多回合行為、協作環境、使用者正在執行的長期任務等。

一旦我們能夠看到這些評估中出現的效能差距或問題，這也為我們提供了知識，讓我們知道在理論上或演算法上，我們需要在哪裡改進這些系統。

所以我們從評估開始，但最終，我們試圖做的是開發更好的演算法、模型、估計方法……

ATALLA：當然。

NEVI