Vercel 軟體長 Andrew Qu 在 AIEWF 展場受訪。Andrew Qu 是 Vercel 的軟體長,他與技術長合作,負責內部工程、產品實驗和新興技術。

他曾為 MCP 開發函式庫、創建 skills.sh,並主導了 Vercel 代理程式建構框架 eve 的開發。在這次與 Latent Space 的訪談中,Qu 解釋了為何代理程式代表一種新型態的軟體,Vercel 從自身開發中學到了什麼,以及 Vercel 本身為何正轉變為一個代理程式!

Latent Space:Vercel 的軟體長職責是什麼?

Andrew Qu:我的職位非常獨特。我與技術長合作,以任何形式交付影響力。這結合了內部工程、外部實驗,並透過實際建構來保持在技術前沿。

這意味著要建立新的函式庫和框架,並向人們展示如何首次完成某些事情。我建立了一個 MCP 函式庫,讓創建首批 MCP 伺服器變得更容易,我也建立了 skills.sh,讓代理程式技能更容易被發現和使用。

Latent Space:Vercel 如何從專注於網頁開發轉變為大力投資代理程式?

Qu:Vercel 的初衷是讓開發者更容易部署網站和網頁應用程式。最近,我們看到人們從建構網頁轉向建構代理程式。

在開發我們的氛圍編碼產品 v0 中的代理程式時,我們遇到了許多現有工具無法解決的痛點:例如切換模型或供應商、添加備援機制以及讓執行可恢復。

我們將這些解決方案轉化為可重複使用的函式庫,以支援 v0 並幫助客戶建構他們自己的代理程式。隨著時間的推移,我們累積了一套基本元件,並決定將它們更具凝聚力地整合起來。這就是 eve 的由來。

Latent Space:你們是如何達到 Vercel 需要專門的代理程式框架的程度?

Qu:大約一年前,我開始努力在 Vercel 內部為每個辦公桌配置一個代理程式。這讓我成功建構了一個資料代理程式,並在此過程中產生了許多最佳實踐:檔案系統代理程式、技能、壓縮和子代理程式。

這些都是我希望能夠開箱即用的東西。最終,我們問自己:如果有一種規範性方法來做這件事,讓其他開發者不必經歷相同的探索過程,那會怎麼樣?這就是 eve 的誕生。

Latent Space:代理程式僅僅是另一種應用程式,還是一種真正新型態的軟體?

Qu:我認為代理程式是一種新型態的軟體。它們不像網頁應用程式那樣可預測。基礎設施可能看起來相似,但互動、介面和輸出都更加動態。

這改變了你建構它們的方式。你需要不同的基本元件來處理上下文、工具、可恢復性及長時間執行任務。

Latent Space:哪些問題特別適合代理程式解決?

Qu:我們看到很多業務代理程式的應用。在 Vercel 內部,我們將它們用於重複性工作,從法律合約修訂初稿,到行銷回顧和識別聯繫人,再到對我們的資料儲存庫進行查詢。

一個好的應用案例通常是需要一些推理的重複性任務。這不僅僅是固定自動化,因為系統必須解讀情況並決定如何行動。

Latent Space:代理程式何時應該自主運作,何時又應該保持人機協作?

Qu:我不認為未來會是完全自主的循環,也不認為會是完全人機協作。這取決於選擇適合任務的回饋週期。

如果任務定義明確,並且你知道最終輸出應該是什麼樣子,那麼讓循環持續到完成是合理的。對於更謹慎或精密的工程工作,你應該定期檢查,確保你正在正確引導模型。

Latent Space:你們的方法透過提示詞、客製化工具、編碼代理程式線束、檔案系統代理程式和技能不斷演進。主要學到了什麼?

Qu:我們仍在探索如何讓代理程式更高效。在此過程中,我們一直在收集這些基本元件並將它們整合到 eve 中。

隨著最佳實踐的出現,還會有更多內容需要添加。一年前,我們不知道沙盒會變得如此重要,也不知道對安全程式碼執行和長時間執行任務的需求會有多大。隨著我們從實際生產中學到更多,將會有更多東西需要建構。

Latent Space:Vercel 是否正在創建一個類似於其為網頁開發所建構的端到端代理程式平台?

Qu:是也不是。我們重視提供代理程式生命週期中專業部分的合作夥伴,但我們也希望開發者能夠非常容易上手。

如果你將 eve 部署到 Vercel,你將獲得開箱即用的可觀察性與評估。我們希望讓這種體驗更全面,同時使其易於與合作夥伴整合,而不是擁有每個元件。

Latent Space:為什麼技能變得如此重要?

Qu:技能作為可攜式、隨選知識非常有用。模型通常包含過時的資訊。例如,它們有時仍然推薦 Vercel Postgres,儘管我們多年前就已棄用它,轉而使用我們的市集。

技能可以告訴代理程式 Vercel Postgres 已棄用,並引導它採用當前方法。在公司能夠審核並更新所有舊內容之前,技能提供了一種向前修正模型的方法。

我建議為你產品的最新版本發布技能。但公司也應該審核其現有內容,識別哪些已過時並更新它或添加清晰的註釋。

Latent Space:隨著越來越多的流量來自代理程式,網站將如何演變?

Qu:我們發布的報告顯示,機器人流量正在上升,而人類流量停滯或下降,即使曝光量增加,因為代理程式和機器人更頻繁地造訪網站。

因此,網路的未來是盡可能對機器人與代理程式開放,以便它們能夠了解你的產品並成功使用它。在 Vercel,我們已經能夠偵測到代理程式發出請求時,並直接提供 Markdown。我們提供一種更容易閱讀的格式,而不是強迫它處理為視覺化瀏覽器設計的 HTML。

Latent Space:這是否意味著人類和代理程式將有不同的體驗?

Qu:我想是的。人類可能會繼續接收視覺化網站,而代理程式則接收更結構化、機器可讀的表示形式。我們今天已經在這樣做了。

Latent Space:你最感興趣接下來要解決的問題是什麼?

Qu:我議程上的首要任務之一是多人代理程式開發。每當團隊協作時,人們都會難以分享上下文。

我可能有一些技巧可以一次性搞定前端介面,但另一個人可能不知道這些技巧。我感興趣的是我們如何能在隊友之間分享這些上下文,並讓他們為此做出貢獻。

Latent Space:代理程式會成為一個獨立的應用程式類別,還是內建於大多數軟體中的標準功能?

Qu:這取決於你是誰以及你在建構什麼。對 Vercel 而言,Vercel 本身正在成為一個代理程式。我們的網站、Slack 和儀表板中都有代理程式,可以代表你執行任務。

其他公司將把代理程式作為獨立產品發布。對我們來說,代理程式與我們建構的一切都緊密耦合。我們希望整個平台都是代理程式友善的,並且在許多方面,讓平台本身成為一個代理程式。