折疊世界 it is all happening at the same time

把四月這則推文重新翻出來,是因為人們對大型語言模型(LLM)能力的認識落差,正在持續擴大。如今,與其說是「兩群人各說各話」,不如說已經形成了一個急劇收窄的漏斗。

— 粗略估算,大約有60億人(約占全球人口75%)幾乎還沒接觸過LLM。

— 大約有10億至20億人(約20%),只是偶爾使用ChatGPT這類產品的免費版。他們看到的是有點蠢萌、時常犯傻的聊天機器人,把它當成好用一點的Google搜尋、寫作輔助工具之類的東西。也許會讓某個代理幫忙訂機票。我有些非科技圈的朋友說,自己實在沒什麼地方用得上它;在我看來,這完全可以理解。甚至連許多數學與程式設計以外領域的專業人士,也處於這一層。例如,高階主管和許多其他職位的人,大量時間都花在與人交談上。因此,即使他們在理智上理解正在發生什麼,那仍然是間接得來、多少有些抽象的認識。

— 再往下,是在數學與程式設計中,專業使用最先進LLM的人。大約有2,000萬人(0.2%)親身看見:過去需要數週乃至數月的大型複雜專案,如今只要給代理一個提示,就能完成。開發應用程式、複製應用程式、將應用程式移植到其他語言、從二進位檔反編譯應用程式……這一切都發生得極快,而且就在最近。不到一年前,我還在手動寫程式,把記在腦中的電腦程式指令,一個字元一個字元地敲進編輯器,偶爾按一下Tab,讓它自動補完一小段程式碼。

— 最後,是大約5,000名(約0.00006%)能在內部使用最先進系統的人。外界已經看到了一些預演:數以千計的代理組成群體,連續數週協作,處理超大型軟體專案;挖掘零日漏洞,以機器的速度展開網路攻防,作出新的科學發現,推進數學前沿。這些工作,過去即使交給業界頂尖專業人士,也得花上多年。與此同時,人類的審查與理解已經開始跟不上。例如,人們至今仍在對數月前的OpenAI–HF事件做「考古」。數學家們也可能還得花上好一段時間,細讀那722篇前沿數學論文手稿。

這個漏斗,是幾種因素共同造成的:

  1. 影響會隨著目標的雄心、問題的規模,以及任務的時間跨度而放大。一個只需要一段文字就能回答的問題,根本沒怎麼考驗這套系統。你需要手上有一大批自己真正關心、規模大而且困難的問題。這個因素,主要形成了漏斗中一般消費者與專業使用者之間的差異。
  2. 系統能力的參差不齊,我之前已經另外寫過很多。能力的高峰,集中在數位化、結果可驗證,而且具有經濟價值的領域。這是因為,LLM的能力來自以可驗證獎勵進行的強化學習,而訓練所用的是經過挑選、由營收潛力引導的一組環境。這個因素,主要形成了漏斗中不同領域之間的差異,例如數學與程式設計。
  3. 使用權限:免費版、付費版,以及內部系統。

所以,這就是當下弔詭的地方。大多數一般民眾,幾乎還沒和這些系統打過交道。即使接觸過,看到的也只是個傻乎乎的聊天機器人。大多數專業人士,仍然只感受到幅度有限的提升。而極少數專業人士,卻正因為那條曲線幾乎垂直向上而感到暈眩。

這一切,正在同時發生。