改變一切

　　OpenAI 真正想要的是什么?

　　ChatGPT 發布之后，這家年輕的公司在世界各地引發沖擊波。但這僅僅是個開始。

　　*目標：Change everything。

　　是的，Everything。

　　神諭

　　GPT-4 發布之后，Sam Altman 開啟了他的全球巡回，

　　不論在任何一個城市，Altman 享受著搖滾明星一樣的待遇。

　　人們狂熱地尖叫、提問。每個人都想要合影。

　　他在聚光燈下。

　　在新聞里，他的形象是人類公敵(AI)的視覺象征。

　　所到之處，他說的話，就是神諭。

　　注入新的世界觀

　　人們會怎樣記住那幾個月的 Sam Altman 呢?

　　Steven Levy 想象有一天，機器人書寫人類的歷史。它們這樣定義那個時刻：

　　一名低調卻引人關注(quietly compelling) CEO，用一種打破范式的技術，試圖將一種非常奇特的世界觀，注入全球思維。他從舊金山一個無人問津的四層辦公樓，走向了全世界。

　　不吝嗇夢想

　　OpenAI 的員工們可能已經把建立 AGI 的夢想烙在了肉體上。

　　在 OpenAI 的辦公區，討論「Build AGI」永遠比「make it safe」更令員工們感到興奮。

　　他們從不回避也從不吝嗇使用「超級智能」這個詞。

　　他們假設，AI 的發展軌跡，將遠超生物學所能達到的極限。

　　OpenAI 的財務文件，甚至規定了一種應急退出措施，以防 AI 毀滅了人類的整個經濟體系。

　　Only The Faithful

　　只有 the faithful 能成為 OpenAI 的員工。

　　記者 Levy 向 OpenAI 的高層提問，如果有人并不相信 AGI 真的會到來，他們能否在 OpenAI 舒適工作?

　　「為什么一個非信徒(nonbeliever)想要在這里工作?」高管們不理解。

　　Altman 會說，如果你被錄用，那一瞬間你就不可避免地被吸引到他們的魔咒里。

　　就是想要那種人

　　「那是 2015 年，我們開始招人的時候，那時候你讓一個 AI 研究員說 AGI 值得認真對待的話，這個人的職業生涯就完了。」

　　Sam Altman 在拿到各方資金后，開始偷偷組建團隊，「但我就是想要那些認真對待它的人。」

　　Greg Brockman、Andrej Karpathy、Ilya Sutskever，他們都是這樣的人。

　　教父驚呆了

　　Ilya Sutskever，從俄羅斯移民到以色列，再移民加拿大，在多倫多大學，稱為 Geoffrey Hinton 的門徒。

　　就連 Hinton 也驚訝于 Sutskever 的天分。

　　Hinton 早期給 Sutskever 安排了一個復雜的項目，但 Sutskever 厭煩了寫代碼來做必要的計算，他告訴 Hinton，如果他為這個任務編寫一種定制編程語言，會更容易搞定。

　　Hinton 有些惱火，警告學生不要分心，他認為這么做會耽誤一個月時間。

　　「我今早寫好了，」Sutskever 向老師坦白說。

　　*次親密接觸

　　2015 年年中，Altman 給 Sutskever 寫郵件，約他和馬斯克、Brockman(當時 Stripe CTO)一起吃個晚飯。

　　Sutskever 并不是知道，那是專為他準備的局。

　　他們討論了 AGI 和人工智能發展的話題，聊了聊 Google 和 DeepMind 是否不可超越。沒有人給 Sutskever 示意。

　　但 Sutskever 聊興奮了，不久后他給 Altman 寫了一封郵件，大意是，「我來 lead」。

　　這封郵件卡草稿箱沒發出去...

　　但 Altman 又主動去找他了。

　　也有人不買賬

　　不過并不是所有人都欣然接受 Altman 的邀請。

　　卡馬克，約翰·卡馬克，傳奇，拒絕了 Altman。

　　后來他自己創業投身 AGI。

　　名不見經傳

　　Alec Radford，一個外界報道鮮有提到的 OpenAI 研究員，2016 年抱著加入個研究項目的心態接受 OpenAI 的 offer。

　　他后來扮演的角色，就像 Larry Page 發明了 PageRank(Google 開始的地方)。

　　他很害羞，用長郵件回復了 Levy 的采訪。

　　他在 OpenAI 不知道該做什么，除了愿景一無所有的時候，開始了*個實驗：用 20 億條 Reddit 評論訓練語言模型。這個實驗失敗了，他當時 23 歲。

　　當時的 CTO，現在的總裁 Brockman 說，小伙子很棒，讓他再試試吧，let him do his thing。

　　開天辟地

　　受限于算力，Radford 只能專注在單一領域的小數據集上實驗。

　　于是他選擇了亞馬遜電商評論，然后讓語言模型可以簡單地預測并生成用戶評論的下一個字符。

　　突然間，模型自己能夠確定評論是積極的還是負面的，它能根據要求提供奉承或者苛刻的評論。

　　后來，在 OpenAI，這被稱為「無監督情緒神經元」。

　　好運臨頭了。

　　他山之石

　　Sutskever 鼓勵 Radford 將研究拓展到亞馬遜評論之外的數據。

　　不久后，2017 年，Attention is all you need 發表。

　　Sutskever 是全世界個別幾個真正理解 Transformer 有多么強大的人之一。

　　「這就是我們一直在等待的東西。」他說。

　　Radford 開始嘗試 Transformer 架構，「我在兩周內取得的進展，比過去兩年還要多。」

　　轉折點 1

　　方向明確了，就是 Transformer。

　　「為了利用 Transformer，你需要擴大規模。」OpenAI 董事會成員，Quora CEO Adam D'Angelo 說，「你需要像一個工程組織一樣運營它，不能讓每個研究人員做自己喜歡的事情，煉自己的模型，發自己的論文。你必須做更乏味、不那么優雅的工作。」

　　這是 2018 年，全世界都好沒意識到，Altman 和 Musk 創辦的 AI 實驗室，開始正式的攀峰。

　　他們原本聽起來瘋狂的想法，突然不再無解了。

　　Radford 把他們最終創建的模型其名為 generatively pretrained transformer。

　　1.17 億參數，包括書籍、Quora、初高中考試的文章等等，模型在理解語言和產生答案的方面超越了以往一切的人工智能。

　　那是一個深夜，Radford 在 OpenAI 辦公室，「我只是一遍又一遍的說，『行，挺酷，但我敢保證它做不了xxx』，我迅速編寫一個評估測試，(然后發現，)行吧，它還真可以做xxx。」

　　親手實現了科幻

　　OpenAI是從什么時候意識到「Open」是很危險的?

　　GPT-2。Radford 親手做出了自己十年前讀的科幻小說里的機器。

　　在尼爾·史蒂芬森的《詛咒》一書中，互聯網上充斥著垃圾郵件生成器。

　　「我曾認為這真的很牽強，但隨著我多年來在語言模型上的工作，隨著我讓它們變得更好，我不安地意識到，這是真正可能發生的。」

　　OpenAI 與內外部的專家討論，做了很多安全工作后，最終決定發布一個功能有所保留的版本，GPT-2。

　　他來了，他走了

　　馬斯克在這時候有了想法。

　　他想要擁有 OpenAI，收購多數股權。不只是一個沒有商業回報的贊助者，他想要 OpenAI 像 Tesla、SpaceX、Neuralink、Boring Company 等等公司一樣，成為「馬斯克宇宙」的一員。

　　他覺得 OpenAI 要抓住*優勢，他覺得 OpenAI 應該注重安全問題，不管怎樣，他的解決方案只有一個：把一切都交給他。

　　Altman 和 OpenAI 其他「智囊團」成員拒絕了馬斯克。

　　馬斯克憤然退出 OpenAI 董事會。在全體員工會議上，馬斯克完成了他的道別：

　　他預測 OpenAI 必將失敗，然后稱呼至少一個研究人員為「蠢蛋」(jackass)。

　　人走了，他的資金支持也斷了。

　　霸王條款

　　硅谷不會愿意向非營利組織砸錢。

　　OpenAI 創建了營利性的實體，雖然表面上還是非營利組織的研究機構，但實際上絕大部分員工都在從事盈利業務。

　　潛在投資者們卻收到了一份奇怪的警告：不要期待投資回報。如果公司確實做出了AGI，會重新考慮財務安排。

　　這樣的「霸王條款」并不是玩笑。

　　OpenAI 為盈利業務設定了上限，上限外的一切都將回歸非營利研究機構。

　　實現技術革命的*使命，被編碼在公司的組織規則里。

　　在這里，董事會的工作不是監督會計財務，而是保證OpenAI忠于使命。

　　同一個問題

　　聰明的投資者非但沒被嚇退，還加倍投下了賭注，OpenAI的員工同樣爭取自家的股權。

　　公司的估值達到了30億美元，只是股東列表里，沒有Altman。

　　對他來說，一份有意義的工作，要比錢更有價值。

　　Altman 被問了太多次為什么不要股權。

　　他現在想要了，這樣就不用總回答同一個問題了。

　　微軟進場

　　回到融資。指數級躍遷的參數迭代背后，是靠著資金壘起來資源。

　　像是《大白鯊》里的捕魚獵人，擺在 OpenAI 面前的，是大白鯊一樣龐大的目標，他們還不知道，需要建造多大的船。

　　不過顯然，在數十億美元的風投回合中，只有少數幾家公司能上牌桌。

　　Microsoft 先后投入 13 億美元，大型云提供商的支持，為 OpenAI 縮短了計算時間。

　　Microsoft 也開始要求更多的東西：49% 的「非控制性股權」。

　　這家科技巨頭，獲得了將 OpenAI 技術商業化的*許可，還換得了對方只使用 Microsoft Azure 的承諾。

　　即使沒有從 OpenAI 的利潤中分一杯羹，Microsoft 也能借助跟 OpenAI 的綁定，為 Azure 云計算服務鎖定世界范圍內最理想的新客戶。

　　壓力的另一端

　　披頭士引發了巨大的文化變革浪潮。

　　但火爆全球之后僅僅 6 年，披頭士解散。

　　所有的壓力，來自全世界的無情關注，每個產品周期實現革命的目標，投資人的商業回報，被迫和全世界技術能力最強的商業巨頭們站在同一個斗獸場里，還要承擔起「守護人類」的使命，這些很有可能是一種削弱的力量。

　　OpenAI 的創始人們，他們想要一個足夠智能但安全的計算機，結束一段歷史，將人類推入一個難以想象的慷慨時代。

　　轉折點 2

　　與巨頭微軟的親密接觸讓 OpenAI 的口碑走向了另一個方向。

　　馬斯克聲討，稱 OpenAI 從想要拯救雨林，變成了木材商。

　　叛逃陸續發生在曾經并肩作戰的老伙計身上。

　　研究主管 Dario Amodei 和幾位關鍵高管離職，創辦了一家名為Anthropic 的競對公司。現在 Claude 系列模型是 GPT *的競爭對手。

　　GPT-2、GPT-3 的項目技術貢獻者 Rewon Child，進入了 Inflection AI。

　　在這些人看來，OpenAI 迷失了自己的使命，成了過于商業化的受害者。

　　這是計劃的一部分

　　為什么在 GPT-4 已經震撼微軟全家數月之后，才緩緩放出基于 GPT-3.5 的 ChatGPT?

　　「迭代部署假設」(iterative deployment hypothesis)。

　　Altman 稱這是戰略的一部分，雖然 OpenAI 內部有很多爭議，但他堅持認為要讓大眾階梯式地適應人工智能，適應即將到來的全新的時代。

　　「有了 ChatGPT，我們可以引入對話，同時不必把后端功能做得太好，給用戶慢慢適應。想一口氣適應 GPT-4 要難得多。」Altman 解釋道。

　　為奇點的降臨，提供軟著陸。

　　Sutskever 的解釋不太一樣，他說，「你會想創造更大更強的智慧體，然后藏在自家地下室里嗎?」

　　300 年前的鏡子

　　「回顧工業革命，每個人都會覺得它對世界來說是一件好事，」OpenAI 政策研究院 Sandhini Agarwal 說道，「最初的 50 年真的很痛苦。很多失業、很多貧困，在這之后世界才適應了。」

　　OpenAI正在做什么？

　　產品本身、商業化公司、與微軟的關系、開發者生態系統、應用商店，還有 AGI 的研究。

　　六件事。

　　哦，還有投資。

　　「這些是不同的文化，事實上，它們與研究任務是有有沖突的。」以為 AI 行業的高管對 Levy 說。