陳默看著屏幕,沒有掩飾眼中的滿意。
openAI成立時間不長。
團隊能夠進展如此迅速,一部分來自不計成本的算力和人才投入。
更重要的是,他們沒有沿著2015年最流行的路線,為每一種任務單獨搭建模型。
陳默從成立之初便提出,大量無標注數據、自監督訓練、統一表示與跨任務遷移,才是通往更強人工智能的關鍵。
他雖然不會寫代碼,但卻能讓團隊避開未來數年已經被證明價值有限的岔路。
馬斯克靠向椅背,眼中難掩驕傲︰“事實證明,正確的道路比多雇一千名谷歌工程師管用得多。”
“只能讓我們暫時領先。”陳默沒有被演示結果沖昏頭腦,“谷歌一旦確認這條路線有效,很快便能調動比我們更多的算力和人員。”
“想把領先變成真正的優勢,下一步需要將零散研究合並起來。”
他站起身,走向白板。
目前openAI內部仍將語言、圖像、游戲和機器人視為幾個相對獨立的研究方向。
團隊已經開始共享部分底層方法,卻沒有統一的長期定義。
陳默拿起筆,在白板中央寫下四個字。
基礎模型。
現場大部分人第一次看見這個詞。
“未來最重要的人工智能,不會是只能下棋、識別人臉或者回答某一種問題的專用程序。”
“它應該先通過海量數據,學習語言、圖像和現實世界中最基礎的結構。”
“隨後,只需要少量數據、指令或者環境反饋,便能適應不同任務。”
“它更接近一個承載智能能力的平台。”
Sam盯著白板︰“如果徹底按這套邏輯走,現有兩千張顯卡連下一代架構的門檻都摸不到,算力開銷每年會翻數倍。”
“這就是今天需要解決的第二個問題。”陳默重新坐下。
算力擴建方案被投到屏幕上。
openAI目前已經擁有兩千余張GpU,並與幾家雲計算公司建立合作。
這套規模放在普通研究機構中堪稱奢侈。
面對基礎模型,卻只能算第一步。
技術團隊希望在未來十八個月將可用算力擴大四倍,同時搭建自己的分布式訓練系統。
預計總投入超過三億美元。
馬斯克率先表態︰“我支持。如果我們因為擔心花錢而放慢速度,谷歌不會給我們第二次機會。”
陸靜怡翻開預算︰“錢可以解決。但三億美元不是一次性支出。”
她看向Sam。
“openAI依靠發起人長期捐贈,能夠支撐三年,未必能夠支撐十年。”
“如果基礎模型真的成為你們定義的平台,商業化遲早會發生。”
這也是桌面上第三份方案存在的原因。
完全依賴捐贈,openAI很難和谷歌、微軟等公司進行長期算力競爭。
過早商業化,又可能讓研究方向被收入和投資人控制。
楊植林想起清華飯局上的問題。
“如果未來需要商業化,哪些成果繼續開放?”
“論文、代碼、訓練數據,還是完整模型?”
“全部開放,任何公司都可以拿走openAI投入數十億美元訓練的成果。”
“完全封閉,openAI又會變成另一家普通科技公司。”
Sam沒有立即回答。
這正是他提交組織治理方案,卻始終無法徹底解決的矛盾。
梁文豐第一次開口︰“問題可能不在開放或者封閉。”
眾人看向他。
“而在于我們將人工智能看成什麼。”
梁文豐指向白板上的基礎模型。
“如果它只是軟件,最簡單的方法就是賣許可證。”
“如果它真的會成為平台,那麼模型能力、算力和數據會共同構成新的基礎設施。”
“基礎設施可以向外提供服務,但不能把所有底層控制權交給少數客戶。”
他在量化市場中看到過相似情況。
單一策略可以出售。
完整交易系統一旦交出去,對方得到的便不再是一項產品,而是持續制造策略的能力。
陳默一錘定音︰“論文、工具鏈與安全規範全面開源,核心參數與高風險能力閉門受控。”
“openAI不是一家公司,它是匯聚算力、高校與產業的神經中樞。”
“我們不需要把所有優秀人才都變成員工。”
“它可以成為一張研究網絡。”
“大學、實驗室和企業保留各自數據與知識產權,只在基礎方法、算力工具和安全研究上合作。”
會議從下午持續到傍晚。
白板上的內容越來越多。
基礎模型、長期記憶、跨任務遷移、人類反饋、工具使用、模型安全。
這些詞在2015年大多還沒有成為人工智能產業的共同語言。
今天,卻第一次被放進同一張路線圖中。
最終,發起人委員會通過下一階段算力擴建計劃。
三億美元不會一次撥付。
第一階段用于擴建GpU集群和分布式訓練系統,後續資金根據模型能力、訓練效率與安全評估逐步釋放。
openAI—卡內基梅隆語言智能聯合項目正式進入合同階段。
深度求索被納入合作研究網絡,在國內建立獨立AI研究節點。
至于最敏感的組織問題,眾人沒有強行在一天內得出答案。
陳默只推動通過了一份臨時原則。
研究論文、通用工具和低風險代碼保持開放。
完整模型參數、大規模訓練數據與可能被濫用的能力,需要經過技術、安全和治理三方共同評估。
任何一名發起人、捐贈方或商業機構,都不能單獨決定釋放或者封存一項核心成果。
商業實體是否成立、資本回報如何限制、最終控制權歸屬哪里,留到下一階段繼續討論。
馬斯克看著那份臨時原則,沒有反對。
Sam也簽下自己的名字。
可陳默知道,這場分歧並沒有消失。
隨著模型越來越強、投入越來越大,今天暫時放下的問題,遲早會重新回到所有人面前。
會議結束時,已經接近晚上七點。
其他人陸續離開會議室。
伊利亞卻沒有立即起身。
他重新播放了一遍下午的語言模型演示。
“陳。”
“有件事,正式報告里不適合寫得太明確。”
陳默停下腳步。
“你說。”
“谷歌的整體實力依然遠超我們。”
伊利亞望著屏幕上的回答。
“但只看統一預訓練和跨任務遷移,這個原型已經超過我離開前見過的內部項目。”
“只要下一代訓練能夠成功,谷歌便不再是絕對領先者。”
陳默沒有表現出意外。
“消息瞞不了多久,第一篇論文發布以後,他們便會知道。”
“所以我們只剩下一個辦法。”
“什麼?”
這時,馬斯克推開會議室的門。
他已經換掉白天的外套,手里拿著一份剛剛送來的發射簡報。
“各位,討論人工智能的時間結束了。”
“佛羅里達的天氣情況不錯。”
“獵鷹九號將在明晚按計劃發射。”
馬斯克看向陳默,眼中帶著掩飾不住的興奮。
“現在,該去看看一枚火箭能不能自己回家了。”