來源｜Greylock
OneFlow社區編譯
翻譯｜胡燕君、賈川
(相關資料圖)
預告了一整年的GPT-4遲遲沒來，人們猜想OpenAI是不是要跳票了，更何況他們之前的得意之作DALL-E也被開源Stable Diffusion打了個措手不及，再不來點深水炸彈業界地位危矣。
不過，就在大家以為今年OpenAI將以沉寂收場時，聊天機器人模型ChatGPT橫空出世，讓人們看到了AI的更大創造力，聚光燈也再度打到了OpenAI的身上。
今年9月，LinkedIn聯合創始人Reid Hoffman與OpenAI首席執行官Sam Altman進行了一場對話，而肩負著宏偉使命且極富遠見的Altman就曾預言：AI即將迎來下一個發展階段。如今，大型語言模型越來越先進，也出現了可以實現文本-圖像相互轉換的多模態模型，一些AI應用還可令科學家如虎添翼。在他眼中，AI是一個可以孵化出無數工具，推動各行各業前進的基礎平臺。
隨著AI行業的不斷進步，AI應用不再只是充斥著行業熱詞的紙上項目，已經發展為成熟的工具，助力多個行業的生產服務，也必將催生出無數新企業。
各種AI工具已顯現出巨大的日常應用潛力，可以實現人類的各種想法，改善人類的工作方式，比如由Stability.ai發布的開源Stable Diffusion模型，Microsoft和OpenAI聯合打造的AI編程工具Copilot，OpenAI開發的語言生成模型GPT-3和圖像生成平臺DALL-E以及爆火的聊天機器人模型ChatGPT。
Sam Altman還表示，5年后，我們應該不會再使用Transformer模型了。雖然Transformer很好，但他希望到時候會有比它更好的東西出現，不斷突破創新很重要。在他看來，AI可以幫助人類創造出前所未有的新應用，這將是人類的巨大的進步和勝利，是真正的科技革命。
從大模型的商業化機會、AI+應用再到AI發展方向，Sam Altman在這場對話中分享了自己的見解。以下為對話內容，由OneFlow社區編譯。
1
大模型的商業機會
Reid Hoffman：很多大型模型都通過API開放使用，能夠衍生什么商業化機會？
Sam Altman：現在，語言模型已經可以很好地應用到文案寫作和教育服務領域，我相信未來幾年內，語言模型會更加強大，將能與Google這一價值萬億美元的搜索產品一較高下。語言模型的應用將會改變我們的日常生活。
以前，大家都在調侃聊天機器人，其實它很有價值，只是當時的技術還不能滿足需求?，F在的聊天機器人更加成熟，幾乎可以達到人類水平。聊天機器人可以用于醫療服務行業，提供咨詢和教育服務，這方面將能催生出大型企業。
我相信，不久之后會出現多模態模型，這又將打開新局面?，F在，人們可以直接用自然語言命令計算機為你完成你想做的工作，例如DALL-E圖像生成工具和Copilot編程工具，都是用戶向它們輸入自然語言描述，然后工具自動生成用戶想要的東西，用戶還可以不斷迭代修改自己的描述，直至工具給出滿意的輸出。
類似的AI應用方式會成為大趨勢，可以孕育出許多大型企業。強大的AI模型可以成為孵化各種AI應用的平臺，就像智能手機的出現催生出眾多APP一樣，它們的共同點都是可以制造無數的商業機會。
Reid Hoffman：既然大家都可以通過API使用大型模型，作為AI企業，怎樣才能使自己脫穎而出，開辟自己獨特的商業路徑？
Sam Altman：將來應該會出現幾個大型的基礎模型，開發人員都將基于這些基礎模型研發AI應用。但目前的情況依然是某一家公司開發出一個大型語言模型，然后開放API供他人使用。
我認為，將來在基礎模型和具體AI應用研發之間會有一個中間層：出現一批專門負責調整大型模型以適應具體AI應用需求的初創企業。能做好這一點的初創公司將會非常成功，但這取決于它們能在“數據飛輪”上走多遠。（數據飛輪：使用更多數據可以訓練出更好的模型，吸引更多用戶，從而產生更多用戶數據用于訓練，形成良性循環。）
我對初創企業訓練模型的能力持懷疑態度，將來承擔模型訓練角色的應該不會是初創公司，但這些企業可以在上述的中間層角色中發揮巨大價值。
Audience Member：未來會不會出現垂類AI初創公司，專門為具體產業調整基礎模型？提示詞工程（Prompt Engineering，修改向AI輸入的任務描述，使AI的輸出結果更符合用戶的需求）將來會不會成為企業的內部職能？
Sam Altman：五年后我們將不再需要提示詞工程，或者只需在這方面做少量工作。將來的AI系統不會因為增補了某個特定詞就會產生截然不同的輸出，而是可以較好地理解自然語言，用戶只需以文本和語音形式輸入指令，即可讓計算機完成圖像生成、資料研究、心理咨詢等復雜任務。
總的來說，用戶只須使用自然語言就可以與計算機交互，當然，如果藝術家能想出更有創造性的描述，也自然就可以生成更好的圖像。
2
“AI+”時代：AI for Science、元宇宙
Reid Hoffman：在科學領域，AI模型可以發揮什么作用？
Sam Altman：現在科學界對AI的應用分為兩種。一種是將AI工具直接用于科學目的，如AlphaFold（用于蛋白質結構預測），它們可以創造巨大價值，相信未來會出現無數這樣的工具。
另一種是將AI工具用于提升科研工作效率，如幫科學家和工程師找到新研究方向、寫代碼等。Copilot編程工具就是一個例子。但AI工具的能力遠不止于此。上述兩種AI應用將會大大推動科技前進。
此外，目前科學界也在探索對AI的第三種應用方式——讓AI成為可以“自我改進”的科學家。這件事情既有好處也有風險。
好的一面是，可以利用AI將人類的工作內容自動化，教會AI做任何人類可以做的事情：探索新科學、提出理論解釋、驗證、思考等，或許還可借此解決困擾人類已久的“AI對齊問題（Alignment Problem）”（即如何讓AI系統的目標符合人類的價值觀）。風險在于，有人擔心懂得“自我改進”的AI有可能會像科幻小說描寫的那樣，擅自改動代碼或修改優化算法。
我深信，真正有利于促進人類和經濟的前行的，是一個能夠推動科學進步的社會架構。我們能從這樣的社會架構中獲益很多。
Audience Member：像GPT-3這樣的基礎模型會如何影響生命科學研究的步伐？生命科學研究中有沒有一些技術手段無法克服的限制因素，比如自然規律等？
Sam Altman：目前的可用模型還不夠好，不足以對生命科學領域產生重大影響——不少生命科學家了解這些模型之后都說，它們只能在部分情況下發揮些許作用。AI在基因組學領域有一些很有前景的應用方向，但目前尚屬起步階段，不過我很看好。我認為這也是市值千億的巨頭準備進軍的領域之一。
如果AI未來真的可以讓醫藥公司的研發速率提高幾百倍，那無疑會產生深遠的影響。不過如你所說，生物學的自有規律仍在，新藥的臨床驗證需要時間，這也是醫藥研發的速率限制因素。
據我所知，不少合成生物公司借助AI發現許多新的研發想法，加快自己的研發迭代周期，但研發出來之后終究是要進行測試，這部分時間無法縮減。
我認為，醫藥初創公司最重要的是低成本和快速的研發周期，有了這兩點就有資本參與市場競爭了。所以如果我是一家醫藥初創公司的決策者，一開始我不會選擇從心臟病這類大難題下手。
此外，如果我是一家AI藥物研發初創公司，我會在模擬器上多下工夫，因為目前這方面還亟待改善。
Reid Hoffman：你對AI和元宇宙怎么看？
Sam Altman：元宇宙會發展成一種新的軟件容器，就像手機一樣，成為一種計算機交互方式。而AI則是一場技術革命，所以問題應該是“元宇宙如何融入AI新世界”，而不是“AI如何融入元宇宙”。當然，這僅代表我個人的觀點。
Audience Member：AI工具已經可以輔助人類進行創造性工作，AI什么時候會從創作者的輔助工具發展為具有獨立創作力的智能體？
Sam Altman：作為創作輔助工具，AI既有用也很受歡迎，但目前來看，AI在大部分的創造性任務上的能力都有待提高，未來很長一段時間內都不能代替人類創作者?？赡艿?00年之后，AI才可以獨立完成創造性工作。
十年前，大部分人都認為AI取代人類工作的次序是：藍領工作（卡車司機等）→低技能的白領工作→高技能的白領工作（程序員等），最后才會（也許永遠不會）取代創造性工作。現在的事實證明，AI最有可能先取代的反而是創造性工作。
這也說明，預測未來是很難的，還說明人類可能不夠了解自己，不清楚什么類型的技能最難、最需要調動大腦，或者錯誤估計了控制身體的難度。
Reid Hoffman：除了AI的應用潛力之外，目前大家對AI的討論有沒有輕率的一面，比如將AI用于核聚變研究？
Sam Altman：通常而言，如果某個行業獲得非常廣泛的社會關注，所有人都在談論它，這可能不是什么好事，可惜這恰恰是AI行業目前的情況，我不希望這是AI行業“垮掉”的前兆。
業內有人正在研究利用強化學習模型控制核聚變反應，但據我們所知，AI模型在這里發揮的作用還非常有限。
我們現在進入了“AI+”時代，相信AI在未來可以實現很多東西，會成為最大的新一代技術平臺。但就目前而言，我們傾向于往更有確定性的方向發展，比如，業內研究出了縮放定律（Scaling Law，該定律揭示AI模型性能與模型參數、數據、計算量之間的關系），就以此為基礎展望下一步。
這也是OpenAI的運作模式——先做擺在我們面前的最有信心能成功的事情，然后分出10%的資源進行成功確定性更低的探索工作。這種運作方式為我們帶來巨大的成功。
現階段不應該把重點放在“讓AI無所不能”上，而是先沿著現有的道路慢慢發展完善AI，然后留有開放探索的空間——偉大的事物都不是計劃出來的，有時重大的突破誕生于偶然。 ?
3AI的未來發展方向
Reid Hoffman：未來幾年，AI的發展方向是什么？
Sam Altman：一個比較確定的方向是，語言模型的發展會遠超今天的想象。雖然很多人都說算力和數據都已經跟不上了，這也是事實，但算法的改進空間依然很大，還可以帶來很大的進步。
第二個方向是多模態模型的發展。未來的多模態模型將不局限于文本和圖像的互相轉換，而是所有模態之間都可以方便地互相轉化。
第三個方向是，模型可以持續學習。目前的模型如GPT都停滯在當初訓練好的狀態，并不會隨著使用次數的增加而自我優化。我相信未來可以改變這一點。
如果上述三點都能實現的話，我們就可以解鎖無數全新的應用場景，實現真正的科技革新，幫助人類實現科技的飛躍式前進。而且我相信，我們也有辦法利用AI推動科研進步和新知識的產生。
我認為，現在普遍存在的一種錯誤觀點是：“雖然語言模型的功能已經比較完善，還可以應用到圖像和視頻領域，將應用智能的邊際成本降得非常低，但歸根結底，它只是模仿人類做過的東西，不能為人類產生新知識，不能治療癌癥，也不能拓展人類已知的科學領域?！?strong>我相信，AI的發展會讓持這種觀點的人大吃一驚。
Reid Hoffman：AI將如何影響未來人類的生活？
Sam Altman：AI終將滲入人類生活的方方面面。未來十年里，智能和能源的邊際成本會迅速下降，趨近于零，而智能和能源又是其他各行各業的主要成本來源（當然，奢侈品除外）。[注：Sam Altman 是否提前知道了美國能源部在12月份宣布的可控核聚變的進展？]
整個社會的成本結構都會下降，正如之前多次科技革命的結果一樣。在這種浪潮之下，很少有什么會一成不變。但有一點很重要，智能和能源成本只是趨近于零，而不是直接降為零。所以將來如果有人仍愿意花費巨額投資來購買智能和能源，他們得到的算力和能源的數量將突破想象。
設想一下，將來的能源使用成本下降10~100倍，智能使用成本下降1億倍，而對能源和智能的資金投入則比現在多1000倍，那會是什么樣的局面？
Audience Member：未來二三十年內，AI的發展會帶來什么社會問題？如果要避免這些問題，我們現在可以怎么做？
Sam Altman：AI的應用會極大影響經濟活動。將來我們需要形成新的社會契約，考慮如何公平地分配財富。AGI系統的使用權將會成為一種商品，所以也要考慮如何讓所有人平等地獲得使用AGI的機會。還有AGI的管理問題：人類如何共同決定AGI可以做什么、不能做什么。
我不擔心“AI取代人類的工作之后，人類何去何從”的問題，雖然未來人類的工作會和現在很不一樣，但我覺得人類最終都會找到自己滿意的事業，過上充實的生活。真正的難題是財富分配、AGI使用權和AGI的治理問題。
Reid Hoffman：據我所知，OpenAI也付出不少努力，試圖解決AI的社會影響問題。
Sam Altman：OpenAI正在進行全球最大型的UBI實驗。（Universal Basic Income，無條件基本收入；Sam Altman認為，十年后AI的生產力可以創造巨大財富，足夠給每個美國公民每年無條件發放13,500美元。）有一個為期五年的項目已經進行到三年半了。UBI不會是唯一的解決方案，但它是一個不錯的做法。
OpenAI從受AI沖擊最大的行業中汲取意見，以便制定應對方案；對于那些最先被AI取代的勞動者，我們也嘗試利用AI幫助他們學習新技能。我們還會不斷地做類似的事情。
Audience Member：你如何定義AGI（通用人工智能）？怎么才算實現了AGI？
Sam Altman：我理解的AGI相當于一個可以共事的普通人，任何遠程同事可以通過電腦幫你完成的工作，AGI也可以做，包括讓AGI學習醫療知識和寫代碼等等。
AGI的重點不在于掌握某一種難得的技能，而是擁有學習的元能力，然后只要人類需要，它就可以往任何技能方向發展并精通。另一個概念是“超級智能”（Super Intelligence），它指的是比全人類加起來還要聰明的智能。
Audience Member：哪些領域不會被AI影響？
Sam Altman：所有人類深層次的東西都不會被AI改變。作為人類，我們依然注重人與人之間的互動聯系，人類大腦的獎勵機制沒有變，我們依然追求快樂，擁有創造欲和競爭欲，渴望組建家庭……五萬年前人類在意的東西，一百年后的人類也會在意。
（本文由OneFlow社區編譯，譯文轉載請聯系獲得授權。來源：https://www.youtube.com/watch?v=WHoWGNQRXb0）
其他人都在看
下載量突破10億，MinIO的開源啟示錄
關于ChatGPT的一切；CUDA入門之矩陣乘
李白：你的模型權重很不錯，可惜被我沒收了
單RTX 3090訓練YOLOv5s，時間減少11小時
YOLOv5全面解析教程：網絡結構逐行代碼解讀
比快更快，開源Stable Diffusion刷新作圖速度
OneEmbedding:單卡訓練TB級推薦模型不是夢
關鍵詞： 發展階段
營業執照公示信息