來源：華爾街見聞 趙穎
展望未來兩年，人工智能最重要的三大里程碑，一是推理能力和可靠性的提升，二是多模態(tài)發(fā)展，三是可定制性和個性化。
當地時間周四，比爾·蓋茨在個人播客《為我解惑》（Unconfuse Me） 發(fā)布了最新一期節(jié)目，這期節(jié)目蓋茨邀請到當下最火的AI領軍人物、OpenAI首席執(zhí)行官薩姆·奧特曼進行對談。
主要話題是圍繞人工智能及其對社會的影響，談涵蓋了人工智能未來發(fā)展的方向，社會將如何適應AI技術變革，AI應該受到什么樣的監(jiān)管，以及當我們完善了AI之后，人類將在哪里找到目標。
以下是對談的核心要點：
1、展望未來兩年，人工智能最重要的三大里程碑：一是推理能力和可靠性的提升，二是多模態(tài)發(fā)展（語音輸入/輸出，圖像/視頻），三是可定制性和個性化，根據不同需求生成不同風格、假設集。
2、人工智能的可怕之處在于：這是人類歷史上“最快”的一次技術革命，社會需要以何種速度去適應它的發(fā)展，以及勞動力市場將發(fā)生何種變化。
3、現有AI模型都將變成最愚蠢的模型，至少在未來的五年或十年內，這項技術將處于一個非常陡峭的成長曲線上。
4、AI系統每次評估后成本都會降低：GPT-3推出的三年多時間里成本降低了40倍，GPT-3.5成本降低了近10倍。
5、世界基本模型由智能成本和能源成本組成，把智能的成本降低到接近于零的程度，這對社會來說將是一個改頭換面的轉變。
6、未來極其強大的系統將是GPT-4計算能力的10萬倍或100萬倍的系統，AI將影響社會，影響地緣政治力量的平衡，以及其他許多事物。因此可能需要的全球性的機構對全球最強大的幾個系統進行監(jiān)管，類似國際原子能機構監(jiān)管核武器的模式。
7、AI成熟之后人類該去向何方？最終AI將能夠做更多類似今天人類工作的事情，人類當然也會找到新的、更好的工作。
比如，AI能讓程序員的效率提高三倍，那不僅僅是他們能做的事情多了三倍，而是他們能在更高的抽象層次上、使用更多的腦力去思考完全不同的事情，得到質的提升。
8、雖然我們在某種意義上放棄了一些東西，但將會擁有比人類更聰明的東西。如果我們能進入這個“后稀缺”世界，我們將會找到新的事情去做，比如決定喜歡哪個星系。
9、大多數人對風險誤判，他們害怕離開舒適的工作，去做他們真正想做的事情。明確自己想要做什么，并向別人提出自己的要求，會有意想不到的收獲。
以下是播客節(jié)目的中英文全文：
比爾·蓋茨：我今天的嘉賓是薩姆·奧爾特曼。當然，他是OpenAI的首席執(zhí)行官。長期以來，他一直是科技行業(yè)的創(chuàng)業(yè)者和領導者，包括經營Y Combinator，這家公司做了很多了不起的事情，比如資助Reddit、Dropbox、Airbnb。
在我錄制本期節(jié)目不久之后，他被解除了OpenAI首席執(zhí)行官的職務，這完全驚到了我，至少是短暫的驚訝。解雇后的幾天里發(fā)生了很多事情，包括幾乎所有OpenAI員工聯名支持薩姆回歸，而現在，薩姆又回來了。所以，在你聽到我們的對話之前，讓我們先來了解一下薩姆，看看他現在過得怎么樣。
比爾·蓋茨：嘿，薩姆。
薩姆·奧爾特曼：嘿，比爾。
比爾·蓋茨：你好嗎？
薩姆·奧爾特曼：哦，天哪。這真的太瘋狂了，我還好。這是一個非常激動人心的時期。
比爾·蓋茨：團隊情況怎么樣？
薩姆·奧爾特曼：我想，你知道很多人都注意到了這樣一個事實，那就是團隊從未如此高效、樂觀、出色。所以，我猜這也正是藏在所有事情背后的一線希望。
在某種意義上，這是我們成長的真正時刻，我們非常有動力變得更好，變成一個為我們所面臨的挑戰(zhàn)做好準備的公司。
比爾·蓋茨：太棒了。
所以，我們在對話中不會討論那件事；然而，你會聽到薩姆致力于建立一個安全和負責任的人工智能的承諾。我希望你喜歡這次對話。
歡迎來到《為自己解惑》。我是比爾·蓋茨。
比爾·蓋茨：今天我們將主要關注人工智能，因為它如此令人興奮，人們同時也對它感到擔憂。歡迎，薩姆。
薩姆·奧爾特曼：非常感謝你邀請我來參加節(jié)目。
比爾·蓋茨：我有幸見證了你們工作的進展，但開始的時候我是非常懷疑的，我也沒期待過ChatGPT能做得這么好。它讓我十分驚訝，我們實際上并不懂這種編碼方式。我們知道數字，我們可以看到它相乘，但如何把莎士比亞的作品編碼？你認為我們能對這種表示有更深的理解嗎？
薩姆·奧爾特曼：百分之百可以。要在人腦中做到這一點非常難，你可以說這是一個類似的問題，就是有這些神經元，它們彼此相連。但它們的連接在變化，我們不可能切開你的大腦來觀察它是如何進化的，但我們可以完美地透視。目前在可解釋性方面已經有一些非常好的工作，而且我認為隨著時間的推移會有更多的解釋出現。我認為我們將能夠理解這些網絡，但我們目前的理解能力還很低。而正如你所樂見的，我們僅了解的那一點點已經對改進這些東西非常有幫助。撇開科學好奇心不談，我們都有動力去真正了解它們，盡管它們的規(guī)模是如此龐大。我們還可以說，莎士比亞（的作品）在你大腦的哪個位置編碼的，又是如何表現的？
比爾·蓋茨：我們不知道。
薩姆·奧爾特曼：我們確實不知道，甚至可以說在這些我們本應能夠完美透視、觀察并進行任何測試的大量數字中我們還是找不到答案，這就更讓人缺少滿足感。
比爾·蓋茨：我非常確信，在接下來的五年內，我們會理解它。就訓練效率和準確性而言，這種理解將讓我們做得比今天能做的好得多。
薩姆·奧爾特曼：百分之百同意。你會在許多經驗性發(fā)現的技術發(fā)展史中看到這一點。他們雖然不知道發(fā)生了什么，但顯然它行得通。然后，隨著科學理解的加深，他們可以使它變得更好。
比爾·蓋茨：是的，在物理學、生物學中，有時只是隨便一通亂試，然后就“哇”的一聲——這究竟是怎么實現的？
薩姆·奧爾特曼：在我們的案例中，構建GPT-1的那個人自己解決了這個“哇”的問題，這有些令人印象深刻，但并沒有深入理解它是如何工作的，以及為什么它是有效的。然后我們有了拓展規(guī)律，可以預測它會變得多好。這就是為什么當我們告訴你可以做一個演示時，我們相當有信心它會成功。我們還沒有訓練模型，但我們很有信心。這讓我們做了大量嘗試，對正在發(fā)生的事情有了越來越科學的認識。但這確實源于經驗結果先行。
比爾·蓋茨：當你展望未來兩年，你認為會有哪些重要的里程碑？
薩姆·奧爾特曼：多模態(tài)肯定會很重要。
比爾·蓋茨：你指的是語音輸入、語音輸出？
薩姆·奧爾特曼：語音輸入、語音輸出，然后是圖像，最終是視頻。顯然，人們真的需要這些。我們已經推出了圖像和音頻，反響比我們的預期要強烈得多。我們能夠將其推進得更遠，但也許最重要的進步領域將圍繞推理能力展開。現在，GPT-4的推理能力還非常有限。還有可靠性，如果你問GPT-4大部分問題10000次，這10000次中可能有一次回答得很好，但它不一定知道是哪一次。而你卻希望每次都能得到這10000次中最好的回答，因此可靠性的提升將非常重要。
可定制性和個性化也將非常重要。人們對GPT-4的需求各不相同：不同的風格，不同的假設集，我們將使所有這些成為可能，然后還能讓它使用你自己的數據。它能夠了解你、你的電子郵件、你的日歷、你喜歡的預約方式，并與其他外部數據源連接，所有這些都將是最重要的改進領域。
比爾·蓋茨：在目前的基礎算法中，它只是在做簡單的前饋、乘法，所以為了生成每一個新詞，它本質上都在做同樣的事情。我會很感興趣的是，你們能夠像解決復雜的數學方程式那樣，可能需要任意次數的應用變換，那么用于推理的控制邏輯可能需要比我們今天所做的復雜得多。
薩姆·奧爾特曼：至少，我們似乎需要某種形式的自適應計算。現在，我們在每個標記上都花費同樣多的計算資源，不管它是一個簡單的標記，還是解決一些復雜的數學問題。
比爾·蓋茨：是的，比如說，“解決黎曼假設……”
薩姆·奧爾特曼：那需要大量的計算。
比爾·蓋茨：但它用的計算資源跟說個“The”一樣。
薩姆·奧爾特曼：對，我們至少得讓它能用。我們可能還需要在它之上更復雜的東西。
比爾·蓋茨：你和我都參加過一個參議院的教育會議，我很高興有大約30名參議員參加了那次會議，并幫助他們快速跟上進展，因為這是一個重大的變革推動者。我不認為我們?yōu)榱宋鸵呀涀龅倪^多。然而，當他們說，“哦，我們在社交媒體上搞砸了，我們應該做得更好”——這是一個巨大的挑戰(zhàn)，在兩極分化方面有非常負面的因素。即使是現在，我也不確定我們該如何應對。
薩姆·奧爾特曼：我不明白為什么政府在社交媒體方面不能更有效，但這似乎值得作為一個研究案例去理解，因為他們現在將要面臨的是與AI相關的挑戰(zhàn)。
比爾·蓋茨：這是一個很好的研究案例，那么當你談論監(jiān)管時，你是否清楚該構建哪種類型的監(jiān)管？
薩姆·奧爾特曼：我認為我們開始弄清楚了。在這個領域進行過度監(jiān)管是非常容易的，你也可以看到過去許多此類事情的發(fā)生。但同樣的，如果我們是對的，可能結果卻顯示我們錯了，但如果在最后我們是對的，這項技術發(fā)展到我們認為它會達到的程度，它將影響社會，影響地緣政治力量的平衡，以及其他許多事物。對于這些仍然是假設性的，但未來極其強大的系統——不是說GPT-4，而是針對計算能力是其10萬倍或100萬倍的系統，我們已經接受了一個全球監(jiān)管機構的想法，這個機構將緊盯這些超級強大的系統，因為它們確實會產生如此大的全球影響。我們談到的一個模式就是類似國際原子能機構的模式。對于核能，我們的決定也是如此。由于其潛在的全球影響，它需要一個全球性的機構，我認為這是合理的。會有很多短期問題，比如這些模式可以說什么，不可以說什么？我們如何看待版權問題？不同的國家會有不同的考慮，這沒問題。
比爾·蓋茨：有些人認為，如果一些模型非常強大，我們就會對它們感到害怕——全球核監(jiān)管之所以行之有效，基本上是因為至少在民用方面，每個人都希望共享安全實踐，而且這一點做得非常好。當你涉及核武器方面時，就沒有這種情況了。如果關鍵在于阻止整個世界做危險的事情，你會希望有一個全球政府，但今天對于許多問題，如氣候問題、恐怖主義，可以看到我們很難合作。人們甚至援引中美競爭來解釋為什么任何放緩的想法都是不恰當的。難道任何放慢腳步的想法，或者說放慢腳步到足夠謹慎的程度，都難以實施嗎？
薩姆·奧爾特曼：是的，我認為要求其放慢速度是非常困難的。如果改成“做你想做的事，但任何計算集群都不能超過一個特定的、極高的功率門檻”——鑒于這里的成本，我們可能只會看到五個這樣的集群——像這樣的任何集群都必須接受類似國際武器檢查員的審查。那里的模型必須接受安全審計，通過訓練期間的一些測試，并在部署前通過審計和測試。對我來說，這似乎是可能的。我之前不太確定，但今年我進行了一次環(huán)球之旅，與需要參與這一計劃的許多國家的元首進行了交談，他們幾乎都表示了支持。這不會讓我們免于所有事情，仍然會有一些問題出現在規(guī)模較小的系統上，有些情況可能會出現相當嚴重的錯誤，但我認為這可以幫助我們應對最高層面的風險。
比爾·蓋茨：我確實認為，在最好的情況下，人工智能可以幫助我們解決一些難題。
薩姆·奧爾特曼：當然可以。
比爾·蓋茨：包括兩極分化的問題，因為它可能會破壞民主，而那將是一個極其糟糕的事情�，F在，我們看到人工智能帶來了很多生產力的提升，這是非常好的事情。你最興奮的領域是哪些？
薩姆·奧爾特曼：首先，我始終認為值得記住的是，我們正處在這一長期、連續(xù)的曲線上�，F在，我們有能夠完成任務的人工智能系統。它們當然不能完成一個完整的工作（崗位所做的事情），但它們可以做些任務，并且在那里有生產力的提升。最終，它們將能夠做更多類似今天人類工作的事情，我們人類當然也會找到新的、更好的工作。我完全相信，如果你給人們更強大的工具，他們不僅僅可以工作得更快，還可以做一些本質上不同的事情�，F在，我們或許可以將程序員的工作速度提高三倍。這就是我們所看到的，也是我們最興奮的領域之一，它運行得非常好。但是，如果你能讓程序員的效率提高三倍，那就不僅僅是他們能做的事情多了三倍，而是他們能在更高的抽象層次上、使用更多的腦力去思考完全不同的事情。這就好比從打孔卡到更高級的語言，不僅僅是讓我們的編程速度快了一點，而是讓我們得到了質的提升。我們確實看到了這一點。
當我們看向這些能夠完成更完整任務的下一代人工智能時，你可以將它想象成一個小代理，你可以對它說：“幫我寫這整個程序，我會在過程中問你幾個問題，但它不僅僅是一次只寫幾個函數”，這樣就會有很多新生事物出現。然后，它還能做更復雜的事情。有一天，也許會有一個人工智能，你可以對它說：“幫我建立并運營這家公司”。然后有一天，也許會有一個人工智能，你可以對它說：“去發(fā)現新的物理學”。我們現在看到的東西既令人興奮又美妙，但我認為把它放在這項技術的背景下是值得的，至少在未來的五年或十年內，這項技術將處于一個非常陡峭的成長曲線上�，F有這些模型都將變成最愚蠢的模型。
編程可能是我們今天感到最興奮的一個提高生產力的領域。目前，它已經被大規(guī)模部署和使用。醫(yī)療保健和教育也是另外兩個我們非常期待的快速發(fā)展的領域。
比爾·蓋茨：有點令人生畏的是，與以往的技術改進不同，這項技術的改進速度非�？�，而且沒有上限。它可以在很多工作領域達到人類的水平，即使做不出獨特的科學研究，它也可以打客服電話和銷售電話。我想你和我確實有一些擔憂，盡管這是一件好事，但它將迫使我們比以往任何時候都要更快地適應。
薩姆·奧爾特曼：這才是可怕的地方。這并不是說我們必須適應，并不是說人類沒有超強的適應能力。我們已經經歷過這些大規(guī)模的技術變革，人們所從事的大量工作可能在幾代人的時間里發(fā)生變化，而在幾代人的時間里，我們似乎可以很好地吸收這些變化。在過去那些偉大的技術革命中，我們已經看到了這一點。每一次技術革命都會變得更快，而這次將是迄今為止最快的一次。這就是我覺得有點可怕的地方，我們的社會需要以何種速度去適應它的發(fā)展，以及勞動力市場將發(fā)生的變化。
比爾·蓋茨：人工智能的一個方面是機器人技術（學），或者說藍領工作，當你得到具有人類水平能力的手和腳時。ChatGPT令人難以置信的突破是讓我們開始關注白領工作，這完全沒問題，但我擔心人們會失去對藍領工作的關注。你如何看待機器人技術？
薩姆·奧爾特曼：我對此非常興奮。我們太早開始研究機器人了，所以不得不擱置那個項目。它也因為錯誤的原因而變得困難，無助于我們在機器學習研究的困難部分取得進展。我們一直在處理糟糕的模擬器和肌腱斷裂之類的問題。隨著時間的推移，我們也越來越意識到，我們首先需要的是智能和認知，然后才能想辦法讓它適應物理特性。從我們構建這些語言模型的方式來看，從那開始更容易。但我們一直計劃回到這個問題上來。
我們已經開始對一些機器人公司進行投資。在物理硬件方面，我終于第一次看到了真正令人興奮的新平臺被建立起來。到時候，我們就能利用我們的模型，就像你剛才說的，利用它們的語言理解能力和未來的視頻理解能力，說：“好吧，讓我們用機器人做一些了不起的事情吧。”
比爾·蓋茨：如果那些已經把腿部做得很好的硬件人員真的把手臂、手掌和手指做出來，然后我們再把它們組合起來，而且價格也不會貴得離譜，那么這將會迅速改變很多藍領類工作的就業(yè)市場。
薩姆·奧爾特曼：是的。當然，如果我們回溯七到十年，共識性的預測是其影響的首先是藍領工作，其次是白領工作，創(chuàng)造力可能永遠不會，起碼是最后一個，因為那是魔法和人類的強項。
顯然，現在的情況正好相反。我認為這其中有很多有趣的原因能夠解釋它為什么會發(fā)生。創(chuàng)造性工作，GPT模型的幻覺是一個特性，而不是缺陷，它能讓你發(fā)現一些新事物。而如果你要讓機器人移動重型機械，你最好能做到非常精確。我認為這只是一個你必須跟隨技術發(fā)展的案例。你可能有一些先入為主的觀念，但有時科學并不往那個方向發(fā)展。
比爾·蓋茨：那么你手機上最常用的應用是什么？
薩姆·奧爾特曼：Slack。
比爾·蓋茨：真的嗎？
薩姆·奧爾特曼：是的，我希望我能說是ChatGPT。
比爾·蓋茨：【笑】甚至比電子郵件還多？
薩姆·奧爾特曼：遠遠超過電子郵件。我認為唯一可能超過它的是iMessages，但確實Slack比iMessages還多。
比爾·蓋茨：在OpenAI內部，有很多協調工作要做。
薩姆·奧爾特曼：是的，那你呢？
比爾·蓋茨：我是Outlook。我是傳統的電子郵件派，要么就是瀏覽器，因為，當然，我的許多新聞都是通過瀏覽器看來的。
薩姆·奧爾特曼：我沒有把瀏覽器算作一個應用，有可能我使用它的頻率更高，但我仍然打賭是Slack，我整天都在使用它。
比爾·蓋茨：不可思議。
比爾·蓋茨：好吧，我們這里有一個黑膠唱片機。我像對其他嘉賓那樣，要求薩姆帶來一張他最喜歡的唱片。那么，你今天帶來了什么？
薩姆·奧爾特曼：我?guī)砹笋R克斯·里希特重新編曲的維瓦爾第的《新四季》。我工作時喜歡無歌詞的音樂，這張唱片既保留了維瓦爾第原作的舒適感，也有我非常熟悉的曲子，但又有足夠多新的音符帶來完全不同的體驗。有些音樂作品，你會因為在人生的關鍵時期大量地聽它們而形成強烈的情感依戀，而《新四季》正是我在我們初創(chuàng)OpenAI時經常聽的東西。
我認為這是非常美妙的音樂，它高亢而樂觀，完美適配我工作時的需求，我覺得新版本非常棒。
共2頁 [1] [2] 下一頁
