|
斯坦福大學的研究人員最近發(fā)布了他們關于使用 “倒計時” 游戲來觀察人工智能如何學習的預印本論文，并克服了之前阻礙他們進展的工程挑戰(zhàn)。
“TinyZero 很棒。” 該項目的首席研究員卡尼什克・甘地說，因為它使用了 “倒計時” 游戲，這是斯坦福團隊引入并正在研究的一個任務。
其他人工智能項目的開源也起到了重要作用，包括由 TikTok 的母公司字節(jié)跳動創(chuàng)建的火山引擎強化學習系統(tǒng)（VERL）。“VERL 對我們運行實驗至關重要。” 甘地說。“這種一致性極大地幫助了我們進行實驗，并實現(xiàn)了更快的迭代周期。”
超越 “大實驗室”，依靠開源
斯坦福團隊試圖理解為什么一些大語言模型在推理能力上有顯著提升，而另一些則停滯不前，甘地表示，他不再期望與推理、智能和改進相關的計算機科學突破必然來自大型實驗室。“即使在大型實驗室內(nèi)部，對當前大語言模型的科學理解也存在缺失，因為其能力在不斷提高。在自主開發(fā)人工智能、開源和學術界方面，有很大的空間可以在此做出貢獻。” 他說。
像斯坦福大學和加州大學伯克利分校的這些項目，將基于如何訓練能夠自我提高推理能力的模型的研究，帶來更多的共享開發(fā)成果。
但即使是這些超低成本的模型，也比研究人員所解釋的要昂貴。
人工智能商業(yè)咨詢公司 OneSix 的高級首席機器學習科學家尼娜・辛格表示，TinyZero 這樣的項目的開源方面依賴于在其他基礎模型之上進行訓練，其中不僅包括 VERL，還包括阿里云開源的通義千問（Qwen）大語言模型。“所說的 30 美元訓練成本不包括通義千問最初的訓練時間，阿里巴巴在將其作為開源權重發(fā)布之前，在這上面投入了數(shù)百萬美元。” 她說。
辛格表示，這并不是對 TinyZero 的批評，而是強調(diào)了開源權重模型的重要性 —— 即使沒有完全開源人工智能數(shù)據(jù)和架構，這些模型也會向公眾發(fā)布訓練參數(shù)，從而推動進一步的研究和創(chuàng)新。
“針對特定任務進行微調(diào)的較小人工智能模型，能夠以更小的規(guī)模和成本與大得多的模型相媲美。” 辛格說。
隨著越來越多的個人、學者和小型公司期望在無需進行大規(guī)模基礎設施投資的情況下就能參與到人工智能領域，嘗試模仿基礎模型的性能并針對特定任務進行微調(diào)的趨勢正在增長。辛格舉了 Sky-T1 的例子，它為用戶提供了花費 450 美元訓練自己的 o1 模型的能力，還有阿里巴巴的通義千問，最低只需 6 美元就能進行人工智能模型的微調(diào)。
辛格預計，較小項目的開源權重模型將促使主要參與者采用更開放的方法。“自主微調(diào)以及社區(qū)驅(qū)動的模型改進的成功，給像 OpenAI 和 Anthropic 這樣的公司帶來了壓力，要求它們?yōu)槠涫?API 限制的模型提供合理依據(jù)，尤其是當開源替代方案在特定領域開始達到或超過它們的能力時。” 她說。
TinyZero 最重要的發(fā)現(xiàn)之一是，數(shù)據(jù)質(zhì)量和針對特定任務的訓練，比單純的模型規(guī)模更重要。
“這是一個重大發(fā)現(xiàn)，因為它挑戰(zhàn)了行業(yè)中普遍存在的觀點，即只有像 ChatGPT 或（Anthropic 的）Claude 這樣擁有數(shù)千億參數(shù)的大規(guī)模模型，才能夠進行自我修正和迭代學習。” 辛格說。“這個項目表明，我們可能已經(jīng)越過了一個臨界點，即額外增加參數(shù)帶來的收益在遞減 —— 至少對于某些任務來說是這樣。”
這意味著人工智能領域的重點可能正在從模型規(guī)模轉(zhuǎn)向效率、可及性和有針對性的智能。
或者正如 TinyZero 團隊在項目頁面上自己所說：“你可以用不到 30 美元親自體驗‘頓悟’時刻。”
來源：新浪財經(jīng) 環(huán)球市場播報 共2頁 上一頁 [1] [2]
|
