Aidan Gomez認(rèn)為，LLM發(fā)展已進(jìn)入平臺期，簡單擴(kuò)大模型規(guī)模帶來的邊際效益正在遞減，而推理能力將成為未來突破口，并將帶來新的商業(yè)模式和市場機(jī)遇——從"買更大的算力"變成了"多給AI一點(diǎn)思考時(shí)間"。

作者：硬AI

來源：硬AI

AI狂飆突進(jìn)的時(shí)代，真的要結(jié)束了嗎？

隨著scaling law撞墻新聞爆出，全球科技圈、資本市場關(guān)于大模型發(fā)展觸及天花板的討論愈演愈烈。那么，AI發(fā)展是否放緩？后續(xù)又將如何發(fā)展？商業(yè)模式如何突破？

針對一系列焦點(diǎn)問題，人工智能領(lǐng)域最具影響力的論文《Attention Is All You Need》的聯(lián)合作者，Cohere聯(lián)合創(chuàng)始人兼CEO Aidan Gomez在訪談中分享了自己對AI發(fā)展的深度見解。

他認(rèn)為，LLM發(fā)展已進(jìn)入平臺期，而推理能力將成為未來突破口，并將帶來新的商業(yè)模式和市場機(jī)遇。同時(shí)，他也提醒投資者警惕模型價(jià)格傾銷，關(guān)注 AGI 發(fā)展趨勢。

對于scaling law放緩的問題，Gomez認(rèn)為，簡單擴(kuò)大模型規(guī)模帶來的邊際效益正在遞減。以繪畫為例，Gomez指出 LLM 的發(fā)展初期如同用大筆觸快速完成基礎(chǔ)構(gòu)圖，但隨著模型需要處理更精細(xì)的任務(wù)，如同繪畫需要越來越細(xì)的筆觸來完善細(xì)節(jié)，模型改進(jìn)需要的數(shù)據(jù)也越來越精細(xì)，這導(dǎo)致獲取高質(zhì)量數(shù)據(jù)的成本越來越高，最終模型的規(guī)?；l(fā)展將受限于人類知識的邊界和專家數(shù)據(jù)的獲取難度。

推理能力方面，Gomez表示，推理能力可以讓 LLM 不僅簡單地記憶輸入輸出對，還可以像人類一樣進(jìn)行多步驟的思考和推理，解決更復(fù)雜的問題。而這，這帶來了一個革命性的變化——企業(yè)不必再為提升AI能力投入巨額固定成本，而是可以通過增加推理時(shí)間來實(shí)現(xiàn)。用通俗的話說，就是從"買更大的算力"變成了"多給AI一點(diǎn)思考時(shí)間"。

Gomez還認(rèn)為，推理時(shí)間計(jì)算量的增加還將對芯片層和數(shù)據(jù)中心建設(shè)產(chǎn)生影響，未來需要開發(fā)更適合處理推理任務(wù)的芯片，以及建設(shè)更適合分布式計(jì)算的數(shù)據(jù)中心。

以下是訪談內(nèi)容精編：

LLM發(fā)展進(jìn)入平臺期，推理能力將成未來突破口

問：LLM 發(fā)展是否已經(jīng)進(jìn)入平臺期？未來的突破口在哪里？

Gomez：

問：影響模型規(guī)?；l(fā)展的因素有哪些？

Gomez：

2. 推理能力將帶來新的商業(yè)模式和市場機(jī)遇

問：推理能力將如何改變行業(yè)格局？

答：

問：如何理解推理能力？

答：

問：什么類型的問題更適合使用推理能力解決？

答：

問：市場普遍低估了推理時(shí)間計(jì)算的哪些方面？

答：

3. Cohere: 自主研發(fā)模型，打造差異化競爭優(yōu)勢

問：Cohere 為什么選擇自主研發(fā)模型？

答：

問：LLM 是否適用于所有領(lǐng)域？

答：

4. 警惕模型價(jià)格傾銷，關(guān)注 AGI 發(fā)展趨勢

問：市場上 LLM 價(jià)格下降是否意味著模型商品化？

答：

問：如何看待 AGI 的發(fā)展？

答：

本文來自微信公眾號“硬AI”，關(guān)注更多AI前沿資訊請移步這里

市場有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個人投資建議，也未考慮到個別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。