AGI并非明天到,但也不是海市蜃樓。Karpathy直言:通往 AGI 的路已出現,卻布滿硬骨頭——強化學習信號稀薄、模型崩塌風險、環境與評估匱乏、系統集成與安全難題等。他給出一個「樂觀而不煽情」的時間表:10年。
昨天,OpenAI的創始元老、特斯拉前深度學習負責人Karpathy,公開表示:AGI仍有十年之遙。
Karpathy批評業界高估了當前的AI的智能水平,但同時他認為通向AGI之路已經出現,但這條路并非坦途。
Karpathy解釋了實現AGI的眾多難題:
為什么強化學習很糟糕(不過其他方法更糟)、
為什么模型崩塌會阻止大語言模型像人類那樣學習、
為什么AGI只會融入過去約2.5個世紀以來每年約2%的GDP增長趨勢、
為什么自動駕駛花了這么久才被攻克。
這些問題很難,所以大概實現AGI還需要10年。這被普遍解讀為看衰AI,給當前AGI狂熱澆下一盆冷水。
圖片
馬斯克點名Karpathy迎戰Grok 5
馬斯克認為,Karpathy的確有些觀點不錯。
但隨后,馬斯克話鋒一轉,點名卡帕西和Grok 5來場編程大戰,類似于國際象棋大師卡斯帕羅夫與深藍的對決時刻。
圖片