OpenAI 首席執行官 Sam Altman 在官網發表了回顧 OpenAI 成立 10 週年的博客文章。
內容翻譯如下:
回顧十年間的突破與收穫,探尋通往造福全人類的 AGI 之路。
OpenAI 的成就已經遠超我當初能想象的程度。我們一開始就打算做一件瘋狂、幾乎不可能、前所未有的事。從極度不確定的起點出發,頂着一切合理預測都不看好的局面,我們一路堅持努力,如今終於有機會真正實現我們的使命。
十年前的今天,我們向世界宣佈了這個計劃,儘管正式啓動還要等到幾周後的 2016 年 1 月初。
從某種意義上説,十年是很長的時間;但從社會變遷的節奏來看,這並不算長。雖然十年來日常生活似乎沒太大變化,但今天我們所面對的可能性空間,與當年那 15 個技術宅圍坐一起琢磨如何取得突破時相比,已經完全不同。
回看早期的照片,我第一反應是:大家都顯得好年輕。而接下來真正讓我震撼的,是那種不合常理的樂觀,以及每個人臉上明顯能看出的快樂。那段時間瘋狂而有趣:即便外界對我們極度誤解,但我們有堅實的信念,覺得這件事意義重大,值得我們在成功率極低的情況下拼命努力。我們有極具天賦的人才,以及極為明確的專注。
一步一步地,我們通過一些成功(以及更多失敗)慢慢積累了對 AI 技術的理解。那時最難的是找出“到底要做什麼”,但我們逐漸建立起一種能持續探索的文化。深度學習顯然是一項偉大的技術,但如果不把它放進真實世界運行並獲得經驗,總覺得哪裏不對。我就略過那些我們做過的各種嘗試(希望未來有人寫本書記錄下來),但我們一直保持着一個精神:不斷解決眼前的下一個障礙,比如研究還能推到哪裏、如何籌到更大規模的算力等等。我們也率先進行讓 AI 更安全、更可靠的實用性技術研究,而這些基因一直延續到現在。
2017 年,我們取得了多個奠基性成果:
• Dota 1v1 結果,把強化學習推向了全新的規模。
• 無監督情感神經元,證明語言模型確實能學到語義而不僅是句法。
• 基於人類偏好的強化學習(RLHF),為將 AI 與人類價值對齊提供了一條初步路徑。
當時我們知道創新遠未結束,但也知道要讓這些成果真正發揮作用,就必須依賴海量計算規模來放大。
我們持續改進技術,並在三年前推出了 ChatGPT。全球隨即關注;而在推出 GPT-4 後,這種關注成倍放大,AGI 不再是一個瘋狂的概念。這三年極度緊張、壓力巨大、責任沉重;AI 被整合進世界的速度和規模,是任何技術前所未有的。為了應對這一切,我們不得不迅速建立全新的執行能力。從一個小團隊成長為龐大的公司,過程中每週都要做數百個決策,這並不容易。我為團隊做對的大部分決策感到驕傲,而那些錯誤基本是我的責任。
我們也不得不做出全新的決策。例如,在思考如何讓 AI 最大化造福世界時,我們提出“迭代式部署”,讓技術的早期版本提前進入社會,以便人們形成直覺、社會與技術共同演化。當時這一做法頗具爭議,但事實證明這是我們最佳決策之一,也成為行業標準。
如今,OpenAI 十週年,我們的 AI 在人類最複雜的智力競賽中,已經能超越多數最聰明的人類。
全世界已經藉助這項技術完成了許多驚人的成果,我們相信未來一年會出現更多非凡成就。世界也在努力緩解潛在風險,我們必須繼續推動這一點。
我從未像現在這樣,對我們的研究路線、產品路線以及整體使命前景如此樂觀。我相信,再過十年,我們幾乎可以確定會創造出超級智能(superintelligence)。未來會變得很奇怪:一方面,日常生活和我們最在乎的事也許變化不大,我們依舊會更關注“人類在做什麼”,而不是“機器在做什麼”;但從另一方面看,2035 年的人類可能具備的能力,是我們如今難以想象的。
我非常感激那些信任我們、使用我們的產品去完成偉大事情的人與公司。沒有他們,我們只是實驗室裏的技術;許多用户在非常早期、帶着高度信念押注我們,如果沒有這種信任,我們不可能走到今天。
我們的使命是確保 AGI 造福全人類。前路仍然漫長,但我對團隊正在推進的軌跡深感自豪。今天大家已經在用這項技術做出巨大的成果,而我們知道未來幾年還會有更多突破。
原文:https://openai.com/index/ten-years/