從「AI教父」變「末日預言家」 諾貝爾獎得主辛頓:很驕傲我的學生開除了奧特曼!

從「AI教父」變「末日預言家」 諾貝爾獎得主辛頓:很驕傲我的學生開除了奧特曼!
辛頓為2024諾貝爾物理獎得主,他提醒世界應重視AI帶來的風險。圖片來源:截自多倫多大學YouTube影片
2024-10-14
編譯・王茜穎
20312
清晨兩點,一通越洋電話打進了一家加州廉價旅館房間,鈴聲打破了深夜的寧靜。

本文重點

Q1:辛頓是誰?為什麼被稱為「AI 教父」?

A: 傑弗里・辛頓(Geoffrey Hinton)是英裔加拿大電腦科學家,2024 年諾貝爾物理學獎得主。他在 1985 年發表波茲曼機器學習演算法,奠定深度學習基礎;2012 年與學生建構 AlexNet,掀起深度學習革命。ChatGPT、Google Bard 等現代 AI 系統皆可追溯至他的研究,因此被尊稱為「AI 教父」。

Q2:辛頓為什麼離開 Google?他對 AI 有哪些警告?

A: 辛頓在 Google 任職十年後於 2023 年離職,目的是能自由發聲談論 AI 風險。他警告,AI 可能在 5 到 20 年內超越人類智慧;科技巨頭陷入 AI 軍備競賽,安全研究嚴重不足。他呼籲全球推動 AI 監管、強制企業將研發預算三分之一投入安全研究,並簽署國際條約禁止 AI 軍事機器人。

Q3:辛頓和 OpenAI 有什麼關係?

A: 辛頓的學生伊利亞・蘇茨克維爾是 OpenAI 創始團隊成員與首席科學家。2023 年 OpenAI 董事會短暫罷黜執行長奧特曼,蘇茨克維爾是關鍵推手之一。事後辛頓公開表示:「我很驕傲我的學生開除了奧特曼」,反映他對 OpenAI 優先商業利益而輕忽安全的不滿。

76歲的電腦科學家,人稱「AI教父」的傑弗里・辛頓(Geoffrey Hinton)接起了電話。電話那頭,一群帶著瑞典口音的人連連恭喜他獲頒今年的諾貝爾物理學獎。

事後,辛頓坦承他當時聽的「目瞪口呆」,「我怎能確定這不是一通惡搞電話?」

不只他本人意外,消息一出,舉世都感到莫名其妙。儘管另一位物理獎得主約翰・霍普菲爾德(John Hopfield)是物理學家,辛頓卻是個電腦科學家。

官網上的獲獎理由是「表彰他們藉由人工神經網路實現機器學習的基礎性發現和發明」,底下加註一行放大粗體字「他們利用物理學訓練人工神經網路」。

AI-人工智慧-諾貝爾物理獎-機器學習-演算法-電腦科學-OpenAI-AI教父-神經網路-辛頓-波茲曼機器辛頓(右)與霍普菲爾德(左)利用物理學訓練人工神經網路,並獲得諾貝爾物理獎。圖片來源:截自諾貝爾獎臉書

諾貝爾官方還用心良苦地在社群媒體X上發起問卷:「你知道機器學習的模型是基於物理學方程的嗎?」近兩萬人投票,51%表示不知道。

霍普菲爾德受到原子自旋的啟發,提出了一種能記憶和重建資訊的關聯式記憶模型,稱為「霍普菲爾德網路」(Hopfield network)。

但只能記憶還不夠,辛頓想知道,如何讓機器學習?

他以19世紀物理學家路德維希・波茲曼(Ludwig Boltzmann)命名,在1985年發表了「波茲曼機的學習演算法」(Boltzmann machines)。波茲曼機器能夠學習辨識數據中的特徵元素。

他用波茲曼機器來「預先訓練」(pretrain)反向傳播算法(backpropagation algorithm),再用後者來訓練的人工神經網路。至今,反向傳播算法仍是當代人工神經網路和深度學習的基石。

「霍普菲爾德網路使用能量函數,波茲曼機器則借助了統計力學。因此,那個人工神經網路的發展階段,確實高度依賴物理學的概念。」辛頓後來告訴《紐約時報》。

如今,波茲曼機器已經功成身退。辛頓形容它就像酵素,「幫你跨過反應障礙,即使它不會出現在最終的解方裡。」

但76歲的辛頓,還不打算退。

頂著一頭凌亂灰髮,身材瘦削,喜歡穿毛衣,講話斯文還帶著英式幽默感的辛頓,怎麼看都不像個鬥士,但他的人生卻一直不斷地對抗懷疑的聲音。

他生於戰後倫敦,一個知名的科學家家族,有人甚至稱之為「辛頓知識王朝」「天才家族」。奠定現代計算機數學基礎的布林邏輯(Boolean Logic)是他的曾曾祖父發明的;聖母峰(Mount Everest)是以他曾曾祖母的叔叔命名,且是他測繪的;他的堂姊妹是參與曼哈頓計畫的核能物理學家;他的父親是昆蟲學家,而且是英國皇家學會會員。

家族的榮耀,父親的嘲諷壓在他身上,壓得他喘不過氣。

他記得,上學前父親總會調侃他:「好好拚命,說不定等你到我現在年齡的兩倍時,能有我一半的成就。」父親死後,他到父親的辦公室,發現滿室的披頭四,屬於家人的東西被隨意收在門邊一個小盒子裡,盒子上寫著「非昆蟲」。

他說,他一生都在與憂鬱症戰鬥,而工作是他釋放壓力的方式。

劍橋大學畢業後,1972年在愛丁堡大學攻讀博士的他,一頭栽進了人工神經網路的世界。他原想透過電腦模擬神經網路來研究人類大腦,但沒人相信他會成功。他的指導老師甚至警告他趁早放棄,如果繼續下去,會毀掉他的學術生涯。

因為許多人認為這是一條死路。從1950年代開始,無數先驅不斷失敗,數十年後學界大多已經放棄。少數還沒放棄的人,論文投稿時還得遮遮掩掩,用其他字詞來替換「神經網路」,避免被嘲諷退稿。

在他任教的大學,他也被當成怪咖。多年來,學校一直拒絕他增聘人工神經網路教授的請求。「有一個瘋子就夠了。」他曾告訴《連線》雜誌記者。

但辛頓打死不退40年。

他接受美國《60分鐘》專訪時說:「我一直都相信我是對的。」他堅信有一天機器可以模擬人腦,辨識圖像,理解自然語言,進行對話,甚至解開人類束手無策的科學難題。關鍵就是學習的演算法,它將賦予機器「演化的原則」。

AI-人工智慧-諾貝爾物理獎-機器學習-演算法-電腦科學-OpenAI-AI教父-神經網路-辛頓-波茲曼機器辛頓早年不被學界支持,仍堅持研究人工神經網路領域。圖片來源:Flickr

他在黑暗中漫長前行,直到2012年曙光初現。《富比士》雜誌將2012年稱為「人工智能大爆發」(AI Big Bang),暗示這是AI元年。

這一年,辛頓和他的兩名學生伊利亞・蘇茨克維爾(Ilya Sutskever)和亞歷克斯・克里澤夫斯基(Alex Krizhevsky)向世界證明神經網路的實力。

他們建構了卷積神經網路的深度學習模型AlexNet,用120萬張影像,花六天訓練,將影像辨識率提高到前所未有的高度,並在ImageNet年度大規模視覺辨識挑戰賽中一舉奪冠,相關論文迄今引用超過13萬次,掀起深度學習革命的巨浪。

同年,師生三人成立了新創DNNresearch。新公司,沒產品,就賣他們的腦力和深度學習模型,卻引發了Google、微軟、百度和DeepMind的激烈競標收購,希望搶得AI主導權的先機,最後Google以4,400萬美元(約新台幣14.1億元)得標,將辛頓納入麾下。他的學生蘇茨克維爾之後加入OpenAI的創始團隊,成為首席科學家。

Google Bard、ChatGPT、乃至許許多多的影像辨識、大型語言模型、自駕車等,都能追回這個原點。

然而,加入Google十年後,辛頓卻在去年火速離職。

這個重磅消息,立刻登上隔天《紐約時報》的頭版。他開始暢所欲言地談論AI風險,包括生成式AI如何危害真實、工作、能源和人類存亡,呼籲放緩AI研發。

他預測不出5到20年,AI就可能超越人類智慧,而科技巨頭為了爭奪市場,已陷入一場無法停止的AI軍備競賽,利字擺中間,安全放兩邊,正在加速將人類推向失控邊緣。

因此不難理解,他為何在得獎後公開嗆聲:「我很驕傲我的學生開除了奧特曼(Sam Altman)。」說的就是去年在OpenAI發動「政變」,將奧特曼踢出OpenAI的蘇茨克維爾。

AI-人工智慧-諾貝爾物理獎-機器學習-演算法-電腦科學-OpenAI-AI教父-神經網路-蘇茨克維爾-奧特曼蘇茨克維爾(右)曾參與OpenAI董事會辭退奧特曼(左)。蘇茨克維爾離開OpenAI後,也投入研究訴求安全的AI應用系統。圖片來源:維基百科史丹佛大學官網

投身AI半世紀,他告訴《紐約時報》記者,他後悔了,後悔畢生的心血可能導致人類的滅絕。從此,「AI教父」變成了「AI末日預言家」,把警告世界當成他的新使命。

大神敲響的警鐘,許多人聽見了。

加拿大總理杜魯道(Justin Trudeau)邀他共進晚餐,討論加拿大能做什麼,隨後推出科技公司AI準則,並積極推動立法。歐盟執委會副主席瑪格麗特・維斯塔格 (Margrethe Vestager)也來電請益,接著《歐盟通用資料保護條例》(GDPR)新增了多項AI保護措施。英美的立法者亦相繼邀他出席與談。《紐時》則延請他協助制定內部的AI生成文字與影像準則,成為全球媒體業的標竿。

他呼籲推動全球AI監管,強制企業在安全研究上投入更多資源(他建議研發預算的三分之ㄧ),並為大型AI模型造成的災難負責,登錄列管大型AI模型,要求通報危險事件,保護吹哨人,簽署國際條約禁止AI軍事機器人等等。

那一天,當AI教父拿到諾貝爾物理學獎,他想的不是榮耀或歷史定位,而是日後當他提起AI監管時,人們會願意認真看待,而非當他在說AI版的「狼來了」。

但他又悲觀地認為,企業和國家多在背後祕密研發,加上應用五花八門,恐難落實監管。

因此他將希望寄託於全球的科學家,希望科學界能合作尋找控制AI的辦法。因為有些問題,即使AI教父也沒有答案。

傑弗里・辛頓(Geoffrey Hinton)

  • 出生:1947年
  • 現職:多倫多大學電腦科學榮譽教授
  • 學歷:劍橋大學實驗心理學學士、愛丁堡大學人工智慧博士
  • 榮譽:AI教父、2018年圖靈獎得主、2024年諾貝爾物理獎得主

延伸閱讀

其他人也在看

你可能有興趣

已成功複製連結