AI有無限可能！OpenAI奧特曼與台裔主管陳信翰：下一代最幸運，別因別人嫌蠢就放棄【對談全文】

奧特曼相信，只要人類做出正確選擇，不讓全球算力集中在少數公司，AI就成為「帶來平等的力量」。他和陳信翰都強調，AI化許多不可能為可能，下一代將是最幸運的一代。

而首度在台灣大眾媒體曝光、被奧特曼稱為「OpenAI最受歡迎主管之一」的陳信翰，也分享在美國與新竹實驗中學的求學經驗。「台灣教育教會我必須專注、守紀律，」他強調，「我在這兩個地方都獲得了最好的養分。」

問：我們將依序討論台灣觀眾們感興趣的主題，從成功關鍵、應用領域、永續發展以及社會該關心的議題。在此之前跟觀眾打招呼，你們來台灣多少次了？

奧特曼（以下簡稱奧）：吳恩達是我在史丹佛大學的老師，來到這裡，讓我想起了以前的課堂。這是我第三次來台灣，這次的訪問非常短暫，不過目前為止都非常愉快。

我認為人工智慧帶來巨大且正面的科技革命。歷史上每一次技術革新，都讓人們擔心工作將會被改變或被取代，必須做點什麼來因應；不過事實證明，人類對於新事物和創造力的渴望幾乎是無限的。

透過ChatGPT，我們看到人們使用AI工具，能把事情做得更快、更好，讓想法迅速實現。這是人類智慧和意志的一種增強器（amplifier）。

雖然鋪天蓋地而來的改變有點可怕，但我們正迎向的未來，可能比任何人想像的都好。技術革新的速度非常快，我不認為通用型人工智慧（AGI）還要幾十年才能實現。每年都有很多令人驚奇的事物，從不可能變成可能。

過去一到三年，多數人應該也沒有預測到ChatGPT會問世。這種情況將會持續下去，但我們已經探索許多深刻的發現和基本認知，這是非常偉大的探索。

陳信翰（以下簡稱陳）：我四、五年沒回來台灣了，但這裡依然給我家的感覺。正如奧特曼所說，人工智慧帶來科技革新，OpenAI員工都對人工智慧的未來相當樂觀。我們關心安全，但也相信AI能帶來更美好的未來。

問：你們剛剛經歷一趟世界之旅，這趟旅行主要的收穫是什麼？有哪些值得分享的發現？

奧：我和Mark今年初一起環遊世界，這趟旅程相當令人難忘與驚奇，我們看到全球六大洲許多國家、城市對人工智慧的熱情，以及相信未來會更好的信念。

當你第一次拿到iPhone時，認為它真的很酷，但是現在回頭會發現，畫質都好粗、性能也並不那麼好。但這仍然令人驚艷。

現在每個人口袋裡，都擁有這些超級電腦。在iPhone第一天問世的年代，我們能看到全世界人們的創造力、對未來發展的熱情、他們正在建立的商業模式，以及他們正在改變工作流程，這些都令人非常驚嘆。不同的文化有不同的觀點，不過所有人都對未來充滿期待與熱情。

陳：我們到了一個又一個地方，開發者們都來找我們，應用程式琳瑯滿目，我認為他們的發展已經遠超我們預期。

問：各領域的應用機會似乎無所不在。如果如同吳恩達教授所述，AI的發明就像電力一樣屬於通用技術，那未來數十年，它將在哪個領域發展茁壯？另外，OpenAI最初是非營利組織（NPO），現在則是一家盈利公司，您如何看待這兩種角色？

陳：我專注投入多模態（multimodal）和推理（reasoning）研究，我認為這是人工智慧未來最有前景的兩個方向。

在多模態的部分，我們希望AI能見人所見，聞人所聞，並生成我們無法自行完成的新內容，這將真正為AI模型開啟許多新介面。

在推理方面，今天GPT模型仍會犯一些愚蠢的錯誤，對吧？我們希望讓模型更強大，不再犯錯，成為可靠的夥伴。

奧：我想特別強調，如果我們能讓ChatGPT學會推理，那將是非常重大的一項突破。GPT-4稍微有一點推理能力，但還未及一個孩子的程度。

儘管GPT-4擅長模仿人類的所作所為，但並不會做科學發明。如果我們能教會AI模型如何推理，就能為人類知識的總和做出貢獻，世界將真正轉變。

需要耗時百年的科學進展，如果使用AI工具，讓我們能在一年內就辦到，那麼全人類的生活品質都將大幅提升。我特別感興趣的領域包括教育、醫療和生產力工具，就像我們看到人們正在做的那樣，令人驚嘆。

在公司結構方面，OpenAI最初是非營利組織，雖然我們知道訓練系統非常昂貴，但並不知道實際上有多貴。當我們意識到，最終不得不花費數千億美元來建立算力設備，來達成我們原本的目標，非營利組織不是一個適合的運作模式。

但是，我們最初採用非營利模式的原因在於，我們想要設置正確的誘因，讓AI技術帶來的福祉能回歸整體人類社會。

只讓一家公司擁有電力是不合理的，如果我們成功發明通用型人工智慧（AGI），只讓一家公司控制它也並不合理。所以，我們提出這種有盈利上限的想法，由一個非營利組織來管理我們，同時讓資本主義為我們的投資者和團隊帶來奇蹟。但除此之外，多餘的利潤歸非營利組織所有。

奧特曼以智慧醫療為例，強調原本耗時百年的科學研究，若納入AI工具，可望加速達成。圖片來源：Shutterstock

問：算力不僅成本高昂，還會消耗大量能源。奧特曼的願望清單中，有一項是期待未來能源和AI的成本能趨近於零。如何使AI與能源都能永續發展？

奧：核融合。如果這行不通，那就是太陽能。可以預見，未來的能源需求非常龐大，隨著時間推移，AI的成本應該會趨近於能源的成本。

人們對AI的需求有多大，對能源的需求就有多大。我認為，我們很快就能創造出便宜、清潔、安全且供給無虞的能源，尤其是核融合的大規模應用，如同我們要讓地球上每個人都能享受通用型人工智慧（AGI）的成果。

問：關於AI與風險，我們該擔心什麼嗎？

奧：所有新科技都會犯錯。我認為最重要的是，在風險還很低的時候，就要讓錯誤發生——不僅是OpenAI，而是整個社會的集體錯誤。

我們相信要迭代修正與部署技術，每次釋出新系統或新工具，都要觀察人們如何使用它？有沒有我們未曾預料到的濫用方式？

我們希望讓系統愈來愈好，所以GPT-3有很多問題，但GPT-4的問題會變少，而GPT-N將更少。使系統變安全的方式，在於用社會集體力量來引導它們，觀察它們在現實世界哪些地方出問題，接著修復它，讓它們變得更好、更強大，並重複執行下去。

因此，我同意吳恩達所說，人類社會已經成功應對過危險的技術革新、龐大的組織機構，我們將再次這樣做，但這不代表途中不會出錯，也不代表不會有任何干預與干擾。事情會出錯，會被干預，這也是我們認為應有時間讓社會逐漸適應的重要原因之一。

所以，有些人主張秘密開發出通用型人工智慧（AGI），並在某一天按下按鈕，我們認為這相當不好。

針對AI衍生的風險，奧特曼認為，全球應合力找出科技的錯誤，並商討解決辦法。圖片來源：Shutterstock

陳：是的，過去五年的安全研究讓我們知道，不能在真空中進行安全研究。人們預測可能風險，其中一些並未成真。所以我們需要部署的過程，讓AI在現實世界扎根，再看看人們如何使用。

我認為這也凸顯國際合作的重要性。我們在這裡，是因為我們想了解規範，對一個地方來說安全，可能對另一個地方來說並不安全。我們認為這不是只有美國該解決的問題。

奧：這真的很重要。我們有幾次「全球一體」的機會，國際原子能機構（IAEA）就是一例。AI技術具有龐大的全球影響力，找出所有人的交集並一起做決策，非常重要。

問：你擔心AI存在偏見或假訊息嗎？你有什麼看法？

陳：當然，我們非常擔心偏見。我認為這關乎不同地區如何定義偏見，因為這在每個地方都不一樣。在假訊息方面，人們會散佈錯誤內容，而我們的模型就是訓練用於預測網路內容。因此，在訓練模型之後，我們必須採取其他措施，縮小假訊息出現的範圍。

奧：世界上可能永遠不會有兩個人能達成共識，認為同一個系統是毫無偏見的。因此我們認為重點在於，我們能使系統變得更可靠，讓整個社會對於界限有所共識，並在不同文化脈絡、子群體與個體中，有能力讓系統以特定的方式運作。AI的潛力遠比人們想像得更大。

當然，如果你只是在網路上訓練一個模型，可能多數人都認為沒有偏見。但我們和其他人開發的技術，會從人類反饋進行強化學習，你可以引導這些模型，並依需要進行配置與更改。

我認為，賦予個體調整的權力，並設定邊界和行為標準，真的很重要。GPT-4的初始版本帶有的偏見，甚至比人類專家還更少。這使一些歧視與偏見領域專家驚訝，因為比他們想像中的還要好。

至於假訊息，這是非常困難的問題，因為很難定義並達成共識。我認為，衡量標準應該是模型的可靠性（reliability），就像如果你要求模型必須遵守一組經過查核的事實來運作，那它能表現得很好嗎？Mark團隊的工作在這裡就顯得非常重要。

奧特曼指出，很難落實零偏見AI，但AI系統可以更可靠、讓社會理解其運用界限。圖片來源：Shutterstock

問：人們擔心科技使社會變得不平等，你認為生成式AI會使情況更糟嗎？

奧：絕對不會。我認為，科技是帶來平等的力量（a force for equalizing）。大家常用的例子是，窮人和世界上最富有的人，都能使用相同的iPhone，歷史上，這種情況並不常見。

如果AI能使每個人都獲得最好的教育與醫療照護，這對每個人都有益。而且相對來說，對窮人更有幫助，因為富人本來就能負擔高額成本。

同樣的情況也適用於能源，歷史上一直都是如此。能源價格愈來愈低，這讓世界上最貧困的一群人受益，而非最富有的那些人。所以我認為，人工智慧將是促進平等的強大力量。

不過，這裡有一個「但是」。

上述一切只有在社會做出正確決策時，才會成立。假使全球所有算力都集中在一家公司或一小群人手中，這種情況下，AI將不再是促進平等的力量。

但我不認為社會允許這種情況發生。

問：你擔心政府可能過度監管AI技術發展嗎？

奧：我並不太擔心。這當然可能發生，我也擔心過度監管，我們這個行業的人經常批評監管制度。我們一直呼籲監管，但只針對最強大的系統，讓小型模型與開源自由發展；而比GPT-4還強大一萬倍的模型，或如同人類文明一樣聰明的模型，就可能需要一些規範。

對我來說，這似乎是我今年說過最沒有爭議的觀點，但我仍然受到不少來自科技業的抨擊，幾乎是對「反監管」（anti-regulation）的反射性反應。

監管並非全然的好事，但在很多方面都是好事。我不想每次踏上飛機前，都要對飛航安全發表意見，我得相信這相當安全。

我認為，監管制度在安全方面發揮積極的作用，在藥物管制上也相同。或許會出現監管不當，但我們無需會消極地害怕它。實際上，我們認為某種形式的監管政策是重要的。

陳：關於監管政策，奧特曼說得很多，我想回到不平等的問題，人工智慧可能導致更多的不平等嗎？我想有兩個例子能夠說明。

首先，程式碼生成，這能幫助程式初學者懂的比專家還多。另一個例子則是看診，我們已經有部分案例，部分無法獲得醫療資源的人們，將症狀輸入到ChatGPT中，有時能得出診斷解釋說明。

陳信翰說明，醫療資源不足的人們，已透過ChatGPT了解病症及診斷說明。圖片來源：Shutterstock

問：通常，我不會問你這個年紀的人以下這個問題，但我很想問：你對下一代有什麼話要說？

陳：努力工作和堅定信念很重要，這是OpenAI成功的關鍵。如果你不相信能創造出通用型人工智慧（AGI），那麼你就永遠不可能實現。我們從一開始就相信這是可能的。

當同業都在說「嘿，你辦不到的」，但我們有樂觀和信念。當然，你需要努力工作。

奧：我認為，下一代，可能是人類歷史上運氣最好的一代。AI工具帶來無限可能，有機會用前所未有的方式來辦到任何事。

正如Mark所說，你可以創辦一家嘗試創造通用型人工智慧（AGI）的公司，儘管很多人會告訴你這很蠢，甚至用比這更刻薄的方式來表達，但你仍然該去嘗試與實踐。

問：Mark畢業自竹科實驗高中，你在台灣接受的教育與在美國有何不同？

陳：這是個有趣的問題。我覺得我很幸運，美國教育體系比較放鬆，學生有探索興趣的空間；而我是一個相當不守規矩的孩子，台灣教育教會我「必須專注、守紀律」。我在這兩個地方都獲得了最好的養分。

奧：Mark是OpenAI中最受歡迎的主管之一，這不常見，OpenAI不是每個主管都如此被喜歡。

Mark加入OpenAI前沒做過太多研究工作。當他開始管理團隊時，接手的是OpenAI最難管理的團隊之一；他說他要學習如何成為一名管理者，就開始閱讀、與人交談。他決定投入其中，學習全新的事物，這樣的精神在任何階段都會帶來巨大的收穫與回報。

問：最後，您想與觀眾分享一些話嗎？

奧：有人想大聲喊出一個問題，讓我回答嗎？（聽眾提問）好的，如何創造一個本土化的產品或服務，不限制其潛力，並確保其受到適當的管制？

謝謝，這是很好的問題。

吳恩達曾經提過一項觀點，未來的趨勢是，你只要對模型下指令（prompts），告訴它你想要做什麼，只要用自然語言，就能讓AI做到。就像《星際爭霸戰》（Star Trek）裡面的電腦，只要說出想要什麼，事情就會發生，這將是未來我們與電腦打交道的方式。

你可能有興趣：AI關鍵人物

・黃仁勳｜AI的iPhone時刻到來　輝達黃仁勳：每個人都能成電腦工程師
・山姆・奧特曼｜「我是在做好事？還是一件很壞的事？」ChatGPT之父奧特曼的告白
・唐鳳｜不合理的工作是磨練？唐鳳：「吃苦當吃補」的事就交給AI吧！
・李飛飛｜AI專家李飛飛來台演講全記錄：使AI見人所見——受人類視覺啟發的電腦視覺
・吳恩達｜錯過AI大神吳恩達演講？5分鐘重點筆記看這裡