林之晨專欄|如何避免邪惡AI出現?

林之晨專欄|如何避免邪惡AI出現?
2018-04-11
文・林之晨
3676
邪惡AI威脅人類的電影情節,真的會實現嗎?未來,AI將有比人類更強的思考、判斷能力,影響AI走向良善或邪惡的關鍵,會是什麼?

最近常到企業、學校、政府組織去講AI,提醒大家這個已經登陸、眼看即將橫掃產業、消滅工作、重組社會,乃至徹底改變國家命運的超級強颱。

分享結束後,進入了Q&A時間,最常出現的問題就是AI到底是惡是善?人類又該如何避免邪惡AI的控制、威脅,乃至趕盡殺絕?

目前為止,我的觀察是30、50年後,當AI跨越奇點(Singu-larity),全面擁有比人類更強的思考、判斷能力,他們將如何面對人類,其實還沒有定案。

原因是從現在走到那個時間,有近乎無限且發散的路徑可能,目前人類社會尚未做出足夠選擇,明顯地讓世界向善AI或惡AI傾斜。(延伸閱讀:AI怎麼用才道德?有請達賴喇嘛弟子到MIT開課

或者用另一種方法解釋,如果發展「通用人工智慧」(AGI)的最終目標是要達到100%進度,那麼現在恐怕只完成了0.01%,甚至是0.001%。如何證明?我們可再往後退一層,發展AGI需要大量資料,假設它是100GB,那麼現在能收集到關於人類世界的資料,恐怕連一KB都不到。

換言之,AI的發展才剛開始,所有事情還非常混沌,因此未來根本還沒決定。

到底AI會像坦克車一樣,造就一個邪惡帝國,讓無數人遭迫害、屠殺?還是會像工業革命一樣,讓少數國家在數十年內擁有壓倒性的經濟勢力,引發新殖民時代,讓落後國家落入第三世界?還是會像核武一樣,震撼國際,引起大家有意識地去節制?或是會像電力、電信網路一樣,相對和諧地漸漸穿透人類社會?

良善AI,人人有責

目前我們不知道。

但可以知道的是,當全世界的每個人愈去關心、愈去學習,每個國家、公司愈去參與它的發展,就能減少它被少數人、少數企業、少數國家壟斷的機率,進而減少像坦克、工業革命一般嚴重傾斜的惡果。

換句話說,阻止邪惡AI,每個人都有責任、每個人也都有義務。

如果你擔心AGI的出現將迫害你自己、你的家人、你的子孫,那麼現在開始,你就該用最大努力,去關心AI、發展AI,才能幫助這個世界,朝向你理想的康莊大道,避免你害怕的人間煉獄。(責任編輯:賴品潔)

(本文轉載自《天下雜誌》,授權《未來城市@天下》刊登。未經同意請勿轉載。)


【延伸閱讀】
李開復:不要繼續假裝AI不會消滅工作機會了
林之晨:企業少這五招,AI都是白談
人工智慧,禍福相倚
童子賢:得AI者,得天下!
不只取代你的工作,AI人工智慧將加大不平等

延伸閱讀

專訪杜奕瑾:不犧牲個人隱私,就能做到人性化智慧城市AI出手 避免6000件未成年者性交易悲劇中國AI最貴獨角獸商湯:二選一,你要給保安或AI監視?

其他人也在看

你可能有興趣

影音推薦

#廣編企劃|【2023 天下城市高峰論壇 #9】新竹市交通處長 倪茂榮:改善交通,必須先做出優良示範道路|天下雜誌✕未來城市

已成功複製連結