從歐盟的《AI基本法》到美國的市場導向方針，再到台灣正在制定的AI基本法，各國正以不同方式應對AI帶來的法律挑戰。然而，這些法規能否跟上AI技術的快速發展？
本集邀請人工智慧法律國際研究基金會執行長張麗卿，與人工智慧法律國際研究基金會秘書長朱宸佐，共同探討AI在法律、醫療、金融等領域引發的爭議。面對這些挑戰，台灣如何找到自己的位置？我們又該如何平衡創新與監管？這些都是我們必須面對的關鍵問題。
未來城市Podcast「AI讀書會」系列：《AI來了 LAW變了》。圖片來源：元照出版 製圖：未來城市
未來城市Podcast EP.88
▹ 未來主持人：未來城市頻道總監陳芳毓
▹ 未來大來賓：人工智慧法律國際研究基金會執行長張麗卿、人工智慧法律國際研究基金會秘書長朱宸佐
▹ 訪談精華一次收藏：
問：《AI來了 LAW變了》中除了台灣，也介紹了國際的AI案例，但目前台灣政府尚未推出相關的人工智慧法案。在歐盟、美國等地方，AI的法律規範有何發展？
朱宸佐（以下簡稱朱）：AI與人工智慧基本法議題都是瞬息萬變的國際趨勢，基於各國不同的的歷史文化、產業發展、政治情勢，各地會制定出不同的AI規範。
舉例來說，歐盟的《AI基本法》在今年的八月一號實行，這項法規制定了非常詳細的AI規範，但它並非法院或立法機關制定，而是由總統簽訂的行政命令，主要講述政府如何「有限度地使用AI」；在美國，因為產業與文化偏向市場主義，因此政府沒有訂下太多規則，主要由市場自律監管；如果在中國，則會更多聚焦在國家安全。
台灣也正在推動AI基本法制定草案，國科會已提出自己的版本。我們認為，AI基本法規對於整個產業鏈、社會法治面有非常重要的作用，不能落後國際。
問：許多人對AI的擔憂是個資與隱私，像生物辨識、無人計程車或AI金融投資等風險。當AI系統出現問題時，責任該歸屬於誰？AI還會衍生出哪些法律問題與爭議？
張麗卿（以下簡稱張）：目前，法律系統還沒有確立AI出現錯誤後的責任分配原則。
但正因為使用AI具有風險，我們需要討論出使用AI時，可容許的風險程度；也應明確規定出因為技術缺陷或資料洩漏等原因而出錯的承擔方。
所以，建立監管跟治理的框架是必要的。
首先，由於AI系統是依據大數據進行訓練，在收集訊息的過程裡，應確保不侵犯個人隱私。此外，AI的智慧財產權與產出作品的版權、著作權等，也常產生疑慮——AI是否能作為權利享有的主體呢？
以目前的案例來看，無人車闖紅燈或發生事故，最主要的違規者可能是AI研發廠商；若有確立規範，就可以分析個案並判斷事故主因。假設這項事故的原因不可控制或無法預測，車商或AI供應商其實不需要負責。
但很多時候，並沒有人可以真正承擔事故的法律責任，因此，我們可以藉由保險來轉嫁風險，而保險制度也必須隨之調整 。
無人車駕駛在發生事故時，需依據規範分析個案狀況，判斷法律責任。圖片來源：Shutterstock
在勞動市場方面，生成式AI尤其對白領階級造成影響——它改變了工作現場，也牽涉到《勞動法》、社會保障制度及就業政策等領域。
更可怕的是，AI數據與演算法的背後，終究是基於人類的想法，但人的觀點可能帶有種族意識或性別偏見，AI歧視是更可怕的問題。同時，經濟地位的差異也讓「使用AI的權利」變得不公平。
這些問題，都是我們必須持續面對的挑戰。（延伸閱讀｜醫學院用AI面試，竟刷掉數百位優秀女性與少數族裔⋯⋯科技為什麼也會偏心？）
問：相對於台灣，國際的AI應用發展較快速且普遍。美國在實務案例上，是怎麼處理AI帶來的法律問題呢？台灣又受到哪些影響？
朱：在AI應用領域裡，美國更關注的是在國際產業鏈及地緣政治上的綜合性問題。近年來，AI已變成中美競爭的重點核心衝突點——從近期美國頒布針對AI數據模型、晶片與高算力模型的出口管制禁令，即可瞥見其發展重點。
台灣是半導體晶片的出口重鎮，這讓台灣在地緣政治與國際產業鏈成了要角。但除了晶圓代工，台灣也有很完整的資通訊、電子製造業——這不只牽涉到AI的晶片製造、AI高算力模型等，加上台灣不在美國出口管制的名單內，使得微軟（Microsoft）、雅馬遜（Amazon）或Google等國際大廠紛紛來台設立數據中心，甚至輝達（NVIDIA）也在台灣規劃了高算力數據中心（Computing Center） 。
美國想制裁中國， 台灣難免受到影響。例如，以AI高算力伺服器為例，美國已將中國與越南列為限制出口管制地，台灣企業在這兩地設立的工廠，只要牽涉到研發與製造，都要考慮移轉到第三方設廠。目前，各國都在美國的出口管制規定下，提出新的戰略思考。
問：我們常想像，AI出現後，它能為醫務人員分憂解勞，但醫院如何使用AI科技？醫生真的可以把診斷任務交給AI嗎？我們可以從現在的應用狀況，看到哪些問題？
張：在台灣，AI醫療系統與器材需要符合目前的《醫療器材管理法》才能使用；這套法律也非常嚴謹地管控AI系統與機器，且包含上市前的審查與上市後的監督管理。
但問題是，AI有時會自作聰明，經過自主深度學習後，提供不恰當的建議。
我們可以想像，在急診室時，護理人員正在檢傷分類；若醫院改用某公司開發的「急診減傷分類AI演算法」，最終AI判斷失準、提供錯誤決策，導致耽誤救援。
我認為，這些風險終究要回到負責任的核心——不管AI器材多麼進步，它僅是輔助工具；醫療事關生命，最終決定者仍是人類，出問題依然要由醫護人員負責。
問：我記得在美國食品藥物管理局（FDA）通過了非常多AI醫療設備，美國的發展趨勢如何？是否有觀察到AI醫療帶來的問題？
朱：這個問題在美國受到很多關注。七月15日，全美最頂級的AI研究中心史丹佛大學人本人工智慧研究中心（HAI）發表一篇文章，生動比喻目前美國AI醫療的監管狀況：「目前AI的醫療設備監管，有點像是一輛1976年的雪佛蘭跑車，正駕駛在2024年道路上。」
我們可以看到，美國FDA在1976年成立，當初的監管機制標準早已過時，當許多研究都在關注AI醫療時，他們又該如何制定明確標準？
在醫療的概念裡，「告知後同意」非常重要。譬如說，醫生要做緊急手術，必須要病人簽手術同意書，他才能行動；當醫護人員想用胸部X光檢查、AI判讀腦癌細胞等AI醫療設備判定時，不只該從醫護角度思考，也必須要獲得患者的同意，AI導入醫療才更完善也才能幫助醫護人員隔離風險。（延伸閱讀｜「未來醫師」怎麼看病？ChatGPT會掀起《AI醫療革命》嗎？）
問：除了醫療議題，生成式AI帶來的新型態犯罪層出不窮，尤其是深偽技術（Deepfake），它能合成影像與聲音，並詐騙民眾、產出不實性影像。目前台灣有沒有相關法律，來規範AI帶來的新型犯罪型態？
張：針對這類新型犯罪，台灣的立法程序非常迅速。去年，刑法就新增了《妨害性隱私以及不實性影像》的罪名，規定很具體，且可以處到五年以下的有期徒刑。
除了人類會利用AI犯罪，未來，AI系統的自主犯罪也可能發生。這聽起來很科幻，但以自駕車事故來看，假設完全自駕的無人車發生車禍，且導致人員死傷，若法律有相應規定，自駕車的行為很可能形成殺人或過失致死罪。（延伸閱讀｜自駕車來了，修法準備好了嗎？）
朱：最近，香港發生一件重大金融詐騙事件——香港不少銀行的母行都在英國，當「英國母行」發起視訊會議時，高階管理人員也上線，並下了匯款指令，請香港分行匯款；此時，香港行員看到熟悉的面孔，當然不疑有他，就把兩億港幣（約新台幣8.2億元）匯入指定帳戶。結果，整場視訊會議都是AI深偽技術形成的騙局。
金融監管行業十分嚴格把關金融理財風險，但也受到AI深偽技術所詐騙，這代表我們無法再漠視AI帶來的新犯罪型態。（延伸閱讀｜反制換臉技術 假面騎「識」即時偵測防堵詐騙）
聽懂未來：關於科技趨勢，我還想知道更多⋯
未來城市給你更多知識補充包！
想聽更多未來城市Podcast節目？
- 首播時間：隔週六播出。
- 頻道搜尋：天下雜誌Podcast頻道「聽天下」，或關注未來城市網站「未來城市Podcast」系列內容。
