立即加入會員
取得專屬服務

杜奕瑾:兼顧開源與隱私,用聯邦學習打造負責任的醫療AI|未來招待所——智慧醫療

杜奕瑾:兼顧開源與隱私,用聯邦學習打造負責任的醫療AI|未來招待所——智慧醫療
台灣人工智慧實驗室創辦人杜奕瑾指出,聯邦學習能兼顧醫療數據的開源與隱私,創造更多數據價值。圖片來源:賴永祥攝
2021-12-24
整理・許鈺屏
7766
2021年末,「未來城市@天下」再次舉辦實體閉門會談「未來招待所」。我們讓日式老屋「無二會所」成為跨界交流的平台,並邀請醫療、科技業人物共聚,共同在古蹟悠然氛圍裡暢談智慧醫療。

這場會談以「醫院數位轉型和AI跨業協作」為題,前科技部長陳良基、台灣人工智慧實驗室創辦人杜奕瑾、台大醫院急診醫學部主治醫師李建璋、戴爾科技總經理廖仁祥與技術副總經理李百飛輪番與談,分頭從AI與醫療合作模式、健康數據實戰經驗及未來趨勢等面向,想像台灣智慧醫療的未來。

杜奕瑾-未來城市-未來招待所-智慧醫療-人工智慧-醫院數位轉型-AI未來城市閉門實體會談「未來招待所」,打造智慧醫療的跨界交流平台。圖片來源:賴永祥攝

以下,是台灣人工智慧實驗室創辦人杜奕瑾的分享:

台灣人工智慧實驗室(Taiwan AI Labs)在2017年成立,目前約有200多人,「智慧醫療」也是我們主要的領域之一。這個實驗室成立時,其實有一個重要的種子——我們希望演算法可以開放,數據管理則能保障人權與隱私。

如果我們想做到演算法的中立、可解釋性,同時保障人權,該怎麼做?在醫療領域,當人工智慧遇上醫療——也就是我們常談的精準健康與精準醫療,第一個要解決的問題就是資料。

聯邦學習如何翻過數據應用的高牆?

大家可以想像,全世界都認為智慧醫療是未來趨勢,但醫療數位化、智慧化後還得個人化。要走到精準健康,需要取得大量資料,但做起來很不容易。

每個人都有資料、每家醫院都有資料、國家也有健保資料庫、世界更有其他開放資料庫,但我們如何不必共享機密資料,也能共同訓練、驗證與測試?這就是我們正在倡議的聯邦式學習(Federated Learning)。

其實世界上已有不同醫療組織開始嘗試,或參與聯邦式學習。去年七月,我們也發布了台灣第一個聯合學習開源框架「Harmonia」,並從醫療產業開始推動。聯邦學習中,每個人的資料都能回歸個人、醫院或國家,並設定一種協定機制來訓練模型,再思考如何解釋、追蹤、驗證——這樣才能做出一個負責任的人工智慧演算法(Responsible AI)。

在智慧醫療中的聯邦學習,我們與每家醫院定好協議(protocal)後,讓他們在同一個規範下開始搜集、標註資料;之後,每家醫院就有自己的模式,與我們完成跨中心的聯合學習與驗證。

台灣已有這類去中心化、又能保護個資的簡單例子,那就是台灣的社交距離APP

2020年四月,我們發布並開源了這個APP;當時,Google、Android、iOS等都還沒釋出相關服務。社交距離APP能記下每個人的歷史足跡,且不需要中心伺服器,就能做到匿名的病毒追蹤分析。(延伸閱讀|為何PTT上的假訊息比FB易被發現?杜奕瑾分析演算法差異給你看

聯邦學習讓AI四處學習,提高效率

聯邦學習聽起來很玄,其實一點也不玄。這些運作模式的靈感來自2017年——當年台灣AI Labs剛成立,前台大校長楊泮池帶我認識現任的台大醫院院長吳明賢。那時,吳院長也是台灣特定疾病臨床試驗合作聯盟(TCTC)總主持人,組織下還有負責不同疾病的「c-IRB」機制。

c-IRB可以做多中心的臨床試驗——當我們想知道一種藥物有沒有效,其實用跨中心、同一標準去收案、同一協定驗證,最後結果就可以知道臨床測試效果,且不需要知道參與者個資。

這就類似聯邦學習的概念。當我們想訓練出最好的醫師,其實不必把病人收集到同一家醫院、讓這位醫師看;我們可以讓醫師到每家醫院實習,其實就可以訓練出最好的醫師。換句話說,人工智慧的演算法也一樣——讓這個AI模型到不同中心訓練、學習,最後取得全球、在地最好的AI模型,這其實就是聯邦學習的方法。

當我們建立起聯邦學習的跨中心平台後,還能做什麼?假如,我們能有類似TCTC的聯盟,未來任何智慧醫療、智慧醫材的新創團隊,他就能在聯邦學習的架構下,完成時程表,拿下衛生福利部食品藥物管理署(TFDA)的認可。

台灣特定疾病臨床試驗合作聯盟-c-IRB-聯邦學習-多中心-臨床試驗-人工智慧-智慧醫療「c-IRB」機制讓廠商申請跨中心的臨床試驗,檢驗藥物效果。圖片來源:截自台灣臨床試驗資訊平台網站

聯邦學習如何帶動台灣智慧醫材產業的未來?

過去,台灣流傳一句話,「在台灣申請TFDA不太可能,都要去美國拿到FDA後再回來申請。」其實,這是因為TFDA的審核經驗少、較保守;審核時,也因為產品攸關使用者的生命安全,不敢輕易畫押。最後,變成還沒拿到FDA的醫材看起來不太保險,反而難以過關。

其實,醫材團隊到美國申請FDA至少要準備1,000萬美元。台灣若能轉換想法與做法,醫材團隊申請TFDA反而更負擔得起,甚至能利用台灣醫院非常高品質的資料、國家資料庫,拿到認證。

所以,今年TFDA也擬定相關指引,並成立了智慧醫材辦公室。以前,我們只會思考如何監管,但現在不只監管,還會思考如何輔導。(延伸閱讀|跨越死亡之谷:智慧醫材加速的六個法律挑戰

台灣AI Labs方面,針對AI模型,也持續支援基因解密、醫療論文分析等工作;讓醫療團隊在做聯邦學習之外,需要探索資料時,也能有相對應的團隊協助研究。

此外,科技界要與醫師合作時,常常會需要pre-training(預先訓練)的模型;但AI新創公司一下子就要醫師標註幾千張資料,醫師一聽到就嚇死了,因為時間很寶貴。這些醫療與科技的合作部分,我們也能協助——醫師只需要先標註一小段資料,我們以此訓練成模型,接下來就不必從零開始標註,演算法的更新迭代就會更快。

我們希望,藉台灣AI Labs推動的聯合學習產業大聯盟在尊重資料擁有權下,結合台灣臨床測試聯盟的運作優勢,建立起從跨中心訓練及驗證模式,最終協助拿到TFDA認證。這不只能提供給台灣AI Labs或台灣的醫療、創新產業,而是它應該像台積電帶動產業一樣——未來,有人想要做到智慧醫材研發,可以在台灣找到夥伴、用這一套很快地做起來。

2021未來招待所・醫院數位轉型和AI跨業協作

其他人也在看

你可能有興趣

影音推薦

【2022.SDGs國際論壇 #2】中央、地方、產業 永續利害關係人如何協作?|永續議題分析與利害關係人協作

已成功複製連結