行政院表示,生成式AI正在改變全世界,尤其2022年ChatGPT推出,翻轉人類日常生活,對社會帶來風險與衝擊,需由科技、產業、人才及治理等各方面積極布局並正面因應,回應國內外挑戰及維持國家安全。
為使各公務機關對生成式AI使用有一致認知與基本原則,國科會參考各國政府因應作法,12個相關部會與AI技術、法制專家等學者協作研擬指引,並於公共政策網路參與平台徵詢民眾意見,綜合參考後提出指引總說明與十點規定。
主要原則包括須客觀專業判斷生成資訊、禁止用於製作機密文書、不得提供應保密資訊及個資、封閉式地端環境使用須確認系統環境安全,以及使用應適當揭露等。
國科會表示,參考歐盟定義,生成式AI模型是一種電腦程式,旨在創建類似於人類製作(human-made)的新內容,大量蒐集、學習與產出之資料,可能涉及智慧財產權、人權或業務機密之侵害,生成結果可能真偽難辨,須評估其產出資訊與風險。
因應AI科技發展日新月異,行政院表示,將請國科會持續觀察全球趨勢,滾動調整指引內容,使規範保留彈性,在風險管理與產業創新發展之間取得平衡。
行政院指出,各機關得視使用生成式AI之業務需求,參酌參考指引,並另訂使用規範或相關內控管理措施。
生成式AI使用指引十原則
一、為使行政院及所屬機關(構)(以下簡稱各機關)使用生成式AI提升行政效率,並避免其可能帶來之國家安全、資訊安全、人權、隱私、倫理及法律等風險,特就各機關使用生成式AI應注意之事項,訂定本參考指引。
二、生成式AI產出之資訊,須由業務承辦人就其風險進行客觀且專業之最終判斷,不得取代業務承辦人之自主思維、創造力及人際互動。
三、製作機密文書應由業務承辦人親自撰寫,禁止使用生成式AI。前項所稱機密文書,指行政院「文書處理手冊」所定之國家機密文書及一般公務機密文書。
四、業務承辧人不得向生成式AI提供涉及公務應保密、個人及未經機關(構)同意公開之資訊,亦不得向生成式AI詢問可能涉及機密業務或個人資料之問題。但封閉式地端部署之生成式AI模型,須確認系統環境安全性後,方得依機密等級分級使用。
五、各機關不可完全信任生成式AI產出之資訊,亦不得以未經確認之產出內容直接作成行政行為或作為公務決策之唯一依據。
六、各機關使用生成式AI作為執行業務或提供服務輔助工具時,應適當揭露。
七、使用生成式AI應遵守資通安全、個人資料保護、著作權與相關資訊使用規定,並注意其侵害智慧財產權與人格權之可能性。各機關得依使用生成式AI之設備及業務性質,訂定使用生成式AI之規範或內控管理措施。
八、各機關應就所辦採購事項,要求得標之法人、團體或個人注意本參考指引,並遵守各該機關依前點所訂定之規範或內控管理措施。
九、公營事業機構、公立學校、行政法人及政府捐助之財團法人使用生成式AI,得準用本參考指引。
十、行政院及所屬機關(構)以外之機關得參照本參考指引,訂定各該機關使用生成式AI之規範。