組織如何導入ChatGPT?中研院:從做FAQ等「高影響、低複雜」任務開始

組織如何導入ChatGPT?中研院:從做FAQ等「高影響、低複雜」任務開始
中研院資料服務處長陳伶志分享ChatGPT導入組織內部的初步經驗。圖片來源:台灣人工智慧學校
2023-06-14
採訪、整理・許靜之
40168
隨著生成式AI各種創新應用成真,中研院資訊服務處處長、資訊科學所研究員陳伶志分享,五人核心小團隊如何在短短三個月內,推動大型公務機關開始改變?從技術發展到推廣應用,如何設定目標策略?

本文重點:

  1. ChatGPT在行政服務的應用:為提高行政效率,中研院在ChatGPT協助下開發了AIG-FAQ網站。該網站利用AI技術從各種行政法規中自動生成問答,並標註法規資料來源。這項創新提高了行政效率,並有助於整理和檢視行政法規。
  2. 工作流程與自動化的重要性:中研院意識到,要讓AIG-FAQ網站內容長期應用與擴充,技術階段的全自動化至關重要。為此,他們確立了一個工作流程:業務單位將法規整理成excel檔案,加上分類標籤後,由ChatGPT生成問答。
  3. 嘗試多元應用:中研院除開發FAQ服務,還試驗了其他幾種AI應用,包括:利用OpenAI Whisper做會議逐字稿秘書、使用ChatGPT協助社群小編撰寫文案和摘錄文章金句,以及利用AI技術進行中研院科普影音加值等。
  4. 找尋合作對象和業務的方法:中研院資訊處尋找合作對象時,考慮了該單位對新技術的接受程度、過去合作經驗以及導入新技術的迫切性等因素。選擇合作業務時,策略是先選擇「影響力大且複雜度小」的業務,再考慮觸及率高且複雜度高的業務。
  5. 著重創新和創意:進行AIGC(AI生成內容)時,中研院強調不應該僅僅為了使用AI而使用AI,而是要以解決問題為主要目標。他們認為,善用各種資訊技術工具和多元組合配置,其中的創意比工具本身更重要。

以下是中研院資訊服務處處長陳伶志的分享:

ChatGPT問世以來,生成式AI新工具和方案不斷推陳出新,這段時間大家應該都過得很辛苦;以前我們可以好好睡一覺,但現在睡醒後,卻發現再也學不完了。

現在我們需要學習的新事物,是以往的好幾倍以上,使我想到中研院前院長胡適曾經說過,「不做無益事,一日當三日。」生成式AI技術應用進展飛快,在我們預料之外,今天就來談談,中研院同時作為公務機關和大型機構,如何應對這波人工智慧浪潮,以及如何實現這些改變。

FAQ自動生成加速行政效率,AIGC專案如何落地?

首先,我們希望ChatGPT在控制的環境下,處理行政服務的常見問題。作為一個大型機構,中研院有各種行政法規,散落在網路上不同位置;這些資訊時往往不容易找,有時連承辦人也不知道存放在哪裡。

ChatGPT是一個非常適合歸納問答的工具,所以第一步,我們請各部門開始協助整理行政服務相關說明,供ChatGPT爬梳;第二步,要求ChatGPT假裝自己是使用者,對這些法規說明提出問題,再按照規格生成出解答;最後,我們記錄這些一再重複的過程,產生許多一問一答的內容,完成這個AIG-FAQ網站

中研院-陳伶志-AIGC-生成式AI-ChatGPT-台灣人工智慧學校ChatGPT生成問答內容時,也一併標註法規資料來源,提供使用者參考。圖片來源:截自AS FAQ網站

生成問答後,業務單位會人工核實內容,這個過程還發生一個插曲。

在資安專區,中研院有一份不建議使用的中國廠牌資通訊設備清單,ChatGPT就發問,「如果我已經安裝了這些的話怎麼辦?」自動生成的回答,我們卻無法提供相關資訊。這使我們發現法規的盲點:只提到不能用哪些廠牌,卻從未告訴使用者「若已有這些設備該怎麼辦」。

ChatGPT的發問,往往是一般人的疑問。回推來看,FAQ產生器還意外找出現行服務規定不清楚的地方,幫助我們修訂法規。

為長期應用擴充AIG-FAQ網站內容,若由資訊單位做「一條龍」服務,這就會變成資訊單位的業務;但即便我們的量能再充沛,也無法吃下一個又一個任務,因此技術階段勢必得完全自動化。

中研院-陳伶志-AIGC-生成式AI-ChatGPT-台灣人工智慧學校陳伶志指出,工作流程設計與技術自動化是專案能否走得長久的關鍵。圖片來源:截自陳伶志簡報

示意圖最左方是業務單位,負責將法規整理成excel檔案、加上分類標籤,送到資訊單位設定的程式生成問答後,經過一連串資料轉換,就能快速擴充網站內容。整個工作流程中,業務單位蒐集法規得耗點功夫,後續程序,資訊單位則已完成全自動化。

這是一個可以走得更長遠的工作模式,對於資訊單位不會造成太大負擔,還留有餘裕去開發下一個功能。

目前上架的版本中,我們還透過Google Translation的API,提供英文和多國語言版本,並提供查詢功能;雖然介面還不是非常精緻美觀,不過內容都能夠自動化生成。

中研院同時還做了這三項嘗試:

  1. 會議逐字稿秘書使用OpenAI Whisper在地端將語音轉為逐字稿,經由pyannote.audio辨認講者,最後讓ChatGPT API摘要內容。
  2. 中研院科普影音加值先使用OpenAI Whisper在地端將語音轉為字幕檔,ChatGPT API撰寫影片內容摘要,並提供查詢、導覽功能與多語言版本,方便外國人士閱聽。
  3. 社群小編協作:透過ChatGPT協助撰寫文案、摘錄文章金句。

如何找出最適合AIGC的合作對象和業務?

大型機構資訊單位推動新政策,除了需主管支持,尋找內部合作單位時,也需了解該單位對於新技術的接受程度。畢竟引入新技術一定需要磨合,因此,過去的合作經驗也可納入參考依據。

導入迫切性也影響合作單位動機。我們可以想像,若有單位經常接到客服詢問電話,那一定非常希望參與推出FAQ服務。例如,主計室在瞭解這份計畫後,馬上表示想第一個導入。另外,業務本質也是導入評估指標之一,像是負責媒體公關的秘書處就表達希望跟上這波新潮流,把新科技帶進社群小編的工作流程。

中研院-陳伶志-AIGC-生成式AI-ChatGPT-台灣人工智慧學校陳伶志分享,在尋找業務合作對象與導入業務時,依照目標訂定策略排序。圖片來源:截自陳伶志簡報

總之,在挑選合作業務階段,我們的策略是「優先選擇受眾觸及率高」的業務:先做影響力大、複雜度小的事情;其次才是觸及率高、複雜度高的業務。依此類推排序,希望讓生成式AI帶來的改變發揮最大效益。(延伸閱讀|「研究理論也要能接地氣!」 技術宅陳伶志成中研院研究員

寧可只踏第一步,但一定要走得穩

這段期間我們深刻體認到,大型公務機關不只規矩多,動起來也慢,若要啟動較大的創新,起頭很重要——寧可一開始走得很小步,但一定要走得很穩,小成果才有大進展;建立起優良典範,才有辦法邁向第二步。

同時要記得,不要為了AIGC(AI generated content,AI生成內容)而AIGC。當大家都在談AIGC,很容易就會聚焦在用什麼工具完成事情;但不要忘記,我們的目標是要解決痛點。不是每個環節都要用到AI,善用各種資訊技術工具,做多元組合配置,這其中過程的創意比工具還重要。著重在創意而非工具,才能讓AIGC創造更多價值。

推動過程中,我們觀察到行政氛圍的改變,不僅陸續有業務單位主動找上門,也發現行政同仁開始主動參加AIGC活動、玩AIGC工具,主動告訴我們痛點與需求,一起發想點子。

一個人雖然走得快,一群人才能走得遠,創新需要呼朋引伴。大型機構之所以複雜,就是「上有政策、下有對策」;大家都能講得一嘴好AI,但唯有實際在組織內落地、磨合,才能真正驗證與新技術有效協作的可能。(延伸閱讀|別人怎麼用ChatGPT改變工作流程?台灣最大生成式AI年會一次解密

(本文為陳伶志於六月三日人工智慧學校主辦「生成式AI衝擊工作坊夏季場」演講摘要)

其他人也在看

你可能有興趣

已成功複製連結