生成式AI使用指引
Table of contents
背景
- 除了智財權的議題之外，生成式AI最大的爭議就是它的真實性、以及因此所引發的法律責任問題。(好像其實是同一件事情的2面)
- 這裡引述國科會草擬的行政院及所屬機關（構）使用生成式AI參考指引（草案）」來予以澄清。(參考112-08-31教育科學文化處@院會議案)
- 該指引已經在8月底通過院會實施了。其中部分條文還蠻值得推敲一番(引申與反思)。
公部門使用生成式AI指引
- 有關公部門生成式AI的規範及教育訓練，目前責成科技部國科會負責。
- 除參考各國政府之審慎因應作法、與AI技術、法制專家學者及12個相關部會協作之外，並於公共政策網路參與平臺徵詢民眾意見，經綜整後提出。未來滾動調整。
條文內容
一、為使行政院及所屬機關（構）（以下簡稱各機關）使用生成式AI提升行政效率，並避免其可能帶來之國家安全、資訊安全、人權、隱私、倫理及法律等風險，特就各機關使用生成式AI應注意之事項，訂定本參考指引。
二、生成式AI產出之資訊，須由業務承辦人就其風險進行客觀且專業之最終判斷，不得取代業務承辦人之自主思維、創造力及人際互動。
三、製作機密文書應由業務承辦人親自撰寫，禁止使用生成式AI。前項所稱機密文書，指行政院「文書處理手冊」所定之國家機密文書及一般公務機密文書。
四、業務承辦人不得向生成式AI提供涉及公務應保密、個人及未經機關（構）同意公開之資訊，亦不得向生成式AI詢問可能涉及機密業務或個人資料之問題。但封閉式地端部署之生成式AI模型，須確認系統環境安全性後，方得依機密等級分級使用。
五、各機關不可完全信任生成式AI產出之資訊，亦不得以未經確認之產出內容直接作成行政行為或作為公務決策之唯一依據。
六、各機關使用生成式AI作為執行業務或提供服務輔助工具時，應適當揭露。
七、使用生成式AI應遵守資通安全、個人資料保護、著作權與相關資訊使用規定，並注意其侵害智慧財產權與人格權之可能性。各機關得依使用生成式AI之設備及業務性質，訂定使用生成式AI之規範或內控管理措施。
八、各機關應就所辦採購事項，要求得標之法人、團體或個人注意本參考指引，並遵守各該機關依前點所訂定之規範或內控管理措施。
九、公營事業機構、公立學校、行政法人及政府捐助之財團法人使用生成式AI，得準用本參考指引。
十、行政院及所屬機關（構）以外之機關得參照本參考指引，訂定各該機關使用生成式AI之規範。
官網摘要簡圖
Lessons and Topics
責任擔當的定義
- 技術顧問過去以學術期刊同儕審查、第三方認證等等方式作為最高權威，自從有了網路搜尋之後，有了「依據網友提供…」，現又有了gtp，會不會在報告中出現「依據chatGPT4的建議…」這樣的引述方式?
- 古人有云「不以言舉人、不因人廢言」。的確不能因為gtp說的對就肯定它、也不能因是gtp就排斥它生成的文本內容，但畢竟它不是個法律上的實體，不論如何引述推諉，我想gtp幾個字應該是不能出現在正式的報告。(條文六)
委託採購的內容與驗證
- 隨著生成式AI的開放應用，執行計畫如何展現報告不是AI產生?下包提交的內容不是AI產生?這對計畫驗收是否會造成衝擊?
- 是否提交報告也要像學校論文先跑Turnitin證實沒有抄襲可能。(條文八、九、十)
封閉式地端部署之必要性
- 從指引條文四看來似乎無法避免要在本地部署封閉式的AI推論服務，可能包含具有機密性知識庫的查詢:
- 契約條文、(請告訴我某某契約是否有賠償上限?)
- 服務建議書內容、(某標案當時提出的亮點是甚麼?)
- 發展中、不公開的專業知識、限閱報告(某廠自行委外監測結果的戴奧辛測值範圍?)
- 內部管理資訊(那些同仁已經有受過ISO稽核員資格訓練?)
- 程式說明(告訴我主管決策系統中業務投標界面的程式邏輯)
- 從內部文件系統中起草新文件
- 內部簽文 (搜尋過去的工讀生聘用專簽，起草一份暑期工讀生聘用簽文。)
- 契約草稿(搜尋過去英文契約，草擬一份委託國外顧問公司之服務契約草稿)
- 服務建議書(綜合ABC計畫的服務建議書工作方法章節，草擬D計畫的工作方法。)
- 程式改寫(找到過去有關團保管理系統的VBA程式，將其改寫成C#)
- 內部會議記錄(我會給你紀錄大綱，你要仿照前次格式給我完整300字的會議紀錄。)
- 權限管理
- 以本地資訊進行廣泛性的語言模型訓練，似不可行、資訊量太少。
- 以有限文件之集合進行檔案解析、按權限分級分類、AP帳號登錄選擇資料庫、再餵進chatDOC進行查詢問答與生成。
- 此類需求似乎不大、權限管理複雜、軟硬體投資龐大、是否有必要發展地端系統、還須深思(也可等待CP值提高)。