先抓重點
- AI Agent 不應使用共用高權限帳號。
- 高風險操作要有人審或二次確認。
- 操作日誌要能追到誰、何時、用哪個工具、對哪筆資料做了什麼。
判斷流程
先把問題拆成五個關卡
這個流程用來判斷公司能不能用、怎麼用，以及哪些情況要升級給主管、法務或資安確認。
- 01
先看資料類型
要輸入 AI 的內容是公開資料、內部文件、客戶資料，還是營業秘密？不同資料，能用的工具與審核強度不同。
- 02
確認工具與權限
工具是否列入公司白名單？帳號、工作區、資料留存與模型訓練設定是否有人管理？
- 03
判斷輸出用途
只是內部草稿，還是會變成客服、廣告、契約、法務、財務或醫療相關對外內容？用途越接近對外承諾，越需要人工審核。
- 04
指定責任邊界
誰能送出？誰要覆核？出錯時誰修正？不要讓 AI 產出直接變成公司承諾。
- 05
留下必要紀錄
工具審核、教育訓練、對外內容覆核與例外核准都要留下紀錄，之後才說得清楚公司怎麼管理風險。
官方已確認
現在可以放心寫進頁面的事
- 資通安全管理法及其施行細則提供資通系統、資通服務、資安事件、委外與資安維護計畫等管理概念。
- 人工智慧基本法建立 AI 風險治理上位框架，並要求政府使用 AI 時進行風險評估與內控管理。
尚待細則
不要寫成已定案
- 資通安全管理法主要適用公務機關與特定非公務機關，一般民間企業具體義務仍需依產業、契約與系統性質判斷。
- 民間 AI Agent 的細部責任、稽核與標示要求仍需看後續主管機關或產業指引。
實務風險
真正容易出事的地方
這些不是為了嚇人，而是公司在導入 ChatGPT 或其他雲端 AI 工具前，最需要先擋住的常見破口。
AI Agent 誤寄信、誤下單或誤觸外部 API，直接改變公司對外行為。
AI Agent 修改錯誤資料、覆蓋紀錄或批次處理錯誤，事後難以回復。
API 權限過大或共用高權限帳號，導致客戶資料、交易資料或內部系統資料外洩。
建議行動
第一版制度先做這幾件事
不用一開始做成厚重制度，先讓員工知道哪些資料不能丟、哪些輸出要審、哪些工具可以用。
- 使用最小權限，避免共用高權限帳號。
- 建立可讀、可寫、可寄送、可下單與可刪除項目白名單。
- 高風險動作停在待核准狀態，不讓 Agent 自動完成。
- 保留完整操作日誌，並設計錯誤回復流程。
紀錄與佐證
公司至少要留這些紀錄
權限設定紀錄權限變更紀錄操作日誌人工審核紀錄事故與回復紀錄
補充說明
AI Agent 和聊天機器人不一樣
聊天機器人主要輸出文字。AI Agent 可能會動手操作。
只要會操作，就要把它當成系統使用者管理，而不是單純內容工具。
最低限度要留什麼？
- 使用者身分。
- Agent 名稱與版本。
- 操作時間。
- 操作對象。
- 輸入資料來源。
- 執行結果。
- 是否經人工審核。
常見問題
AI Agent 只是輔助工具，也要留日誌嗎？
如果它能讀寫資料、呼叫 API 或改變系統狀態，就應該保留操作紀錄。
AI Agent 只讀資料、不寫入，也要控管權限嗎？
要。只讀權限仍可能接觸個資、營業秘密或內部系統資料，至少要限制可讀範圍、保留查詢紀錄，並避免共用高權限帳號。
來源與查證
- 資通安全管理法 / 全國法規資料庫 / 查證 2026-06-03
- 資通安全管理法施行細則 / 全國法規資料庫 / 查證 2026-06-03
- 人工智慧基本法 / 國科會主管法規共用系統 / 查證 2026-06-03