導入 LLM 前必做的資安風險評估:8 大威脅與對應防護措施

有家金融客戶去年給員工開放了一套內部 AI 助理,想加速理賠文件審閱。上線三週後,資安團隊在稽核日誌裡發現:有同仁把整份含身分證字號、保單號碼的客戶清單,貼進了對話框請它「幫我整理成表格」。那份資料,連同 prompt,原封不動送去了外部模型的 API。

沒有人惡意。工具很好用,好用到大家忘了它是一條資料的出口。

企業 AI 資安風險的難處就在這裡:它不像傳統系統有清楚的邊界。LLM 把「輸入」和「指令」混在同一段自然語言裡,又常常需要連接你最敏感的內部知識才有價值。導入前如果沒做過一輪像樣的風險評估,你等於把公司的資料閘門,交給一個會被一句話騙過去的系統。

下面這張對照表,是我們進場評估時實際會逐項打勾的清單。左邊是威脅,右邊是我們會落地的防護,不是原則,是動作。

8 大威脅與對應防護對照表

這張表怎麼用,才不會流於形式

我得誠實講:大部分企業的 AI 資安評估,做完就躺在簡報裡。真正的問題不是「知不知道有這些威脅」,是「上線後這些防護還在不在」。

我們踩過的雷是:第 3 項權限過濾,Demo 階段大家都用管理員帳號測,一切正常;等真的分角色上線,才發現檢索層根本沒帶使用者身分,越權查詢一路綠燈。所以我們現在的做法是,權限與 prompt injection 這兩項,一定要用真實的低權限帳號、真實的惡意文件去實測,而不是看架構圖說「應該沒問題」。

合規面也別漏。在台灣,金融與醫療客戶還要疊上個資法、金管會的委外規範與資料落地要求。私有部署不是為了炫技,是因為有些資料在法規上就不能出境、不能給外部模型留存。這決定了你能用哪種模型,得在評估最前面就釘死,不然架構做到一半才發現要全部重來。

一個務實的優先順序

八項不必一次到位。以我們的經驗,先鎖三件事風險就降掉大半:資料外洩(DLP 加遮罩)、越權存取(檢索繼承權限)、以及給 Agent 的不可逆動作加人工關卡。這三項擋掉的是「一次就出大事」的災難級風險,其餘的可以隨著採用範圍擴大再補齊。

在 Tenten,我們做 FDE 前線部署時,資安評估不是交付前的一份文件,而是工程師進場第一週就攤開的清單,並且會用真實帳號、真實惡意輸入把每一項打過一遍。因為 Demo 那天看起來很安全不算數,上線後有人在用、稽核日誌裡查不到外洩,才算數。