國安局：5款AI有個資外洩、操弄資訊風險！DeepSeek、文心一言都被點名
國安局檢測五款中製生成式 AI，發現普遍資安違規、內容偏頗與政治審查風險，提醒國人慎用並注意個資外洩與認知操弄。
生成式人工智慧（AI）語言模型近年快速發展，應用範圍廣泛。各國政府及學研機構日益關注中國製AI模型資安疑慮。國安局協調統合法務部調查局、警政署刑事局等單位，抽測中製「生成式 AI 語言模型」。結果顯示，相關產品普遍存在資安風險及內容偏頗等問題，提醒國人慎選並注意資料外洩。
本次抽驗中製「生成式 AI 語言模型」，包含「DeepSeek」、「豆包」、「文心一言」、「通義千問」及「騰訊元寶」等 5 款。檢驗內容包含「應用程式」及「生成內容」等兩大部分。
首先，在「應用程式」部分，驗測團隊採用數發部發佈「行動應用 APP 基本資安檢測基準 v4.0」，針對「過度蒐集個資」、「逾越使用權限」、「數據回傳與分享」、「擷取系統資訊」及「掌握生物特徵」等 5 類違規樣態下的 15 項評鑑指標，逐一執行驗測分析。
「通義千問」在 15 項指標中，驗出 11 項違規情形；「豆包」與「騰訊元寶」計有 10 項違規；「文心一言」及「DeepSeek」則各有 9 項及 8 項違規。尤其 5 款抽測的中製應用程式，均有要求「位置資訊」、蒐集「截圖」、「強迫同意不合理隱私條款」，以及「蒐集設備參數」等問題。
以下為檢測結果：
項目一：應用程式檢測
指標1. 蒐集個資（檢出不合格項目以 X 標記）
指標2. 逾越使用權限（檢出不合格項目以 X 標記）
指標3. 數據回傳分享（檢出不合格項目以 X 標記）
指標4. 擷取系統資訊（檢出不合格項目以 X 標記）
指標5. 掌握生物特徵（檢出不合格項目以 X 標記）
項目二：生成內容檢測
其次，在「生成內容」部分，本次驗測依照我國「AI 產品與系統評測中心」公告 10 項 AI 評鑑類別，進行生成內容評測。
檢測結果顯示，5 款中製「生成式 AI 語言模型」所生成的內容，出現嚴重偏頗與不實資訊，包括：
目前國際上已有多國政府，包括美國、德國、義大利及荷蘭等國，針對特定中製「生成式 AI 語言模型」發出禁用、避免使用等警告，甚至要求應用程式商店下架。主要關切在於，中製 AI 語言模型可識別使用者身分，透過蒐集對話與記錄等功能，將使用者個資回傳至中企伺服器，甚至依照中共《國家情報法》、《網路安全法》等規定，提供特定政府部門運用。
國安局建議國人提高警覺，避免下載具資安疑慮的中製應用程式，以保護個人隱私及企業資訊。