企業選 AI,資料能不能交出去,正在成為新的採購門檻
企業選 AI,資料能不能交出去,正在成為新的採購門檻
輝達、Palantir 與 Booz Allen 據報都因資料保留與智慧財產疑慮,限制 Anthropic 模型使用。這件事透露的變化很具體:企業版 AI 通過採購,不代表所有工作、所有資料,都能用同樣條件交給它。
輝達、Palantir 與 Booz Allen 據報都因資料保留與智慧財產疑慮,限制 Anthropic 模型使用。這件事透露的變化很具體:企業版 AI 通過採購,不代表所有工作、所有資料,都能用同樣條件交給它。
企業導入生成式 AI 時,常會先確認一件事:輸入的資料會不會被拿去訓練模型。
這當然重要。
但它只回答了資料用途的一部分。
資料會保存多久?存在哪裡?誰能存取?什麼情況可以例外保留?供應商日後能不能單方面修改政策?
當 AI 開始接觸原始程式碼、資安研究、客戶資料、未公開財務資訊與核心智慧財產,這些問題就會直接決定模型能不能進入核心工作。
The Information 報導、Reuters 轉述,輝達(NVIDIA)、Palantir 與 Booz Allen Hamilton 已因資料與智慧財產風險,以不同方式限制 Anthropic 模型。
Palantir 據報要求 Anthropic 提供不可撤銷的零資料保留承諾;輝達把 Anthropic 模型限制在敏感度較低的工作;Booz Allen 則禁止員工使用 Anthropic 商業 AI 處理專有的資安工作。
三家公司採取的方式不同,卻指向同一件事:
企業真正需要管理的,已經不只是「這個 AI 能不能用」,還包括「這項工作、這類資料,能不能在目前的資料條件下交給它」。
企業真正需要管理的,已經不只是「這個 AI 能不能用」,還包括「這項工作、這類資料,能不能在目前的資料條件下交給它」。
「不拿去訓練」還不夠
Anthropic 已公開說明,部分高能力模型需要保留 30 天資料,用來進行安全監控。
理由也不難理解。
複雜的攻擊與濫用行為可能跨越多次互動、不同帳號與較長時間。如果所有紀錄都在單次使用後立即刪除,供應商會更難發現這些模式。
但企業面對的是另一套安全邏輯。
如果輸入的是核心程式碼、資安漏洞、研發資料或其他高敏感資訊,企業反而會希望第三方盡可能不要保存。
所以這裡出現一個很現實的衝突:
供應商為了保護自己的系統,希望保留足夠紀錄;企業為了保護自己的資料,又希望紀錄盡可能不要留下。
供應商為了保護自己的系統,希望保留足夠紀錄;企業為了保護自己的資料,又希望紀錄盡可能不要留下。
兩邊談的都是安全,但對資料保存的要求可能完全相反。
這也是為什麼「企業資料不拿去訓練」已經不足以回答完整的採購問題。
不拿去訓練,不代表不保存。
不保存,也不代表企業已經掌握資料存放位置、人工存取權限與例外處理方式。
AI 採購正在細化到「工作」與「資料」
很多公司的 AI 政策現在仍以工具為單位:
哪些 AI 可以用?
哪些不能用?
但輝達、Palantir 與 Booz Allen 的案例顯示,接下來更實際的管理方式,可能會細化到工作層。
同一個模型,可以處理一般文件整理,卻不能接觸資安研究。
可以協助公開資料分析,卻不能讀取核心研發內容。
所以 CIO、CISO、採購與法務團隊真正需要判斷的,可能不再只是模型名稱,而是幾個條件放在一起:
這項工作需要哪些資料?
資料有多敏感?
模型會怎麼保存、使用與刪除?
資料存在哪裡、由誰控制?
這些條件只是供應商今天的政策,還是能寫進契約、不能被單方面降低的承諾?
最後一題尤其重要。
因為產品政策可以改。
對真正重要的資料來說,企業需要的可能不是「供應商目前這樣做」,而是:
供應商願不願意把這些資料條件變成穩定的承諾。
供應商願不願意把這些資料條件變成穩定的承諾。
資料保證不只是一條契約,也可能是一種部署架構
Anthropic 最近推出 Enterprise Frontier Safeguards,提供另一種處理方式:資料可以留在客戶控制的雲端環境中,同時保留進行安全監控所需的能力。
這透露出另一個值得追蹤的方向。
企業級 AI 的資料保證,未來可能不只靠服務條款或契約解決,也會進入系統架構。
也就是說,供應商之間的競爭除了模型能力、價格與功能,還可能增加一個新的比較條件:
誰能提供更符合企業資料控制要求的部署方式?
誰能提供更符合企業資料控制要求的部署方式?
現在還不能說這已經成為普遍的市場標準。
哪些公司真的需要零資料保留,也會受到資料敏感度、法規、產業、工作內容與安全監控需求影響。
但對高敏感工作而言,這已經是一個不能只靠「企業版方案」三個字帶過的問題。
模型夠強,只回答了「能不能做」
企業接下來評估 AI 供應商時,可以先把問題改得更具體:
對這項工作與這類資料,我們需要什麼程度的資料保證,才願意讓模型進入核心流程?
對這項工作與這類資料,我們需要什麼程度的資料保證,才願意讓模型進入核心流程?
如果答案只是「資料不拿去訓練」,可能還不夠。
還要繼續問:
留多久?
存在哪裡?
誰能看到?
什麼情況可以例外保存?
政策改變時,企業有沒有選擇權?
因為模型夠強,只回答了「能不能做」。
資料條件,才開始決定企業敢不敢讓它做。
資料條件,才開始決定企業敢不敢讓它做。
Decision Insight
企業版 AI 通過採購,不代表每一類資料、每一項工作都能用同樣條件交給它。對高敏感工作而言,資料保存、用途、控制位置與契約保證,正在成為新的部署門檻。
企業版 AI 通過採購,不代表每一類資料、每一項工作都能用同樣條件交給它。對高敏感工作而言,資料保存、用途、控制位置與契約保證,正在成為新的部署門檻。
作者=InfoAI 編輯部
你不需要讀完所有 AI 新聞。你需要掌握的是:哪些變化值得關注、哪些應用值得理解、哪些風險不能忽略,以及這些訊號可能如何影響企業決策。
訂閱 InfoAI 電子報,把全球 AI 訊號,轉化為更清楚的商業判斷。
InfoAI Line 群提供最新文章發佈通知,讓你不用每天上網查看,也能快速掌握新上線的 AI 產業解讀、應用案例與知識內容。
版權聲明與授權須知
本內容由 InfoAI 擁有著作權。如有引用、轉載或任何商業用途的需求,請來信聯絡: contentpower688@gmail.com。
AI 協作與人工編輯聲明
本文由 InfoAI 編輯部進行主題判斷、內容策劃、事實查核與文字編輯,並使用 AI 工具協助資料整理與內容製作。最終觀點、內容取捨與發佈版本均由人工編輯確認。
你不需要讀完所有 AI 新聞,你需要知道的是:
有哪些變化值得注意,可能會如何影響你的產業、工作與決策。


