您每送出一次提示，AI 實驗室每天就吸收更多您的企業資料。您唯一的保障是什麼？只是一句措辭鬆散的承諾，保證不會拿這些資料來訓練。
近期一篇 Lawfare 分析(新視窗)指出，當企業把資料交到少數幾家強大的 AI 實驗室手上，等於是在教這些實驗室如何讓自己變得可有可無。作者將這種現象稱為「透過知識獲取而被取代」(replacement through knowledge acquisition，RKA)。
雖然我們無從得知 AI 實驗室今天會如何處理您的企業資料，但有三股力量正同時發揮作用：幾乎不受約束的條款制定權、仍在苦苦釐清「訓練」究竟所指為何的法律體系，以及既有能力也有動機與自家客戶競爭。
您的企業可能正在餵養一頭最終會把自己整個吞噬的巨獸。
AI 實驗室會用企業資料進行訓練嗎？
規模最大的幾家 AI 實驗室都齊心協力向企業使用者保證，他們的資料預設即為私有：
- OpenAI 聲稱，不會使用企業使用者透過 ChatGPT 提供的輸入或輸出進行訓練。
- Anthropic 聲稱，企業資料預設會被排除在 Claude 模型的訓練之外。
- Microsoft 聲稱，提示、回覆和資料不會被用來訓練 Copilot。
- Google 聲稱，未經事先許可或指示，Gemini 不會使用企業資料訓練其模型。
- X 聲稱，在 Grok 企業方案上的互動不會改進其模型，但顯然會使用自家 SpaceX 員工的資料進行訓練。
實際上，他們保護使用者隱私的承諾刻意含糊不清，而且比表面上看起來還要薄弱：
- 關鍵術語定義鬆散。 Lawfare 指出，OpenAI 的企業協議將客戶內容定義為輸入和輸出，然後又用「輸入」和「輸出」這兩個詞來定義它們。Anthropic 的條款排除了使用客戶內容訓練模型的可能性，卻沒有定義訓練所指為何。
- 部分資料可能不在承諾範圍內。 AI 產生卻從未顯示給您看的模式、中繼資料和摘要，可能根本不算輸入或輸出。
- 「訓練」的範圍比聽起來更狹隘。 使用您的資料建立測試基準、調整系統提示或訓練獨立的安全工具，可能都不算在內。
- 條款可能變更。 供應商通常保留修改條款的權利，而每次推出新模型都是重設條款的機會。
- 您無法查核。 只有實驗室知道什麼被納入訓練。萬一發生資料外洩，您幾乎不可能察覺。Proton 創辦人暨執行長 Andy Yen 警告，一旦您將資訊分享給 AI，就真的收不回來了。他認為，不久之後，AI 「甚至可能比您自己更了解您。」(新視窗) 對企業而言，風險更高。
您的企業可能失去什麼
AI 對您企業的了解，正是讓它具備競爭力的關鍵。大型科技公司深知這一點。
在 2019 年至 2022 年的一起案件中，歐盟執委會調查 Amazon 使用第三方賣家的非公開資料來為自家零售業務提供參考，實際上等於利用賣家自己的資料與他們競爭。Amazon 承諾停止這種做法，這項禁令後來也被寫入 Digital Markets Act。
在某些產業，攸關的不只是競爭優勢，法規遵循也面臨風險。醫療和金融業的企業依 HIPAA 和 GDPR 等法規，有法律義務保護敏感資訊。這些法規對於保護個人資料的規定很明確，但 AI 產業實在太新，灰色地帶正不斷擴大。
如今 AI 已內建於會議記錄工具、電子郵件和日常工作中，它觸及企業的程度，遠超過它還只是個聊天視窗的時代。
AI 實驗室可能獲得什麼
AI 實驗室在財務和競爭上都有動機盡可能吸收越多資料越好。
AI 市場將持續大幅成長，Gartner 推測到了 2030 年，AI 將觸及所有 IT 工作。Gartner 也預測，2026 年 AI 支出將達到 2.5 兆美元，較前一年成長 44%。由於在缺乏大量訓練素材的情況下，要繼續開發更智慧的 AI 模型十分困難，AI 公司更可能開始設法從企業客戶身上獲取利益。
暴增的需求迫使 AI 實驗室在開發模型的方式上越來越有創意。而企業資料對這些實驗室而言顯然極具價值：Google 在 8 月以 1,000 萬美元得標，買下破產航空公司 Spirit Airlines 的資料。根據空服員協會 (Association of Flight Attendants) 的說法，這批資料包含員工的敏感資料。這些資料可能在未經員工同意的情況下被吸收，並用來訓練 Google 的 AI 模型。
OpenAI 聲稱，不會使用企業使用者透過其產品提供的輸入或輸出進行訓練。但既然我們知道這些資料對企業具有龐大價值，現在就必須審視 AI 產業在處理資料時的法律立場。
我們不能指望可能永遠不會到來的法規
法規能保護您的企業資料不受大型 AI 實驗室侵害嗎？要理解這一點，我們必須檢視這個產業的財務與政治現實。
美國在 AI 領域居於主導地位。根據史丹佛的《人工智慧指數報告》(Artificial Index Report)，有 59 個重要模型來自美國，數量為全球各國之冠。這項主導地位值得注意；今年 3 月，白宮發布了監管 AI 的全國政策架構。該架構呼籲以聯邦 AI 政策架構取代州級法律，以「保護美國人的權利與創新，並防止州法規各自為政、零散拼湊而阻礙美國的國家競爭力」。該架構也指出，不應允許監管 AI 的州級法律「違背美國追求全球 AI 主導地位的國家戰略」。
美國政府更可能優先保障個別企業（可能位於美國境外）的資料隱私權，還是其國家 AI 帝國的擴張權？歐洲企業根本無法保證美國的 AI 工具會將它們的資料主權放在第一位。在規模最大的 AI 實驗室都位於美國的情況下，一個轉折點已隱然浮現。
企業 AI 的更佳選擇
與其指望法規，或設法跟上隱私權政策的變化，企業有個更簡單也更有效的選擇：挑選一款為隱私而打造的 AI 工具。創新與剝削並非只能二選一。您選擇的 AI 工具就應該只是這樣：一款協助您的 AI 工具，而不是您正在訓練、準備取代自己的競爭對手。它應該致力於發揮自身功能，隨著時間成長，而不會竊取商業機密。
Proton 打造 Lumo 正是為了滿足這項需求。由於沒有蒐集或利用使用者資料的動機，AI 能成為企業的變革性工具。Lumo 不會保留企業對話的日誌，可保護您的資料不受第三方和政府監控侵害。Lumo 採用無廣告的商業模式，且不接受大型科技公司或創投資金，因此它唯一的動機就是提供最好的企業支援。Proton 這家企業由 Proton Foundation 治理，這意味著我們的行動以人們的利益為依歸，而非追求產業支配。
Proton 總部位於瑞士，同樣受嚴格的資料隱私法規和 GDPR 規範。其代碼和模型皆為開放原始碼，因此任何企業都能查證我們的說法。Lumo 的設計正是要做 AI 該做的事：提供協助而不剝削。選擇有別於大型科技公司 AI 工具的歐洲替代方案，是企業保護自身、遠離不受監管且不值得信賴的 AI 實驗室的最佳方式。
