人工智慧 (AI) > 大型語言模型安全嗎？
大型語言模型安全嗎？ 解析人工智慧安全風險
人工智慧助理已成為工作、研究和溝通的日常工具。 但正是這些使它們實用的系統，也讓它們成為安全隱患。 以下是您應該了解的關於大型語言模型與人工智慧的安全風險。
什麼是大型語言模型？它與人工智慧和安全有何關係？
人工智慧涵蓋了數十種機器學習軟體，從臉部辨識、銀行欺詐檢測到棋盤遊戲。 大型語言模型 (LLM) 是一種特定類型的人工智慧：它們是您聽過的所有主要 人工智慧助理 背後的引擎，包括 ChatGPT、Microsoft Copilot、Google Gemini 以及 Proton 自己的 Lumo。
大型語言模型透過處理海量資訊（書籍、文章、說明文件、程式碼和學術論文）並尋找語言運作的規律來進行學習。 隨著時間的推移，它能更準確地預測任何文章接下來應該出現的內容，從而使其能夠進行完整的對話、摘要文件或撰寫讀起來像真人創作的電子郵件草稿。
由於大型語言模型處理如此多的資訊，且人們越來越多地與它們共享敏感的個人與專業詳細資料，因此大型語言模型的安全對於確保機密資料不被竊取或外洩顯得尤為重要。
代理型人工智慧（Agentic AI）在其中扮演什麼角色？
在過去，大型語言模型僅限於做出回應：您提問，人工智慧回答。 代理型人工智慧則更進一步。 人工智慧代理（AI Agent）雖然仍使用大型語言模型進行推理和溝通，但它還可以採取行動：瀏覽網頁、編寫與執行程式碼、傳送訊息、連線至外部應用程式以及管理您的檔案。 它不需要僅僅回答單一問題，而是可以在幾乎沒有人類監督的情況下，逐步完成包含多個步驟的任務。
這種額外的能力也帶來了更高的風險。 當人工智慧能夠獨立採取行動時，它被矇騙或出錯所造成的後果會嚴重得多。 代理型人工智慧安全正是該領域中關注度增長最快的課題之一，因為這些系統正越來越多地被整合到職場工具中，且往往擁有超出其真正需要的存取權限。
大型語言模型安全與人工智慧的潛在危險
人工智慧和大型語言模型的安全風險之所以如此令人擔憂，是因為它們與這些工具的基礎設計架構和部署方式緊密相連。 當您向人工智慧助理詢問個人健康問題、共享商業策略或討論法律狀況時，這些資訊通常會傳送到您無法控制的伺服器上，並可能受到您甚至未曾察覺的法律或行為準則所約束。 大型語言模型安全並非只有 IT 團隊需要考慮；對於任何使用人工智慧的人來說，無論是用於個人私有還是專業用途，這都是一個切實存在的問題。
最大的大型語言模型與人工智慧安全風險
大型語言模型每天都被整合到更多工具中，但它們仍然伴隨著一些並非顯而易見的安全風險。
預設情況下，大多數人工智慧平台會保留您的提示字、回應和互動資料。 這些資訊可以被公司員工閱讀、用於未來模型的訓練、出售給第三方，甚至移交給執法機關。 一旦您的對話進入他人的伺服器，您就幾乎無法控制這些資料如何被儲存、使用或共享。
大多數人工智慧產品都包含由不同組織和公司建構的組件，包括基礎模型、外掛程式、應用程式介面 (API) 和資料管道。 如果該供應鏈中的某個環節遭到入侵，該產品的每位使用者都會受到影響，且通常不會有任何明顯的異常跡象。
大型語言模型可能會顯示它們絕不應該共享的資料。 這可能是從訓練資料、其他使用者的工作階段，或是您自己先前進行且人工智慧仍有權存取的對話中獲取的資訊。 在商業環境中，當多個人共享相同的人工智慧工具且敏感資料在同一個系統中流動時，這些外洩可能會造成嚴重的損害。
由於人工智慧代理具備傳送電子郵件、執行程式碼或存取您檔案的能力，它們被操縱的代價會大幅增加。 擁有過多權限的人工智慧代理可以跨多個相連系統採取行動，通常在有人察覺異常之前就已發生。 您越是讓人工智慧代表您採取行動，嚴格控制其存取權限就越顯得重要。
提示字注入是分布最廣的人工智慧安全風險之一。 它的運作原理是在提供給人工智慧的內容（例如 PDF 或網頁）中隱藏惡意指令，以此操縱能自主行動的人工智慧代理。 這些指令會暗中推翻人工智慧代理的行為，可能導致其外洩機密資料、做出違背您利益的事，或產生具欺騙性的輸出，而表面上一切看起來卻很正常。
Lumo 如何以不同的方式處理人工智慧安全
大多數人工智慧助理的設計，旨在讓平台能夠最大程度地洞察您如何使用它們。 Lumo 的設計則恰好相反，可讓您對於自己資料的處理方式，擁有更大的控制權並感到安心。
絕不保留日誌
Lumo 的大型語言模型伺服器會處理您的訊息，並在產生回覆的瞬間將其捨棄。 不會記錄您問了什麼、回覆了什麼，或是在何時進行的日誌。 伺服器上不會保留任何純文字對話，這意味著沒有任何內容會遭到資料外洩、被法庭傳喚或濫用。
您的訊息在離開裝置前就已加密
Lumo 使用雙向非對稱加密（稱為使用者對 Lumo (U2L) 加密）來保護傳輸中的訊息。 您的實際訊息僅能由大型語言模型伺服器本身讀取，且僅限於產生回覆所需的極短時間內。
對話歷史記錄已透過零存取加密鎖定
產生回覆後，您的對話會使用零存取加密技術進行儲存，並由只有您持有的密鑰保護。 Proton 永遠無法存取它。 即使 Proton 的伺服器完全被入侵，您的對話歷史記錄依然無法被讀取。
開源模型與程式碼讓專家能夠驗證 Lumo 的安全性
與 ChatGPT、Copilot 和 Gemini 等閉源人工智慧工具不同，Lumo 運行於開源模型和程式碼上，因此任何人都可以檢查我們的架構是否存在漏洞，並驗證其功能是否與我們宣稱的完全一致。
無廣告或資料共享
大多數人工智慧助理的商業模式都建立在收集並保留您的資料上。 Lumo 與眾不同。 Proton 的收入來自訂閱，而非將資料貨幣化，因此我們沒有動機去記錄您的對話、將其與第三方共享，或是利用它們來向您投遞廣告。
主機託管於歐洲，不受美國監視法管轄
美國公司開發的人工智慧工具可能會依據《雲端法案》(CLOUD Act) 等法律被強制揭露您的資料。 Lumo 運行於歐洲由 Proton 控制的伺服器上，受全球最嚴格的隱私保護法規保護。 外國政府的存取請求將無法取得您的對話內容。
全球超過 1 億個人使用者與企業信賴 Proton
GILAI，瑞士
管理 1000 多名員工的 IT
「我們需要一個對終端使用者來說易於使用，對管理員來說易於管理的密碼管理程式。 我不需要做任何特定的文件或示範，除了帳號的佈建，因為它真的、真的非常使用者友善。」
Morning
350 名員工
「我希望 UX 能夠美觀。 我認為重要的是，當您遷移 300 或 400 位使用者時，您應該選擇一個不會太難使用或外觀不令人討厭的解決方案。 我認為對於商業團隊來說，擁有人性化的工具非常重要。 Proton Pass 正是如此。」
切換至真正安全的人工智慧助理
由最大科技平台打造的人工智慧工具旨在提供便利，但往往是以犧牲您的安全與隱私為代價。 Lumo 為您提供功能強大、已加密的大型語言模型和人工智慧助理，且無需在安全性上做任何妥協。
關於大型語言模型與人工智慧安全的常見問答
- 對於一般使用者而言，最大的人工智慧安全風險是什麼？
- Lumo 對於機密或敏感工作安全嗎？
- 人工智慧對企業的主要危險是什麼？
- Lumo 支援哪些語言？
