真正的 AI 對齊問題

迴紋針最大化(新視窗)是一個思想實驗，探討了這個概念：如果一個超級智慧 AI 被賦予製造迴紋針的單一目標，它可能會為了不惜一切代價達成目標而徵用世界的資源，將一切都變成迴紋針。最終它甚至可能意識到試圖阻止 AI 的人類是一種干擾並消滅我們：顯然是 AI 與人類利益之間的不一致。

雖然顯然很荒誕，但迴紋針問題已成為 AI 的流行文化接觸點。在現實生活中，限制和規則防止系統超出其預期目的。但許多大型科技公司的創始人和執行長利用這個假設情境為他們的大型語言模型 (LLM) 創造話題。聊天機器人真的有能力讓人類滅絕嗎？不。但這讓它們聽起來很厲害，更重要的是，它掩蓋了目前正在傷害我們的真正 AI 一致性問題：大型科技公司的 LLM 正在侵犯我們的隱私、竊取我們的資料，並貶低我們的資訊經濟。這既是一種銷售策略，也是一種誤導，旨在讓我們關注未來，而不是關注我們目前正在放棄的控制權。

我們是否正走向反烏托邦的未來？

我們是否正走向反烏托邦的未來？

媒體熱衷於推動聳人聽聞的故事，例如 AI 工具可能幫助使用者製造生物武器(新視窗)或對開發人員撒謊(新視窗)，彷彿生成式 AI 有自己的思想（它沒有）。關於極端或毫無根據觀點的標題很容易獲得點擊，但這些觀點並不能準確描繪當今存在的 AI 技術。

相反，LLM 只是單字預測機器。它們是消化大量文字、「學習」人類語言模式，然後根據使用者輸入建立機率回應的電腦程式。它們沒有自己的思想，甚至不理解語言。事實上，它們必須先將單字轉換為數字，才能處理資訊。LLM 的局限性已被 Gary Marcus(新視窗) 和許多其他研究人員詳細記錄。

監控資本主義的新工具

監控資本主義的新工具

LLM 不會導致世界末日，但它們非常擅長其他事情：收集關於您極其細微的資訊。這就是為什麼 LLM 對企業來說是資料金礦，對犯罪分子來說是誘人的目標。

全球數億人已經在與聊天機器人共享他們的問題、想法、思緒和最深層的秘密。營運這些機器人的公司鼓勵他們這麼做：Open AI 執行長 Sam Altman 最近指出(新視窗)，Z 世代「在沒有詢問 ChatGPT 該怎麼做之前，真的不會做出生活決定」。指出並鼓勵這種對以營利為目的且不可靠的聊天機器人的信任和依賴是非常不負責任的。大型科技公司希望我們透過他們的服務來調節我們的生活和思想，因為這樣他們就可以在我們如何花錢、做什麼和想什麼方面擁有發言權。

LLM 背後的企業也將其產品作為政府和企業的生產力解決方案進行銷售，承諾為使用者節省時間和精力，同時為您被監控引入新的機會。在英國，司法部的 AI 系統「預測」囚犯的再犯風險(新視窗)。警官正在使用聊天機器人(新視窗)撰寫犯罪報告。將國家權力與偏見演算法(新視窗)結合是危險的，並會強化現有的偏見。

利用您的資料進行訓練

為了訓練目的利用您的資料

例如，Meta AI 想要掃描(新視窗)您圖庫中甚至尚未上載到其平台的照片(新視窗)，以分析您的臉部資料。許多使用者對 Microsoft 的 Copilot AI(新視窗) 每隔幾分鐘就會對其裝置進行螢幕擷取畫面的公告感到不安。您的照片、給朋友和親人的訊息，以及您最私人的想法，都是這些公司想要的寶貴資料點。

查看 Open AI 的隱私權政策(新視窗)，我們看到 ChatGPT 將會尋找並儲存：

  • 識別碼，例如您的姓名、聯絡詳細資訊、IP 位址和其他裝置識別碼
  • 識別碼，例如您的姓名、聯絡詳細資訊、IP 位址和其他裝置識別碼
  • 商業資訊，例如您的交易記錄
  • 網路活動資訊，例如內容以及您如何與 ChatGPT 互動

這些資訊可能會向政府、供應商、關係企業、服務提供者和其他第三方揭露。

此資訊可能會披露給政府、供應商、關係企業、服務提供者和其他第三方。

只要想想近年來席捲社群媒體的趨勢：自訂吉卜力工作室風格動畫(新視窗)違背宮崎駿的意願模仿其獨特風格，以及受芭比娃娃等經典玩具啟發的自訂 AI 包裝娃娃(新視窗)創造了對人們個人品味的視覺洞察。這種社群媒體趨勢可能感覺像是無害的樂趣，但用於建立這些圖像的 AI 工具能夠收集人們的照片和資訊，其母公司可以將其用於廣告目的，並可能出售給第三方。這只是大型科技公司為了讓您參與短暫趨勢而悄悄攝取您個人資料的眾多例子中的兩個。

LLM 有更好的解決方案

在閱讀了所有這些風險之後，您可能會認為 LLM 本質上是危險的。但事實並非如此。大型科技公司故意將其 AI 系統建立為侵入性和資料飢渴的。建立預設保護人們隱私並保持資料安全的 AI 是可能的。我們知道這一點，因為我們用我們的隱私優先 AI 助理(新視窗) Lumo 做到了。

以下是 Lumo 如何解決真正的 AI 一致性問題：

  • Lumo 不會保留您的對話日誌。只要模型處理完您的查詢和回應，每個聊天都會立即從我們的伺服器中刪除。
  • Lumo 不會保留您對話的日誌。一旦模型處理完您的查詢和回應，每個聊天就會立即從我們的伺服器中刪除。
  • 聊天記錄使用零存取加密進行儲存。透過使用您的私鑰鎖定您的資料，Proton 永遠無法存取，因此永遠無法共享或意外外洩您的資料。
  • 我們不會用您的聊天來訓練模型。使用對話來訓練 AI 模型會使您的資料面臨在未來輸出中重新浮現的風險。與 Lumo 的對話僅屬於您自己。
  • Lumo 是開放原始碼的，僅使用開放原始碼模型。因為我們的代碼庫是公開的，任何人都可以驗證我們的應用程式是否完全按照我們的聲明執行。

在每個層面上，Lumo 旨在提供與其他 LLM 相同的效用，而沒有風險的外部性。大型科技公司也可以用同樣的方式建立他們的 AI。他們只是選擇不這樣做，因為您的資料就是他們的貨幣。

在各個層面上，Lumo 旨在提供與其他 LLM 相同的效用，而沒有風險的外部性。大型科技公司可以用同樣的方式建立他們的 AI。他們只是選擇不這樣做，因為您的資料就是他們的貨幣。

AI 對齊真的是威脅嗎？

真相只是比大型科技公司 CEO 希望我們相信的要沒那麼令人興奮。AI 讓人們能夠製造生物武器或消耗我們所有的全球資源來製造迴紋針的可能性，似乎低於它只是遵循大型科技公司已經遵循的指令的可能性：竊取和利用私有資料。