Her istemde, yapay zeka laboratuvarları her gün kuruluş verilerinizden daha fazlasını içine alıyor. Tek korumanız mı? Üzerinde eğitim yapmayacaklarına dair muğlak bir vaat.
Yakın tarihli bir Lawfare analizi(yeni pencere), kuruluşların verilerini birkaç güçlü yapay zeka laboratuvarına teslim ettiğinde, bu laboratuvarlara kendilerini nasıl gereksiz hale getireceklerini öğrettiklerini savunuyor. Yazarlar buna bilgi edinimi yoluyla ikame (RKA) diyor.
Yapay zeka laboratuvarlarının bugün kuruluş verilerinizle ne yaptığını bilmenin bir yolu olmasa da, birbiriyle kesişen üç güç devrede: koşulları belirleme konusunda büyük ölçüde denetlenmeyen bir güç, “eğitim”in ne anlama geldiğini hâlâ çözmeye çalışan bir hukuk sistemi ve kendi müşterileriyle rekabet etme hem yeteneği hem de teşviki.
Kuruluşunuz, kendisini tamamen tüketebilecek canavarı besliyor olabilir.
Yapay zeka laboratuvarları kurumsal veriler üzerinde eğitim yapıyor mu?
En büyük yapay zeka laboratuvarları, kuruluş kullanıcılarına verilerinin varsayılan olarak güvenli olduğuna dair ortak bir çaba gösterdi:
- OpenAI, kuruluş kullanıcıları için ChatGPT’den gelen girdiler veya çıktılar üzerinde eğitim yapmadığını iddia ediyor.
- Anthropic, kuruluş verilerinin Claude’un modeli için varsayılan olarak eğitimden hariç tutulduğunu iddia ediyor.
- Microsoft, istemler, yanıtlar ve verilerin Copilot’u eğitmek için kullanılmadığını iddia ediyor.
- Google, Gemini’nin önceden izin veya talimat olmadan modelini kuruluş verileri üzerinde eğitmediğini iddia ediyor.
- X, Grok kuruluş tarifelerindeki etkileşimlerin modelini geliştirmediğini, ancak görünüşe göre eğitim amacıyla kendi SpaceX çalışan verilerini kullanacağını iddia ediyor.
Pratikte, kullanıcılarının gizliliğini koruma vaatleri kasıtlı olarak muğlak ve göründüğünden daha zayıf:
- Kilit terimler belirsiz bir şekilde tanımlanmış. Lawfare, OpenAI’nin kurumsal sözleşmesinin müşteri içeriğini girdi ve çıktı olarak tanımladığını, ardından bunları “girdi” ve “çıktı” kelimeleriyle tanımladığını belirtiyor. Anthropic’in şartları, eğitimin ne anlama geldiğini tanımlamadan müşteri içeriği üzerinde model eğitimini dışlıyor.
- Bazı veriler vaadin dışında kalabilir. Yapay zekanın oluşturduğu ancak size asla görüntülemediği desenler, üst veriler ve özetler, girdi veya çıktı olarak sayılmayabilir.
- “Eğitim” göründüğünden daha dar. Verilerinizi test kıyaslamaları oluşturmak, sistem istemlerini ayarlamak veya ayrı güvenlik araçlarını eğitmek için kullanmak sayılmayabilir.
- Şartlar değişebilir. Sağlayıcılar genellikle bunları değiştirme hakkını saklı tutar ve her yeni model sürümü, bunları sıfırlama fırsatıdır.
- Kontrol edemezsiniz. Eğitimine neyin girdiğini yalnızca laboratuvar bilir. Bir ele geçirilmeyi fark etmeniz neredeyse imkansız olur. Proton kurucusu ve CEO’su Andy Yen, bir yapay zeka ile bilgi paylaştığınızda onu geri almanın gerçekten mümkün olmadığı konusunda uyardı. Kısa süre sonra, diyor, yapay zeka “sizi kendinizden bile daha iyi tanıyabilir.”(yeni pencere) Bir kuruluş için riskler daha yüksektir.
Kuruluşunuzun kaybedecekleri
Bir yapay zekanın kuruluşunuz hakkında öğrendiği şey, onu rekabetçi yapan şeydir. Bunu büyük teknoloji şirketleri bilir.
2019’dan 2022’ye kadar süren bir davada Avrupa Komisyonu, Amazon’u üçüncü taraf satıcılardan aldığı kamuya açık olmayan verileri kendi perakende işini yönlendirmek için kullanmakla suçladı. Bu, satıcıların kendi verilerini onlara karşı rekabet etmek için kullanmak anlamına geliyordu. Amazon durmayı taahhüt etti ve yasak daha sonra Dijital Piyasalar Yasası’na yazıldı.
Bazı sektörlerde risk altında olan sadece rekabet avantajı değil. Uyumluluk da risk altında. Tıp ve finansta faaliyet gösteren kuruluşlar, HIPAA ve GDPR gibi kurallar uyarınca hassas bilgileri korumak için yasal bir yükümlülüğe sahiptir. Bu kurallar kişisel verilerin güvenliğini sağlama konusunda nettir, ancak yapay zeka sektörü o kadar yeni ki gri bir alan büyüyor.
Yapay zeka artık toplantı notu alıcılarına, e-postaya ve günlük iş akışlarına entegre edildiğinden, bir sohbet penceresinde yaşadığı zamana kıyasla kuruluşunuzun çok daha fazla alanına dokunuyor.
Yapay zeka laboratuvarlarının kazanacakları
Yapay zeka laboratuvarlarının mümkün olduğunca fazla veri toplamak için finansal ve rekabetçi bir teşviki var.
Yapay zeka pazarının çarpıcı biçimde büyümeye devam etmesi bekleniyor; Gartner, 2030 yılına kadar yapay zekanın tüm BT işlerine dokunacağını tahmin ediyor. Ayrıca 2026’da yapay zeka harcamalarının 2,5 trilyon dolara ulaşacağını ve bunun önceki yıla göre %44’lük bir artış olacağını öngördü. Önemli eğitim materyalleri olmadan daha akıllı yapay zeka modelleri geliştirmeye devam etme zorluğu göz önüne alındığında, yapay zeka şirketlerinin kurumsal müşterilerinden faydalanmanın yollarını bulmaya başlaması daha olası.
Hızla artan talep, yapay zeka laboratuvarlarını modellerini geliştirme yolları konusunda giderek daha yaratıcı olmaya zorluyor. Ve kuruluş verileri bu laboratuvarlar için açıkça değerli: Google, Ağustos ayında iflas eden havayolu Spirit Airlines’dan veri satın almak için 10 milyon dolarlık bir teklif kazandı. Uçuş Görevlileri Derneği’ne göre, bu veri paketi çalışanlara ait hassas veriler içeriyor. Bu veriler, söz konusu çalışanların rızası olmadan toplanabilir ve Google’ın yapay zeka modellerini eğitmek için kullanılabilir.
OpenAI, kuruluş kullanıcıları için ürünlerinden gelen girdiler veya çıktılar üzerinde eğitim yapmadığını iddia ediyor. Ancak bu verilerin kuruluşlar için muazzam değerini bildiğimizden, artık veri işleme söz konusu olduğunda yapay zeka sektörünün yasal statüsünü dikkate almamız gerekiyor.
Gelemeyebilecek bir düzenlemeye güvenemeyiz
Düzenlemeler, kuruluş verilerinizi en büyük yapay zeka laboratuvarlarından koruyabilir mi? Bunu anlamak için sektörün finansal ve politik gerçeklerini incelememiz gerekiyor.
ABD yapay zekaya hakim. Stanford’un Yapay Zeka Endeksi Raporu’na göre, ABD’de 59 kayda değer model faaliyet gösteriyor; bu, dünyadaki herhangi bir ülkeden en fazla sayı. Bu hakimiyeti belirtmek önemli. Mart ayında Beyaz Saray, yapay zekayı düzenlemek için ulusal bir ilke çerçevesi yayınladı. Çerçeve, eyalet düzeyindeki yasaların federal bir yapay zeka ilke çerçevesiyle değiştirilmesini ve “Amerikan haklarını, yeniliği korumayı ve [ABD] ulusal rekabet gücünü engelleyecek parçalı bir eyalet düzenlemeleri yamalı bohçasını önlemeyi” amaçlıyor. Çerçeve, yapay zekayı düzenleyen eyalet düzeyindeki yasaların “küresel yapay zeka hakimiyeti elde etmeye yönelik Amerika Birleşik Devletleri’nin ulusal stratejisine aykırı hareket etmesine” izin verilmemesi gerektiğini belirtiyor.
ABD hükümetinin, potansiyel olarak ABD dışında bulunan bireysel kuruluşların veri gizliliği haklarına mı yoksa ulusal yapay zeka imparatorluğunun genişleme haklarına mı öncelik vermesi daha olası? Avrupalı kuruluşlar, Amerikan yapay zeka araçlarının veri egemenliklerini ilk sıraya koyacağını garanti edemez. En büyük yapay zeka laboratuvarları ABD’de faaliyet gösterdiğinden, ufukta bir dönüm noktası var.
Kurumsal yapay zeka için daha iyi bir seçim
Düzenleme ummak veya gizlilik ilkelerine ayak uydurmaya çalışmak yerine, kuruluşların daha kolay ve daha etkili bir seçeneği var: gizlilik için tasarlanmış bir yapay zeka aracı seçmek. Sömürü olmadan yenilik için alan var. Seçtiğiniz yapay zeka aracı tam da bu olmalı: size yardımcı olacak bir yapay zeka aracı; yerinizi almak için eğittiğiniz bir rakip değil. Ticari sırları çalmadan, zaman içinde büyüyerek işlevini yerine getirmeye çalışmalı.
Proton, bu ihtiyacı karşılamak için Lumo’yu geliştirdi. Kullanıcı verilerini toplama veya sömürme teşviki olmadığından, yapay zeka kuruluşlar için dönüştürücü bir araç olabilir. Lumo, kuruluş sohbetlerinin günlüğünü tutmaz; verilerinizi üçüncü taraflardan ve hükümet gözetiminden korur. Reklamsız bir iş modeli ve Büyük Teknoloji veya risk sermayesinden fon almamasıyla Lumo’nun tek teşviki mümkün olan en iyi kuruluş desteğini sağlamaktır. Bir kuruluş olarak Proton, Proton Foundation tarafından yönetilir; bu da insanların çıkarına hareket ettiğimiz, endüstriyel tahakküm değil, anlamına gelir.
İsviçre merkezli Proton, aynı zamanda katı veri gizliliği yasaları ve GDPR tarafından düzenlenir. Kodu ve modeli açık kaynaklıdır, böylece her kuruluş iddialarımızı doğrulayabilir. Lumo, yapay zekanın tam olarak yapması gerekeni yapmak üzere tasarlanmıştır: sömürü olmadan yardım sağlamak. Büyük Teknoloji’nin yapay zeka araçlarına Avrupalı bir alternatif seçmek, bir kuruluşun kendisini düzenlenmemiş ve güvenilmez yapay zeka laboratuvarlarından korumasının en iyi yoludur.
