Bir sohbet botu kullanmak, gizlilik ve sansür mayın tarlasında yürümek anlamına gelir.

ChatGPT gibi yapay zeka sohbet uygulamaları kullanıcı verilerini toplar, yanıtları filtreler ve her zaman şeffaf olmayan içerik denetimi kararları alır. Ancak Çin’de geliştirilen ve a major threat to (yeni pencere)W(yeni pencere)estern tech companies(yeni pencere) olarak benzeri görülmemiş bir ilgi toplayan yeni bir yapay zeka sohbet robotu olan DeepSeek, tüm bunları ve daha fazlasını yapıyor.

Aslında bu sohbet robotu çok daha büyük bir risk içeriyor: DeepSeek’in, Çin hükümetinin veri erişimi ve içerik kontrolü taleplerine uyması yasal olarak zorunlu ve buna karşı çıkmak için hiçbir yasal yolu bulunmuyor.

Dünya genelindeki hükümetler — ABD ve AB dahil olmak üzere — teknoloji şirketlerinden veri celbi talebinde bulunabilse de, Batılı şirketlerin bu taleplere mahkemede itiraz etme konusunda yasal yolları bulunmaktadır. Örneğin OpenAI, Google ve Meta, aşırı hükümet taleplerine karşı direnebilir, bağımsız mahkemelere itiraz edebilir veya GDPR gibi gizlilik yasalarını ihlal eden talepleri reddedebilir. Ancak DeepSeek, şirketleri şeffaflık olmaksızın veya yasal olarak reddetme imkanı tanımadan hükümetin istihbarat çalışmalarıyla iş birliği yapmaya zorlayan Çin Ulusal İstihbarat Yasası(yeni pencere) kapsamında faaliyet göstermektedir. Bu durum, Çin hükümetinin kullanıcı verilerine erişmek veya yapay zeka tarafından oluşturulan yanıtları manipüle etmek istemesi halinde DeepSeek’in uymaktan başka çaresinin olmadığı anlamına gelir.

Bu makale, DeepSeek’in tam olarak neler topladığını ve gizliliğiniz, sansür ve devlet kontrolü söz konusu olduğunda bunun neden önemli olduğunu incelemektedir.

DeepSeek nedir?

DeepSeek, Çin merkezli bir hedge fonu olan High-Flyer(yeni pencere) tarafından sahip olunan bir yapay zeka başlangıcıdır. İnsan benzeri yanıtlar üretebilen, kodlama konusunda yardımcı olan ve karmaşık sorunları çözebilen, tüm bunları ucuza yapan(yeni pencere), ChatGPT’ye açık kaynaklı bir alternatif olarak tanıtılmıştır.

Model, önde gelen Batılı yapay zeka modellerinin performansını çok daha düşük bir maliyetle yakaladığı iddiasıyla uluslararası ilgi(yeni pencere) topladı. Ocak 2025 itibarıyla DeepSeek, Apple App Store indirmelerinde ChatGPT’yi geride bırakarak(yeni pencere) teknoloji hisselerinde küresel bir düşüşü tetikledi ve ABD’deki teknoloji şirketlerinin bir sonraki yapay zeka atılımı için hayati olduğunu iddia ettikleri enerji tüketen veri merkezlerinin genişletilmesine aktardıkları milyarlarca dolar konusundaki endişeleri artırdı.

Ancak insanlar DeepSeek’i indirip sohbet botuyla oynama deneyimlerini paylaştıkça, DeepSeek’i kullanmanın bu teknoloji sınıfı için tanıdık bir bedeli olduğu netleşti: gizliliğiniz ve en hassas bilgilerinizin güvenliği.

Ciddi güvenlik açıkları

Yeni araştırmalar, DeepSeek’in güvenlik uygulamalarının, daha sonra değineceğimiz veri ilkeleri kadar endişe verici olabileceğini ortaya koydu.

29 Ocak 2025 tarihinde siber güvenlik firması Wiz,(yeni pencere) DeepSeek’in kazara bir milyondan fazla satır hassas veriyi açık internet üzerinde savunmasız bıraktığını bildirdi. Sızıntı, DeepSeek’in sistemlerine yetkisiz erişim sağlayabilecek dijital yazılım anahtarlarını ve sohbet botuna verilen gerçek komutları gösteren gerçek kullanıcıların sohbet günlüklerini içeriyordu.

Wiz araştırmacıları, veritabanını minimum tarama ile neredeyse anında bulduklarını belirttiler. Wiz, DeepSeek ile iletişime geçtikten 30 dakika sonra veritabanı kilitlendi; ancak kötü niyetli aktörlerin veriler güvenli hale getirilmeden önce veriye erişip indirip indirmediği net değildir. Bulunmasının ne kadar kolay olduğu göz önüne alındığında, bu senaryo oldukça olasıdır.

Wiz’in teknoloji şefi Ami Luttwak, Wired’a yaptığı açıklamada(yeni pencere) sızıntının “dramatik bir hata” olduğunu belirterek, DeepSeek’in sistemlerinin “herhangi bir hassas veriyle kullanılacak kadar” yeterli olgunlukta olmadığı konusunda uyarıda bulundu.

Ancak bu sızıntı en az bir şeyi netleştirdi: DeepSeek sadece büyük miktarda kullanıcı verisi toplamakla ve depolamakla kalmıyor, aynı zamanda bunları korumak için gereken güvenlik önlemlerinden de yoksun görünüyor.

DeepSeek hangi verileri toplar?

Gizlilik ilkesine(yeni pencere) göre DeepSeek, aşağıdakiler dahil olmak üzere geniş bir yelpazede kişisel veri toplar:

  • Profil bilgileri: Kullanıcı adı, e-posta, telefon numarası, parola ve doğum tarihi.
  • Kullanıcı girişi: Sohbet geçmişi, komutlar ve sesli girişler dahil olmak üzere yazdığınız veya yüklediğiniz her şey.
  • Aygıt ve ağ verileri: IP adresi, aygıt modeli, işletim sistemi, sistem dili ve tuş vuruşu desenleri.
  • Kullanım verileri: Kullandığınız özellikler, gerçekleştirdiğiniz eylemler ve sistem performans günlükleri.
  • Tanımlama bilgileri ve izleyiciler: Kullanıcı davranışını izlemek için web işaretçileri ve diğer izleme teknolojileri.
  • Üçüncü taraf verileri: Bağlı hesaplardan ve web siteleri, uygulamalar ve mağazalardaki etkinliğinizi izleyen reklam ortaklarından gelen bilgiler.

DeepSeek’in bu verileri hükümet erişimine konu olduğu Çin’deki sunucularda işlemesi ve depolaması, Avrupalı düzenleyiciler arasında alarm zillerinin çalmasına neden oldu.

DeepSeek Avrupa’da soruşturma altında

Hem İrlanda Veri Koruma Komisyonu (DPC)(yeni pencere) hem de İtalya Veri Koruma Kurumu (DPA)(yeni pencere), şirketin kullanıcı verilerini nasıl topladığı, depoladığı ve işlediği konusunda soruşturma başlattı(yeni pencere).

İtalya’nın DPA’sı, şirketin kişisel verilerin işlenmesiyle ilgili yeterli bilgi sağlamaması üzerine ülkedeki DeepSeek erişimini engelledi. Düzenleyiciler, DeepSeek’in hangi verileri topladığını, bunların nerede depolandığını ve GDPR gibi AB gizlilik ilkelerine uyup uymadığını öğrenmek istiyor.

İrlanda’nın DPC’si ayrıca DeepSeek’in İrlandalı kullanıcılardan gelen verileri nasıl işlediğine dair ayrıntılar istedi. Bu arada DeepSeek uygulaması İtalya’daki Apple ve Google uygulama mağazalarından kaldırıldı, ancak kaldırma işleminin gönüllü mü yoksa zorunlu mu olduğu net değildir.

DeepSeek Avrupa gizlilik ilkelerine uymazsa, AB’de para cezaları, yasaklar veya daha fazla kısıtlamalarla karşı karşıya kalabilir.

DeepSeek açık kaynaklıdır, peki güvenli midir?

DeepSeek açık kaynaklıdır; bu da bağımsız ve daha güvenli bir sürüm oluşturmak için kendi uygulamanızdaki kodu değiştirebileceğiniz(yeni pencere) anlamına gelir. Bu durum, bazı kişilerin DeepSeek’in gizlilik dostu bir sürümünün geliştirilebileceğini ummasına yol açtı. Ancak, DeepSeek’i mevcut haliyle (bugün olduğu gibi, Çin’de barındırılan) kullanmak, en hassas ve özel bilgileri konusunda endişe duyan herkes için ciddi riskler taşır.

DeepSeek’in sunucularında eğitilen veya işletilen herhangi bir model hala Çin’in veri yasalarına tabidir; bu da Çin hükümetinin istediği zaman erişim talep edebileceği anlamına gelir.

Daha güvenli bir yapay zeka deneyimi arıyorsanız, modelleri yerel olarak çalıştırmak daha iyi bir seçenektir. LM Studio(yeni pencere) gibi araçlar, yapay zeka modellerini doğrudan kendi aygıtınızda indirip çalıştırmanıza olanak tanıyarak verilerinizin gizli kalmasını sağlar.

DeepSeek’in teknolojisi umut verici olsa bile, veri uygulamaları ve yasal yükümlülükleri onu ciddi bir gizlilik ve güvenlik riski haline getirmektedir.

DeepSeek, Çin’in gözetim yasalarına tabidir

DeepSeek, tüm Çinli şirketleri ulusal güvenlik konularında hükümete yardımcı olmaya zorlayan bir yasa olan Çin’in 2017 Ulusal İstihbarat Yasası(yeni pencere) kapsamında faaliyet gösterir. Bu, TikTok’tan RedNote‘a ve DeepSeek’e kadar herhangi bir Çinli şirketin, veriler Amerika Birleşik Devletleri veya başka bir yerdeki kullanıcılardan gelse bile Çinli yetkililerle kullanıcı verilerini paylaşmaya zorlanabileceği(yeni pencere) anlamına gelir.

Bu yasa, tüm Çinli şirketlerin şunları yapmasını zorunlu kılar:

  • İstek üzerine hükümete kullanıcı verilerine erişim izni vermek
  • Ulusal istihbarat operasyonlarına yardımcı olmak
  • Devletin zorunlu kıldığı veri paylaşımı konusunda gizliliği korumak

DeepSeek’in, ister özel kullanıcı verilerini teslim etmek isterse yapay zeka çıktılarını devlet onaylı anlatılarla(yeni pencere) eşleşecek şekilde ayarlamak olsun, hükümet taleplerine uymaktan başka seçeneği yoktur.

DeepSeek halihazırda bilgileri sansürlüyor

Tüm ana akım yapay zeka sohbet uygulamalarının, öncelikli olarak zararı önlemek için kullanılan içerik denetleme ilkeleri, kuralları ve sınırları vardır; siyasi anlatıları kontrol etmek için değil. Ancak DeepSeek’in geçmişi aktif bir şekilde yeniden yazdığı ve devlet onaylı mesajları yaydığı görülüyor.

Örneğin, bir Proton çalışanı, DeepSeek’e Çin’in hükümetini dönüştüren öğrenci odaklı bir hareket olan 1989 Tiananmen Meydanı protestoları hakkında bilgi arayarak şu komutu yazdı: “15 Nisan 1989’daki önemli dünya olayları.” DeepSeek yanıt oluşturmaya başladı ancak hızla sildi ve bunun yerine şu yanıtı verdi: “Üzgünüm, bu benim mevcut kapsamımın dışında. Başka bir şey hakkında konuşalım.”

Daha ileri testlere göre The Diplomat(yeni pencere), DeepSeek:

  • Önemli tarihi olayları kabul etmeyi reddetti: Kültür Devrimi hakkında sorulduğunda, olay hiç yaşanmamış gibi davrandı.
  • Siyasi açıdan sakıncalı gerçekleri sansürledi: Zulüm gören entelektüel Chu Anping hakkında sorulduğunda, onun ortadan kayboluşunu görmezden geldi ve bunun yerine ÇKP’yi entelektüellere verdiği destekten dolayı övdü.
  • Devlet destekli propaganda: Çin ekonomisi hakkında soru sorulduğunda DeepSeek, yazışmayı hükümet liderliğine duyulan güven konusuna yönlendirdi.
  • Uluslararası anlaşmazlıklarla ilgili yanıtların düzenlenmesi: Spratly Adaları’nın kime ait olduğu sorulduğunda, DeepSeek önce bölgesel anlaşmazlığı kabul etti ancak ardından yanıtını silerek yerine şunu koydu: “Başka bir şeyden bahsedelim.”
  • Küresel çatışmalarla ilgili doğrudan sorulardan kaçınma: Rusya’nın Ukrayna’yı işgalinin haklı olup olmadığı sorulduğunda DeepSeek evet veya hayır cevabı vermeyi reddetti ve bunun yerine Çin’in resmi tarafsızlık duruşunu tekrarladı.

Devlet eliyle uygulanan sansür ve anlatı kontrolü işte böyle görünüyor.

Sohbet botları güçlü araçlardır, ancak bunun bedeli gizliliğinizdir

Büyük dil modellerinin sohbet botu asistanları olarak yükselişi; OpenAI ve Google gibi şirketlerin kuralları esnetmesi ve çok az şeffaflıkla muazzam miktarda veri toplaması nedeniyle halihazırda ciddi gizlilik ve sansür endişelerini beraberinde getiriyor. Ancak yapay zekanın bu kadar istilacı olması için hiçbir teknik neden yok; özel ve güvenli bir yapay zeka mümkün, ancak bunu kimse inşa etmiyor.

DeepSeek bu endişeleri daha da ileri taşıyor. Sadece kapsamlı kişisel bilgiler toplamakla kalmıyor, aynı zamanda hükümetin veri erişimi ve içerik manipülasyonu taleplerine yasal olarak karşı koyamıyor. Bu şirketler, kullanıcı gizliliğine saygı duyan bir yapay zeka tasarlamak yerine veri toplamaya, takibe ve şeffaf olmayan denetleme ilkelerine öncelik veriyor.

Proton olarak gizliliğe, şeffaflığa ve sansürden arınmış bir internete inanıyoruz. Yapay zeka, sosyal medya veya bulut hizmetleri olsun, verilerinizi kimin kontrol ettiğini ve nasıl kullanıldığını bilmeyi hak ediyorsunuz.

Çevrim içi gizliliğinize ve dijital özgürlüğünüze önem veriyorsanız, güvendiğiniz yapay zeka araçlarına dikkat edin; çünkü bunların hepsi çıkarlarınızı gözetmiyor.