Bir istem girersiniz, bir yanıt alırsınız ve bir tane daha yazana kadar hiçbir şey olmaz. Çoğu yapay zekâ asistanı bu şekilde çalışıyordu, ancak proaktif yapay zekâ bunu değiştiriyor.

Proaktif yapay zeka, harekete geçmek için bir istem gerektirmez. Bir uçuş için sizin adınıza check-in yapabilir ya da sizin adınıza bir uygulama başvurusu gönderebilir. Bu kararları, zaman içinde biriktirdiği bağlama dayanarak verir. Meta’nın Muse’u ve Instinct gibi proaktif yapay zeka asistanları viral olduğundan beri, bilim kurgunun konusu birdenbire gerçeğe çok yakın görünüyor.

Ancak tıpkı her iyi bilim kurgu hikâyesi gibi, bu teknoloji de iki ucu keskin bir kılıçtır. Proaktif yapay zekânın nasıl çalıştığını ve sunduğu kolaylık karşılığında neyden vazgeçtiğinizi birlikte inceleyelim.

Neyin riske atıldığı hakkında daha fazla bilgi edinmek için Yapay zeka ve gizlilik konulu kapsamlı rehberimize göz atın, ya da ana yapay zeka sohbet botlarının yazışmalarınız aracılığıyla hakkınızda neler toplamış olabileceğini tam olarak görmek için Yapay zeka izleri aracımızı deneyin.

Bir yapay zekayı proaktif yapan nedir

Proaktif yapay zeka ajanları, alıştığımız yapay zeka sohbet botlarıyla aynı büyük dil modelleri üzerinde çalışır. Onları farklı kılan, birlikte çalışan şu üç unsurdur:

  1. Onlar her zaman izlemededir: Bir istem verilmesini beklemek yerine proaktif ajanlar bir dizi kaynağı izler ve değişiklikler gerçekleştiği anda bunları fark eder.
  2. Kalıcı belleğe sahiptirler: Proaktif ajanlar, zaman içinde alışkanlıklarınız ve ayarlarınız hakkında çalışan bir model oluşturur. Bu sayede yalnızca istediğiniz zaman bir bilgiyi hatırlamakla kalmaz, bir sonraki ihtiyacınızı da öngörebilirler.
  3. Ne yapacaklarına ve harekete geçip geçmeyeceklerine karar verirler: Proaktif ajanlar “akıl yürütebilir”. Bir durumu alışkanlıklarınızla tartar, buna harekete geçmenin değip değmediğini değerlendirir ve sizinle iletişime geçmeden önce ne kadar ileri gidebileceğine karar verirler.

Proaktif yapay zeka, otomasyonu muhakemeyle birleştirir. Basit bir otomasyon, bir koşul gerçekleştiği her seferinde tetiklenirken proaktif ajanlar ihtiyaçlarınızı öngörür ve harekete geçmeden önce bir eylemin yararlı olup olmadığını belirler.

Bu yararlı olabilir, ancak istenmeyen sonuçlara da yol açabilir. Örneğin Instinct, bir kullanıcı adına bir şey satın alıyordu, ancak bir oturum açma engeliyle karşılaşınca sormadan kullanıcının parolasını sıfırladı(yeni pencere). Bu tür bir inisiyatif, proaktif yapay zeka ajanlarını etkileyici ama aynı zamanda riskli kılıyor.

Proaktif yapay zeka ajanlarının kullanım alanları

Proaktif ajanlar, normalde ya unutup gideceğiniz ya da bir akşamınızı boşa harcayacağınız türden görevlerde yardımcı olabilir. Bunlardan bazıları şunlardır:

Seyahat planlarınızı yoluna koymak

Proaktif bir ajan, seyahat programınızdaki değişiklikleri izleyebilir. Bir uçuşun saati değiştirilir ve bağlantınızı riske atarsa, bunu fark eder ve size bildirir. Seyahat planlarınızın sorunsuz ilerlemesi için uçuşlarınız için yeniden rezervasyon yapabilir.

Aksi halde kaçıracağınız şeyi yakalamak

Aynı izle ve bekle yaklaşımı, az bulunan şeyler için de işe yarayabilir; örneğin boyutunuzda tükenmiş bir çift ayakkabı için. Ajan izlemeye devam eder ve stok yenilendiği anda sipariş verir.

Bir e-postayı takip etmek

Proaktif ajanlar, beklediğiniz e-postalar için gelen kutunuzu izleyebilir. Bir müşteri hizmetleri temsilcisine gönderdiğiniz e-postanın yanıtlanmadığı durumda, bir ajan bunu fark edebilir, bir hatırlatma yazabilir ve bunu gönderebilir ya da gönderilmeye hazır halde sizin için bırakabilir.

Abonelikleri azaltmak

Bugünlerde neredeyse her şey abonelik yoluyla ödendiğinden, proaktif bir ajan kullanımınızı denetleyebilir ve düzenli kullanmadığınız ama ücretini ödediğiniz hizmetlerin aboneliklerini iptal edebilir.

İş operasyonlarını izleme

İş dünyasında proaktif ajanlar, sorunların erken belirtilerini yakalamak ve işler ters gitmeden önce bir düzeltme tetiklemek için BT altyapısını izleyebilir. Ayrıca anlaşmaları izleyerek ekibiniz işlerin yoğunluğu içinde boğulmuşken potansiyel müşterilerle proaktif olarak ilgilenebilir ve bunların soğumasını engelleyebilir.

Proaktif yapay zeka ile reaktif yapay zeka arasındaki fark

ChatGPT gibi reaktif bir yapay zeka asistanı yalnızca siz söylediğinizde harekete geçer. Belleği olanlar bile istemler arasında boşta bekler ve siz başka bir şey sorana kadar size söylediklerinizi saklar. Proaktif yapay zeka bu beklemeyi ortadan kaldırır. Bir tetikleyici arar ve kendi başına harekete geçip geçmemeye karar verir.

Başka bir deyişle, reaktif yapay zekayı siz çalıştırırsınız. Proaktif yapay zeka sizin adınıza çalışır ve eyleme geçme yetkinizi devralır.

Proaktif ajanların kolaylığının bir bedeli var

Yaptığı işi yapabilmek için proaktif yapay zeka ajanlarının hesaplarınıza sürekli erişime ihtiyacı vardır. Bu, bir yapay zeka asistanı kullanmanın beraberinde getirdiği risklerden farklı bir türde risktir.

Tüm verilerinize tam erişimi tek bir şirkete veriyorsunuz

Google’ın topladığı verilerin miktarı konusunda endişeliyiz, ancak onların bile özel bilgilerinizin tamamına tam erişimi yok. Google, sizin konum verilerinize(yeni pencere) sahip olabilir; ancak sağlık verileriniz Apple Health’te depolanmış durumda. Yayın akışı izleme ayarlarınız Netflix’te saklı, finansal bilgileriniz ise bankacılık uygulamanızda.

Proaktif yapay zeka ajanlarını kullanmak, bütün bunları ve daha fazlasını tek bir şirkete teslim etmek anlamına gelir. Bu ajanlar tüm verilerinizi birbirine bağlamak üzere tasarlanmıştır; örüntüleri fark edip harekete geçebilmelerini sağlayan da budur. Ajanın türüne bağlı olarak bu, üçüncü taraf hesaplarınız için kullanıcı adları ve parolalar ile ödeme ayrıntılarınızı ve daha fazlasını da içerebilir.

Muse, veri açlığı çeken proaktif ajanların ne kadar ileri gidebileceğini gösteriyor. Bir WIRED(yeni pencere) incelemecisi, Muse’un görevleri tamamlamaktan çok veri toplamaya ilgi duyduğunu tespit etti; sürekli olarak ona daha fazla hizmet bağlamasını öneriyordu. Bu davranış, Meta’nın geçmiş sicili hakkında bildiklerimizle örtüşüyor.

Bu kolaylığın bedeli, hakkınızdaki her şeyin artık tek bir şirketin elinde olmasıdır. Bağımsız denetimlerden geçmedikçe, verilerinizin güvenli bir biçimde yönetilip yönetilmediğini bilmenin gerçek bir yolu yoktur. Hesabınız ihlal edilir ya da satılırsa, onayını hiç vermediğiniz üçüncü taraflar artık nerede bulunduğunuzu, kiminle konuştuğunuzu, ne satın aldığınızı ve özel olarak neler söylediğinizi tam olarak öğrenebilir. Bu, kimlik hırsızlığı ve hedefli dolandırıcılık gibi tehditlerin kurbanı olma kapısını aralar.

Bağlantıyı kesmek silmekle aynı şey değildir

TechCrunch(yeni pencere), Instinct’in şartlarının ekran görüntülerinde kullanıcı verileri üzerinde “süresiz ve geri alınamaz” bir lisans gösterildiğini bildirdi. Instinct bunu sonradan revize etti; güncel hizmet şartları ve gizlilik ilkesi bu ifadeyi içermiyor.

Yeni şartlar yine de önemli. Ancak Instinct’in mevcut (bu yazının yazıldığı tarihteki) şartları, bağlandığınız hizmetlerden veriye “erişme, kopyalama, toplama ve dizinleme(yeni pencere)” izni veriyor; hem şartlar hem de gizlilik ilkesi, bir hesabın bağlantısını kesmenin verilerinizi silmediğini(yeni pencere) siz talep etmedikçe söylüyor. Erken bir kullanıcı(yeni pencere), Instinct’in Google hesabına olan erişimini kestiğini ve yine de birkaç saat sonra en son e-postalarının bir özetini aldığını belirtti. Nedenini sorduğunda Instinct, sonraki aramalar için e-postalarını düz metin olarak depoladığını doğruladı. Hizmetlerinizin bağlantısını Instinct’ten keserseniz, verilerin silinmesini de talep ettiğinizden emin olun.

Instinct’te yapay zeka eğitimi dışında tutulmayı seçmenin de bir sınırı var: yalnızca “bundan sonrası için geçerli olur(yeni pencere).” Bu nedenle modelin sizin hakkınızda edindiği veriler, eğitiminin ve bilgisinin bir parçası olarak kalmaya devam eder. Muse ise farklı çalışıyor; yapay zeka eğitiminden çıkmak geçmiş etkileşimler için geriye dönük olarak geçerlidir(yeni pencere). Ancak Muse’ten veri silmek, verilerinizin kaldırıldığı anlamına gelmez. Meta, modelin silinen şeyleri yine de hatırlayabileceğini(yeni pencere) söylüyor; “unutma” özelliği ise en iyi çaba esasıyla(yeni pencere) çalışıyor.

Ajan hataları sadece yanlış değil, gerçektir

Gemini gibi bir sohbet botu yanlış bilgi ürettiğinde, bu bilgiye dayanarak harekete geçmediğiniz sürece gerçek bir zarara(yeni pencere) yol açmaz. Proaktif bir ajan hata yaptığında ise gerçek dünyadaki sonuçlarla karşılaşana kadar bunu bile fark etmeyebilirsiniz.

Bir proaktif ajanın seyahatiniz için sizi birinci sınıf koltuklara rezervasyon yapmaya karar verdiğini hayal edin. Artık onaylamadığınız bir faturanın ödemesinden siz sorumlusunuz. Örneğin Instinct’in şartlarını kabul ettiğinizde, sizin adınıza bağlayıcı anlaşmalar yapma(yeni pencere) yetkisini vermiş olursunuz; ödemenizi sizin onayınız olmadan taahhüt edebilir ve kontrolden çıktığını yasal olarak ileri süremezsiniz. Daha da kötüsü, şartlar onay güvenlik önlemlerinin(yeni pencere) istenmeyen eylemleri önlemesinin garanti edilmediğini söylüyor.

Bu yalnızca Instinct’e özgü değil. SpaceXAI’nin proaktif ajanı Grok Bot da benzer şartlara sahip. Eylem onayları “yalnızca yardımcı niteliktedir(yeni pencere)” ve istenmeyen eylemleri önlemeyebilir. Benzer şekilde, yapay zeka ajanının eylemlerinden doğan her türlü sorumluluk tamamen size ait(yeni pencere). Meta’nın Muse kullanımına ilişkin şartları ise ajanın yaptığı her şeyden yalnızca siz sorumlu(yeni pencere) tutuyor. Bu tablo oldukça net bir örüntü ortaya koyuyor: ajanların eylemleri sizin sorumluluğunuzdadır.

Size karşı çalışacak şekilde kandırılabilir

Proaktif ajanlar özerk biçimde karar verebilir; ancak talimatlarınızı başka birinin metnine yerleştirilmiş talimatlardan ayırt edemediklerinde ve bir eylemi sizinle onaylamadıklarında kolayca kandırılabilirler. Bir Instinct kullanıcısı(yeni pencere), proaktif ajanın bir istem enjeksiyonu saldırısına kandığını, kullanıcının kendisinin gönderdiği kötü amaçlı talimatları izlediğini tespit etti. Dolandırıcıların ajanı hacklemesine gerek yok; yazdıkları bir metni okutup buna dayanarak harekete geçirmeleri yeterli.

Aslında Instinct(yeni pencere), Meta(yeni pencere), SpaceXAI(yeni pencere) ve OpenClaw(yeni pencere), istem enjeksiyonunu bilinen bir tehdit olarak kabul ediyor. Hiçbiri bu saldırılara karşı şu anda tam koruma sunmuyor; en fazla, ajanın savunmalarının bu riski azaltmaya yönelik çalıştığını vaat ediyorlar.

Neleri devrettiğinizin farkında olun

Proaktif yapay zeka, ona verdiğiniz veri miktarıyla çalışır. Sizi ne kadar çok tanırsa sizin için o kadar çok şey yapabilir; ancak tek bir şirketin elinde duran yaşamınızın kaydı da o kadar büyür.

Sektörde bir örüntü ortaya çıktı. Bu asistanlar, devre dışı bırakmadığınız sürece en kişisel verilerinizle eğitim alabilir; bağlantılarını kesmek de topladıkları verileri güvenilir biçimde silmez. Bir ajan istemediğiniz bir şey yaptığında ise şartlar sonuçları şirkete değil size yükler. Onlara hakkını vermek gerekirse, şirketler bunların hepsini açıkça ortaya koyuyor. Ancak açık sözlü olmak, veri gizliliği hakkınızı ortadan kaldırmaz.

Bu tür bir kolaylığın gizliliğinize ve veri güvenliğinize değip değmeyeceğine karar vermek sonuçta size kalmış. Ama evet demeden önce, bir asistanın gerçekte neleri görebildiğini, sizin onayınız olmadan neleri yapmasına izin verildiğini ve verilerinizi bir kez içeri girdikten sonra gerçekten geri alıp alamayacağınızı bilin. Bunun gerçekten sizin verdiğiniz bir karar olduğundan emin olun; sırf çok konuşulduğu için vazgeçtiğiniz bir karar olmasın.

Bu takası hiç yapmak istemiyorsanız, bunun yerine yapay zeka asistanımız Lumo’ya yönelebilirsiniz. Lumo’yu tam tersi bir mantıkla geliştirdik: günlük tutmuyor, verileriniz üzerinde eğitim yapmıyor ve istediğinizden uzun süre hiçbir şeyi saklamıyoruz. Proaktif yapay zekanın büyüsünden biraz ödün vermiş olursunuz, ancak sizden vazgeçmenizi istediği şeyi, yani hayatınız üzerindeki kontrolü, siz korumuş olursunuz.