Meta‘nın, yapay zeka sistemlerinin yazılımlarda tıpkı insanlar gibi gezinmesine yardımcı olmak için fare hareketleri, tıklamalar, tuş vuruşları ve ekran görüntüleri dahil olmak üzere ABD merkezli çalışan davranışlarını kaydetmeye hazırlandığı bildiriliyor.

Reuters(yeni pencere)‘a göre Model Yetenek Girişimi (MCI) olarak adlandırılan program, Meta’nın açılır menülerde gezinmekten klavye kısayollarını kullanmaya kadar bilgisayar tabanlı görevleri otonom olarak yerine getirebilen yapay zeka aracıları oluşturmaya yönelik daha geniş kapsamlı hamlesinin bir parçası.

Meta, hassas bilgileri koruyacağını belirtti ancak hangi verilerin hassas materyal kapsamına girdiğini, bu korumanın nasıl çalışacağını veya çalışanların iş başında işleyebileceği üçüncü taraf bilgilerini kapsayıp kapsamayacağını açıklamadı.

Bu hamle, Meta’nın 20 Mayıs’tan itibaren iş gücünün yüzde 10’unu çıkarmaya hazırlandığı ve bu yılın ilerleyen dönemlerinde daha fazla işten çıkarma beklendiği bir dönemde geldi.

Yapay zekanın yeni altına hücum dönemi: davranışsal veriler

Yapay zeka şirketleri halihazırda devasa miktarda halka açık internet verisini tüketti ve Meta’nın MCI programı, bu şirketlerin en son yapay zeka eğitim kaynağı olan davranışsal verilerin(yeni pencere) peşinde ne kadar ileri gittiklerinin bir örneğidir.

Davranışsal veriler, insanların sistemlerde hareket ederken geride bıraktıkları dijital izleri ifade eder: tıklamalar, tuş vuruşları, duraklatmalar, düzeltmeler, kısayollar ve bir görevin gerçekte nasıl yapıldığını gösteren gezinme kalıpları. Bu veriler şirketler için değerlidir; çünkü sadece işin sonucunu değil, arkasındaki süreci de yakalar; bu, yapay zeka sistemlerinin şu anda işlemek ve taklit etmekte zorlandığı bir şeydir.

Microsoft Recall, Microsoft’un bir yapay zeka eğitim hattı değil de bir verimlilik izleme yazılımı olarak sunduğu, bir kişinin bilgisayarında yaptıklarının anlık görüntülerini alma mantığını izlemektedir. Ancak bu durum yine de Büyük Teknoloji şirketlerinin, son derece ayrıntılı davranışsal izleri sistemlerin kaydedebileceği ve bunlardan öğrenebileceği bir şeye dönüştürme konusunda ne kadar rahat hale geldiğini gösteriyor. İş yeri ortamlarında, isteğe bağlı olarak sunulan özelliklerin, işverenlerin şirket ilkesini kontrol etmesi ve rıza etrafındaki güç dinamiklerini şekillendirmesi nedeniyle reddedilmesi zorlaşabilir.

Meta söz konusu olduğunda, MCI, daha samimi ve açıklayıcı kişisel veri biçimlerini ele geçirmeye yönelik daha geniş bir çabanın başka bir yapı taşı gibi görünüyor. Şirket; GDPR gibi güçlü gizlilik korumalarının bulunmadığı yerlerde, ürün geliştirme, yapay zeka eğitimi ve hedeflenmiş reklamlar için Facebook, Instagram, WhatsApp ve ekosisteminin geri kalanındaki tüm Meta yapay zeka etkileşimlerini halihazırda kullanmaktadır.

Çalışanları takip etmek işi daha kötü hale getirebilir

Meta’nın yapay zeka eğitimi için çalışanları takip etmesiyle ilgili bir başka sorun da işin daha kötü hale gelmesine(yeni pencere) neden olabilmesidir. Tıklama izleme yazılımı gibi, tuş vuruşlarını ve fare hareketlerini anlamlı sinyaller olarak kabul eder. Ancak üzerine daha gelişmiş yapay zeka katmanları eklenmiş olsa bile bunlar, özellikle eleştirel düşünme, planlama, işlevler arası fikirler arasında bağlantı kurma ve sorun çözmenin dışarıdan genellikle görünmez olduğu bilgi işlerinde, gerçek performans için hala yetersiz göstergelerdir.

Çalışanlar bu sinyallerin kaydedildiğini bildiklerinde (özellikle de bir gün geliştirilmesine yardımcı oldukları yapay zeka aracıları tarafından yerlerinin doldurulabileceğinden şüpheleniyorlarsa), anlamlı bir iş yapmak yerine meşgul görünmek için çabalamak ve hatta davranışlarını kasten çarpıtmak için sinsi bir teşvik oluşur. Gözetim ve güvensizlik, iş yerinin normu haline gelir.

Önce gizlilik diyen bir altyapı önemlidir

Veri çekme üzerine kurulu platformlar, her etkileşimin paraya dönüştürülmeyi, optimize edilmeyi veya başka bir sisteme geri beslenmeyi bekleyen veriler gibi görünmesine neden olur. İşin içine yapay zeka girdiğinde, bu sistem sizi incelemek, taklit etmek ve sonunda yerinizi almak için kullanılabilir.

Önce gizlilik diyen servisler önemlidir; çünkü bir şirket ne kadar az veriye erişebilirse, bu tür bir görev sapması için o kadar az alana sahip olur. Uçtan uca şifreleme gibi güçlü korumalar, bir platformun en başta neler görebileceğini sınırlamaya yardımcı olurken; açık kaynaklı kod, bu sistemlerin gerçekte nasıl çalıştığının bağımsız olarak incelenmesine olanak tanıyarak şeffaflık sağlar. Bunlar birlikte, hem çalışanların hem de müşterilerin güvenini korumaya yardımcı olur.