Meta se údajně chystá zaznamenávat chování zaměstnanců v USA – včetně pohybů myši, kliknutí, úhozů do kláves a snímků obrazovky – aby pomohla trénovat své systémy AI k ovládání softwaru stejným způsobem jako lidé.

Podle agentury Reuters(nové okno) je tento program, nazvaný Model Capability Initiative (MCI), součástí širší snahy společnosti Meta budovat agenty AI, kteří dokáží autonomně provádět úkoly na počítači, od navigace v rozbalovacích nabídkách až po používání klávesových zkratek.

Společnost Meta uvedla, že bude chránit citlivé informace, ale neupřesnila, které údaje se považují za citlivý materiál, jak bude tato ochrana fungovat nebo zda se bude vztahovat na informace třetích stran, se kterými mohou zaměstnanci při práci nakládat.

Tento krok přichází v době, kdy se Meta chystá od 20. května propustit 10 % svých zaměstnanců, přičemž další propouštění se údajně očekává později v tomto roce.

Novou zlatou horečkou v oblasti AI jsou údaje o chování

Společnosti zabývající se umělou inteligencí již vyčerpaly obrovské množství dat z veřejného internetu a projekt MCI společnosti Meta je příkladem toho, jak tyto společnosti jdou hlouběji ve snaze získat nejnovější podklady pro trénování AI: údaje o chování(nové okno).

Údaje o chování představují digitální stopy, které lidé zanechávají při pohybu v systémech: kliknutí, úhozy na klávesnici, pauzy, opravy, klávesové zkratky a vzorce navigace, které ukazují, jak se úkol skutečně provádí. Pro společnosti jsou cenné, protože zachycují nejen výsledek práce, ale i proces, který za ním stojí – tedy něco, co systémy AI v současné době zpracovávají a napodobují jen stěží.

Microsoft Recall se řídí stejnou logikou, kdy pořizuje snímky toho, co člověk dělá na svém počítači, přičemž Microsoft jej prezentuje jako formu softwaru pro sledování produktivity, nikoli jako kanál pro trénování AI. Stále to však ukazuje, jak snadno si velké technologické firmy zvykly na přeměnu vysoce detailních stop chování v něco, co mohou systémy zaznamenávat a z čeho se mohou učit. V pracovním prostředí se funkce prezentované jako volitelné mohou stát obtížně odmítnutelnými, pokud zaměstnavatelé určují firemní zásady a utvářejí dynamiku moci v otázce souhlasu.

V případě společnosti Meta se MCI jeví jako další stavební kámen v širší snaze o zachycení intimnějších a odhalujících forem osobních údajů. Společnost již využívá všechny interakce s Meta AI napříč platformami Facebook, Instagram, WhatsApp a zbytkem svého ekosystému pro zlepšování produktů, trénování AI a cílené reklamy v místech, která nemají silnou ochranu soukromí, jako je GDPR.

Sledování zaměstnanců může zhoršit kvalitu práce

Dalším problémem spojeným se sledováním zaměstnanců společností Meta za účelem trénování AI je, že to může zhoršit kvalitu práce(nové okno). Stejně jako software pro sledování kliknutí považuje údery do kláves a pohyby myši za významné signály. Avšak i s pokročilejšími vrstvami AI jsou to stále jen chabé náhražky skutečného výkonu, zejména u duševní práce, kde kritické myšlení, plánování, propojování nápadů napříč funkcemi a řešení problémů vypadají zvenčí často neviditelně.

Jakmile pracovníci vědí, že jsou tyto signály zaznamenávány – zejména pokud mají podezření, že by je jednoho dne mohli nahradit agenti AI, které pomáhají zdokonalovat – vytváří to zvrácenou motivaci k optimalizaci pro to, aby vypadali zaneprázdněně, nebo dokonce k úmyslnému zkreslování svého chování namísto vykonávání smysluplné práce. Sledování a nedůvěra se stávají normou na pracovišti.

Infrastruktura s důrazem na soukromí je důležitá

Platformy postavené na vytěžování dat způsobují, že každá interakce začíná vypadat jako data čekající na zpeněžení, optimalizaci nebo zpětné vložení do jiného systému. Pokud je do toho zapojena AI, může být tento systém použit k vašemu studiu, napodobování a případnému nahrazení.

Služby s důrazem na soukromí jsou důležité, protože čím méně dat může společnost přistupovat, tím méně prostoru má pro tento druh plíživého rozšiřování účelu. Silná ochrana, jako je koncové šifrování, pomáhá omezit to, co může platforma vůbec vidět, zatímco open-source kód zvyšuje transparentnost tím, že umožňuje nezávislou kontrolu toho, jak tyto systémy skutečně fungují. Společně pomáhají chránit důvěru zaměstnanců i zákazníků.