Meta, по сообщениям, готовится фиксировать действия своих сотрудников в США, включая движения мыши, клики, нажатия клавиш и снимки экрана, чтобы помочь своим системам ИИ научиться взаимодействовать с программным обеспечением так, как это делают люди.
Программа под названием Model Capability Initiative (MCI), по данным Reuters(новое окно), является частью более масштабной стратегии Meta по созданию ИИ-агентов, способных автономно выполнять компьютерные задачи — от навигации по выпадающим меню до использования сочетаний клавиш.
В Meta заявили, что будут защищать конфиденциальную информацию, но не уточнили, какие данные относятся к конфиденциальным материалам, как будет работать эта защита и распространится ли она на стороннюю информацию, с которой сотрудники могут работать при выполнении своих обязанностей.
Этот шаг происходит на фоне того, как Meta готовится сократить 10% своего персонала, начиная с 20 мая, при этом, по имеющимся данным, в конце этого года ожидаются новые увольнения.
Новая золотая лихорадка в сфере ИИ — это поведенческие данные
Компании, занимающиеся ИИ, уже переработали огромные объемы общедоступных интернет-данных, и инициатива MCI от Meta — это пример того, как компании копают еще глубже в поисках новых ресурсов для обучения нейросетей: поведенческих данных(новое окно).
Поведенческие данные — это цифровые следы, которые люди оставляют при взаимодействии с системами: клики, нажатия клавиш, паузы, исправления, сочетания клавиш и паттерны навигации, которые показывают, как на самом деле выполняется задача. Они ценны для компаний тем, что фиксируют не только результат работы, но и сам процесс — то, что современные системы ИИ пока с трудом могут обрабатывать и воспроизводить.
Microsoft Recall следует той же логике, делая снимки действий человека на его компьютере, при этом Microsoft преподносит это как разновидность программного обеспечения для отслеживания продуктивности, а не как конвейер обучения ИИ. Тем не менее это показывает, насколько комфортно представителям Big Tech стало превращать детализированные следы поведения в то, что системы могут записывать и на чем могут учиться. В рабочих условиях функции, позиционируемые как необязательные, могут стать обязательными, когда работодатели контролируют корпоративную политику и определяют динамику полномочий в вопросах согласия.
В случае с Meta MCI кажется еще одним элементом более широкой кампании по сбору более интимных и показательных форм персональных данных. Компания уже использует все взаимодействия с Meta AI в Facebook, Instagram, WhatsApp и остальной части своей экосистемы для улучшения продуктов, обучения ИИ и таргетированной рекламы в тех регионах, где нет надежной защиты конфиденциальности, таких как GDPR.
Отслеживание сотрудников может негативно сказаться на работе
Еще одна проблема с отслеживанием сотрудников Meta для обучения ИИ заключается в том, что это может ухудшить качество работы(новое окно). Подобно программному обеспечению для отслеживания кликов, такая система рассматривает нажатия клавиш и движения мыши как значимые сигналы. Но даже с использованием продвинутого ИИ эти показатели являются плохой заменой реальной производительности, особенно в интеллектуальной деятельности, где критическое мышление, планирование, объединение идей в разных функциях и решение проблем часто незаметны со стороны.
Как только работники узнают, что эти сигналы фиксируются — особенно если они подозревают, что однажды их могут заменить агенты ИИ, в совершенствовании которых они помогают, — это создает ложный стимул имитировать занятость или даже намеренно искажать свое поведение вместо выполнения значимой работы. Слежка и недоверие становятся нормой на рабочем месте.
Важность инфраструктуры, ориентированной на конфиденциальность
На платформах, построенных на извлечении выгоды, любое взаимодействие начинает выглядеть как данные, ожидающие монетизации, оптимизации или передачи в другую систему. Когда задействован ИИ, такая система может использоваться для изучения вас, имитации вашего поведения и, в конечном итоге, вытеснения вас.
Сервисы, ориентированные на конфиденциальность, важны, потому что чем меньше данных доступно компании, тем меньше у нее возможностей для нецелевого использования информации. Надежные средства защиты, такие как сквозное шифрование, помогают ограничить то, что платформа видит изначально, а открытый исходный код добавляет прозрачности, позволяя проводить независимый аудит работы этих систем. Вместе они помогают защитить доверие как сотрудников, так и клиентов.
