С каждым запросом лаборатории ИИ ежедневно поглощают всё больше данных вашего бизнеса. Единственная защита? Расплывчатое обещание не обучаться на них.
В недавнем анализе Lawfare(новое окно) утверждается: передавая свои данные нескольким могущественным лабораториям ИИ, компании учат их тому, как сделать себя ненужными. Авторы называют это «заменой через приобретение знаний» (RKA).
Хотя узнать, что лаборатории ИИ делают с данными вашего бизнеса сегодня, невозможно, в игре три сходящиеся силы: почти бесконтрольная власть устанавливать условия, правовая система, которая всё ещё не разобралась, что вообще означает «обучение», а также способность и стимул конкурировать со своими же клиентами.
Возможно, ваш бизнес кормит зверя, который в итоге может поглотить его целиком.
Обучаются ли лаборатории ИИ на корпоративных данных?
Крупнейшие лаборатории ИИ дружно заверяют корпоративных пользователей, что их данные по умолчанию конфиденциальны:
- OpenAI утверждает, что не обучается на входных или выходных данных ChatGPT корпоративных пользователей.
- Anthropic утверждает, что деловые данные по умолчанию исключены из обучения модели Claude.
- Microsoft утверждает, что запросы, ответы и данные не используются для обучения Copilot.
- Google утверждает, что Gemini не обучает свою модель на деловых данных без предварительного разрешения или указания.
- X утверждает, что взаимодействия в бизнес-тарифах Grok не улучшают её модель, но, судя по всему, будет использовать данные собственных сотрудников SpaceX в целях обучения.
На практике их обещания защитить конфиденциальность пользователей намеренно расплывчаты и менее надёжны, чем кажутся:
- Ключевые термины определены расплывчато. Lawfare отмечает: корпоративное соглашение OpenAI определяет содержимое клиента как входные и выходные данные, а затем определяет их с помощью слов «входные данные» и «выходные данные». Условия Anthropic исключают обучение моделей на содержимом клиента, не объясняя, что означает обучение.
- Часть данных может остаться за рамками обещания. Закономерности, метаданные и сводки, которые ИИ создаёт, но никогда вам не показывает, могут вообще не считаться входными или выходными данными.
- «Обучение» — понятие более узкое, чем кажется. Использование ваших данных для создания тестовых эталонов, настройки системных запросов или обучения отдельных инструментов безопасности может не учитываться.
- Условия могут измениться. Поставщики обычно оставляют за собой право вносить в них изменения, и каждый выпуск новой модели — это шанс сбросить их.
- Вы не можете это проверить. Что попадает в обучение, знает только лаборатория. Заметить утечку вам будет практически невозможно. Основатель и генеральный директор Proton Энди Йен предупреждает: стоит поделиться информацией с ИИ — и вернуть её уже не получится. По его словам, скоро ИИ «сможет знать вас лучше, чем вы сами».(новое окно) Для бизнеса ставки выше.
Что может потерять ваш бизнес
То, что ИИ узнаёт о вашем бизнесе, и делает его конкурентоспособным. Крупные технологические компании это знают.
В рамках разбирательства, длившегося с 2019 по 2022 год, Европейская комиссия расследовала деятельность Amazon: компания использовала непубличные данные сторонних продавцов для развития собственного розничного бизнеса — фактически применяя данные продавцов против них самих. Amazon обязалась прекратить это, и позднее запрет был закреплён в Законе о цифровых рынках.
В некоторых отраслях на кону не только конкурентное преимущество. Под угрозой и соблюдение нормативных требований. Компании в медицине и финансах обязаны по закону защищать чувствительную информацию в соответствии с такими нормами, как HIPAA и GDPR. Эти нормы чётко определяют, как защищать персональные данные, но индустрия ИИ настолько молода, что серая зона растёт.
А поскольку ИИ теперь встроен в средства для конспектирования встреч, электронную почту и повседневные рабочие процессы, он затрагивает гораздо большую часть вашего бизнеса, чем когда жил в окне чата.
Что могут выиграть лаборатории ИИ
У лабораторий ИИ есть финансовый и конкурентный стимул поглощать как можно больше данных.
Рынок ИИ продолжит стремительно расти: по прогнозам Gartner, к 2030 году ИИ затронет всю работу в сфере ИТ. Компания также прогнозирует, что расходы на ИИ достигнут 2,5 трлн $ в 2026 году — на 44 % больше, чем годом ранее. Учитывая сложность дальнейшей разработки более интеллектуальных моделей ИИ без значительных объёмов обучающих материалов, компании всё чаще будут искать способы извлечь выгоду из своих корпоративных клиентов.
Стремительно растущий спрос заставляет лаборатории ИИ проявлять всё больше изобретательности в способах разработки своих моделей. И деловые данные явно представляют для них ценность: в августе Google выиграла тендер на 10 млн $ за покупку данных обанкротившейся авиакомпании Spirit Airlines. По данным Ассоциации бортпроводников, этот пакет данных включает конфиденциальные сведения о сотрудниках. Эти данные могут быть поглощены и использованы для обучения моделей ИИ Google без согласия этих сотрудников.
OpenAI утверждает, что не обучается на входных или выходных данных своих продуктов для корпоративных пользователей. Но, зная об огромной ценности этих данных для бизнеса, пора рассмотреть правовой статус индустрии ИИ в вопросах обработки данных.
Нельзя полагаться на правовые нормы, которых может и не быть
Могут ли правовые нормы защитить данные вашего бизнеса от крупнейших лабораторий ИИ? Чтобы это понять, нужно рассмотреть финансовые и политические реалии отрасли.
США доминируют в сфере ИИ. Согласно отчёту Artificial Index Report Стэнфордского университета, из США работают 59 значимых моделей — больше, чем в любой другой стране мира. Это доминирование важно отметить: в марте Белый дом опубликовал национальную стратегию регулирования ИИ. Она призывает заменить законы штатов федеральной политикой в области ИИ, чтобы «защитить американские права и инновации и предотвратить разрозненный набор нормативных актов штатов, который подорвал бы национальную конкурентоспособность [США]». В документе отмечается, что законы штатов, регулирующие ИИ, не должны «противоречить национальной стратегии Соединённых Штатов по достижению глобального доминирования в сфере ИИ».
Что вероятнее: правительство США поставит на первое место право отдельных компаний — возможно, находящихся за пределами США — на конфиденциальность данных? Или право на экспансию своей национальной ИИ-империи? Европейские компании просто не могут гарантировать, что американские инструменты ИИ будут ставить их цифровой суверенитет превыше всего. А поскольку крупнейшие лаборатории ИИ работают в США, на горизонте уже маячит переломный момент.
Лучший выбор для корпоративного ИИ
Вместо того чтобы надеяться на правовые нормы или пытаться уследить за изменениями политик конфиденциальности, у компаний есть более простой и эффективный вариант: выбрать инструмент ИИ, созданный для защиты конфиденциальности. Инновации возможны без эксплуатации. Выбранный инструмент ИИ должен оставаться именно инструментом — помощником, а не конкурентом, которого вы обучаете занять ваше место. Он должен стремиться выполнять свою функцию, развиваясь со временем, а не похищая коммерческие тайны.
Proton создала Lumo, чтобы удовлетворить эту потребность. Без стимула собирать или использовать данные пользователей ИИ может стать преобразующим инструментом для бизнеса. Lumo не ведёт журналы деловых чатов, защищая ваши данные от третьих лиц и государственного надзора. Благодаря бизнес-модели без рекламы и отсутствию финансирования от крупных технологических компаний или венчурного капитала единственный стимул Lumo — обеспечить максимально возможную поддержку бизнеса. Компанией Proton управляет Proton Foundation, а значит, мы действуем в интересах людей, а не промышленного господства.
Proton, базирующаяся в Швейцарии, также подчиняется строгим законам о защите данных и GDPR. Её код и модель имеют открытый исходный код, поэтому любая компания может проверить наши утверждения. Lumo создана, чтобы делать именно то, что должен делать ИИ: помогать, не эксплуатируя. Выбор европейской альтернативы инструментам ИИ крупных технологических компаний — лучший способ для бизнеса защититься от нерегулируемых и ненадёжных лабораторий ИИ.
