ИИ открывает перед бизнесом реальные возможности для повышения эффективности. Он также приносит новые вызовы, поэтому компании все чаще стремятся использовать особую форму ИИ против ИИ — детекторы ИИ.
Существуют веские причины для использования детекторов ИИ: защита индивидуального стиля бренда, обнаружение мошенничества, выявление плагиата, получение выгоды от работы с подрядчиками и многое другое.
Однако детекторы ИИ не безошибочны, и для большинства компаний риски их использования перевешивают преимущества. Вот что вам нужно знать, прежде чем начать использовать один из них.
Как работают детекторы ИИ?
Детекторы ИИ — это специализированное программное обеспечение, которое математически анализирует закономерности для оценки вероятности того, что текст был создан машиной. К числу популярных детекторов относятся GPTZero, Copyleaks, Originality.ai, Sapling, Turnitin и Grammarly AI Detector.
С технической точки зрения то, что ищут детекторы ИИ, сводится к двум метрикам:
- Perplexity оценивает, насколько предсказуема последовательность слов. Более низкая предсказуемость означает меньшую вероятность участия ИИ, поскольку модели ИИ обучены угадывать и использовать наиболее статистически вероятные слова. Люди выбирают более разнообразные и неординарные слова.
- Burstiness оценивает разнообразие длины и сложности предложений. Письмо человека отличается динамичностью благодаря сочетанию предложений разного типа, в то время как стремящийся к статистической вероятности ИИ, как правило, пишет ровно, плавно, почти математически. Текст с низким показателем burstiness является для детектора сильным признаком участия ИИ.
Некоторые детекторы ИИ также используют стилометрический анализ, оценивая выбор лексики и грамматику в поисках подозрительно жестких и формальных структур.
Некоторые модели ИИ начинают использовать водяные знаки, что предполагает встраивание невидимых, но обнаруживаемых шаблонов в создаваемый ИИ текст в момент его генерации. Но поскольку большинство моделей в настоящее время не оставляют таких следов, вы пока не можете полагаться на это решение.
Надежны ли детекторы ИИ?
Детекторы ИИ никогда не бывают надежными на 100%, и зачастую их надежность значительно ниже этой отметки.
Точность существенно различается в зависимости от инструментов, типа контента и (что критически важно) от того, как именно ИИ использовался для создания анализируемого материала, если он вообще использовался.
Когда детекторы работают
Вставьте неизмененный (или «сырой») результат генерации ИИ в любой детекторы ИИ, и он его обнаружит. Необработанный результат легко распознать, поскольку статистически вероятная закономерность, которую ищет детекторы, не была нарушена.
Например, мы вставили текст, сгенерированный непосредственно в Claude Sonnet 4.6, в Sapling. Sapling с уверенностью в 99,5% определил, что этот текст создан ИИ.
Originality (еще один ведущий детектор ИИ) отметил тот же абзац как созданный ИИ с еще большей уверенностью: 100%.
Детекторы также могут распознавать тексты, написанные ИИ частично, даже если отправленный текст сгенерирован ИИ не на 100%, хотя и со значительно меньшей надежностью, особенно если текст короткий (менее 300 слов) и закономерности, которые ищут детекторы, просто не успевают проявиться.
Когда детекторы ошибаются
Хорошо задокументировано, что детекторы ИИ выдают ложные срабатывания: признаки использования ИИ в текстах, полностью написанных людьми. Одно из недавних рецензируемых исследований академических текстов(новое окно) оценило общую точность Originality и Turnitin при идентификации созданных ИИ научных текстов всего в 69% и 61% соответственно.
Одна из проблем заключается в том, что люди часто пишут так же, как ИИ, особенно если для них английский язык не является родным и они (как и LLM) используют простые, грамматически выверенные фразы. В рамках исследования Стэнфордского университета(новое окно) семь популярных детекторов ИИ проанализировали эссе для экзамена TOEFL, написанные китайскими студентами. Средний показатель ложных срабатываний составил 61,22%.
Детекторам также трудно обнаружить случаи, когда люди намеренно нарушают статистические закономерности, которые они ищут. Авторам, использующим ИИ, не нужно делать многого, чтобы нарушить эти шаблоны: переписать несколько предложений, изменить структуру предложений, использовать менее предсказуемые слова.
Если это кажется слишком сложным, они могут воспользоваться одним из многочисленных инструментов-«гуманизаторов», которые неизбежно появились, чтобы обходить детекторы.
Они также могут просто придерживаться выбранной LLM и использовать более продуманные промты. Исследование 12 детекторов ИИ, проведенное в 2025 году(новое окно) показало, что «минимальная доработка с помощью GPT-4o может привести к показателям обнаружения в диапазоне от 10% до 75% в зависимости от детектора».
Мы попросили Claude Sonnet 4.6 написать эссе объемом 300 слов о точности детекторов ИИ и писать как человек — с разной длиной предложений, прямым выражением мнения и неожиданным выбором слов. Sapling оценил вероятность того, что этот текст создан ИИ, всего в 12%.
Originality проанализировал тот же текст и заявил, что на 100% уверен в том, что текст сгенерирован ИИ.
Судя по этому тесту, Originality кажется более эффективным инструментом, однако важно понимать, что оба инструмента были одинаково уверены в своем анализе. Если вы сами написали анализируемый текст, вы будете знать, какой детектор прав. Если нет, вы никогда не сможете быть уверены.
Как детекторы ИИ угрожают вашим данным
Более серьезная проблема с детекторами ИИ заключается в том, что многие компании полностью упускают из виду риски, которые они представляют для конфиденциальности и безопасности ваших данных. Эти риски аналогичны тем, которые несет в себе ИИ в целом:
- Риски, связанные с соблюдением нормативных требований: модели обнаружения наследуют предвзятость из обучающих данных, что создает потенциал для дискриминационных результатов и нарушения законов о равных возможностях. Многие детекторы представляют собой «черные ящики», а такие стандарты, как Закон ЕС об ИИ(новое окно) и система управления рисками ИИ NIST(новое окно), требуют, чтобы организации предоставляли понятную логику работы выходных данных ИИ.
- Риски для IP и обучающих данных: условия использования (ToS) многих детекторов ИИ дают провайдеру право хранить, анализировать и использовать отправленные данные для обучения будущих моделей. Это может означать, что ваш провайдер имеет законное право использовать любые отправленные вами дорожные карты продуктов, финансовые прогнозы и собственные исследования без обязательств гарантировать их конфиденциальность или предотвращать их появление в результатах работы конкурентов.
- Data security risks: детекторы ИИ уязвимы для кибератак, а отправка контента на сторонний детектор расширяет вашу поверхность атаки, включая в нее ресурсы вашего провайдера. Если у вашего провайдера произойдет утечка, ваши данные также пострадают. Бесплатные, непроверенные инструменты — именно те, которыми часто соблазняются сотрудники, — не позволят вам заранее провести аудит мер безопасности провайдера.
- Риски для суверенитета данных: отправка документа в детектор может означать передачу текста на зарубежные серверы, что потенциально лишает его местной защиты и подвергает экстерриториальному государственному надзору в соответствии с законом CLOUD Act(новое окно).
Для большинства компаний вопрос заключается не в том, работают ли детекторы ИИ, а в том, стоит ли идти на риски, связанные с их использованием. Если вы работаете с какими-либо конфиденциальными, оригинальными или секретными данными, ответ отрицательный.
Часто задаваемые вопросы о детекторах ИИ
Как работают детекторы ИИ?
Детекторы ИИ сканируют текст в поисках закономерностей, которые они научились ассоциировать с текстом, созданным искусственным интеллектом. Эти закономерности возникают из-за того, что ИИ генерирует текст путем алгоритмического предсказания и использования наиболее вероятного следующего слова.
Что ищут детекторы ИИ?
Основными индикаторами текста, созданного ИИ, которые ищут детекторы, являются низкий уровень «perplexity» (непредсказуемости выбора слов) и «burstiness» (разнообразия длины и структуры предложений).
Некоторые модели ИИ начинают экспериментировать с водяными знаками, что означает встраивание невидимых (но обнаруживаемых) шаблонов в текст непосредственно при генерации. Однако, поскольку лишь немногие модели начали использовать эту технологию, водяные знаки пока не гарантируют точного распознавания текста, созданного ИИ.
Работают ли детекторы ИИ?
Точность зависит от используемого детектора, типа анализируемого текста и того, как именно (и использовался ли вообще) ИИ для генерации текста. Детекторы отлично справляются с необработанным, не измененным контентом от ИИ. В более сложных случаях — при изменении контента, анализе текстов, написанных носителями других языков, или слегка перефразированного текста ИИ — точность значительно снижается.
Если оставить в стороне точность, более серьезной проблемой детекторов ИИ является угроза безопасности ваших данных при их использовании. Отправка контента на сторонний детектор означает его передачу на внешние серверы, что потенциально подвергает его риску кибератак, сбора данных, экстерриториального наблюдения, а также предоставляет провайдеру законные права на отправленные вами материалы.
Для большинства компаний, особенно работающих с какими-либо конфиденциальными, оригинальными или секретными материалами, связанные со сторонними детекторами ИИ риски для данных перевешивают потенциальную выгоду.
