ИИ-детекторы ошибочно помечают человеческие тексты как созданные нейросетями
Эксперимент показал: разные ИИ-детекторы дали противоположные заключения об одном и том же тексте, написанном человеком, а статью 2014 года и вовсе признали машинной. Это подрывает доверие к таким инструментам.
- Один и тот же человеческий текст разные ИИ-детекторы оценили противоположно.
- Статья, написанная в 2014 году, была ошибочно помечена как созданная ИИ.
- Автор предупреждает о росте «страха письма» из-за ложных обвинений.
Как сообщает Search Engine Journal, автор эксперимента проверил один и тот же текст, написанный человеком, через несколько популярных ИИ-детекторов. Результаты оказались противоречивыми: одни сервисы уверенно признали текст машинным, другие — полностью человеческим. Более того, статья, созданная ещё в 2014 году, то есть задолго до появления современных генеративных моделей, также получила метку «создано ИИ».
Автор материала, Энди Беттс, отмечает, что полагаться на такие детекторы — ложная экономия. Вместо реальной защиты от контента, сгенерированного нейросетями, они создают «страх письма» (FOW — Fear of Writing). Люди, чьи тексты ошибочно помечаются как ИИ-генерация, вынуждены оправдываться, тратить время на доказательства своей авторской состоятельности, а иногда и вовсе отказываться от публикаций.
Почему детекторы ошибаются
Современные детекторы ИИ анализируют статистические паттерны текста: предсказуемость, повторяемость, отсутствие «человеческой» непоследовательности. Но эти же признаки встречаются в хорошо структурированных, отредактированных текстах, написанных людьми, особенно в технических или официальных жанрах. В результате страдают в первую очередь те, кто пишет грамотно и по шаблонам — например, копирайтеры, журналисты, студенты.
Эксперимент показал: даже для короткого текста (около 100 слов) разные сервисы вынесли диаметрально противоположные вердикты. Это значит, что у детекторов нет единого стандарта, а их результаты нельзя использовать ни для обвинений, ни для автоматических блокировок.
Владельцам сайтов и редакторам не стоит использовать ИИ-детекторы как единственный инструмент контроля качества. Ошибочная пометка «создано ИИ» может привести к несправедливому отклонению статей, потере авторов и судебным рискам, если вы публично обвините человека в обмане.
Практический вывод: если вы проверяете тексты на предмет ИИ-генерации, делайте это вручную, оценивая содержательность, фактологию и стиль, а не только статистические метрики. Для авторов — сохраняйте черновики и историю версий, чтобы при необходимости доказать своё авторство.
Оригинал публикации: www.searchenginejournal.com. Разбор и выводы — редакции «SEO-зоны».