ИИ-детекторы ошибаются, но уже стоили людям дипломов и контрактов на миллионы

Алгоритм GPTZero обвинил студента Йеля в использовании ChatGPT на экзамене — тот получил незачёт и годовое отстранение. Издательство Minotaur разорвало контракт на 2 миллиона долларов с автором, которого заподозрили в написании книги нейросетью. Оба героя утверждают, что писали сами. Проблема в том, что доказать это почти невозможно — детекторы ИИ работают на догадках, а не на фактах.

Как антиплагиат превратился в охоту на нейросети

До ChatGPT преподаватели и редакторы годами пользовались системами вроде Turnitin, которые сверяют текст с базой данных — научными статьями, чужими работами, интернет-контентом. Логика простая: нашли совпадающие фразы — значит, кусок скопирован. У метода были свои проблемы с ложными срабатываниями, но хотя бы была понятная механика: текст либо совпадает с существующим, либо нет.

С распространением ChatGPT, Gemini и Copilot логика сломалась. Новый текст, сгенерированный нейросетью, не с чем сравнивать — его просто не существовало до этого момента. Поэтому индустрия перешла к другому подходу: детекторы вроде GPTZero, Pangram и того же Turnitin теперь используют собственные ИИ-модели, чтобы угадать, писал текст человек или машина.

По данным GPTZero, алгоритм анализирует ритм, структуру предложений, длину абзацев и паттерны, которые чаще встречаются в текстах, сгенерированных ИИ. Это уже не сверка фактов, а статистическое предположение — и оно куда более уязвимо для ошибок, чем прежний плагиат-чекер.

Цифры звучат убедительно, пока не коснутся тебя

Компании настаивают на точности своих продуктов. Turnitin заявляет, что ложно помечает как ИИ-текст менее 1% реально написанных людьми работ. Pangram говорит о показателе в одну ошибку на 10 000 случаев. У GPTZero цифры похожие. На бумаге это звучит как почти нулевой риск.

Но опрос Center for Democracy and Technology показал: в 2024–2025 годах 43% американских учителей 6–12 классов регулярно пользовались ИИ-детекторами. При таком масштабе применения даже доля процента ложных срабатываний превращается в тысячи реальных людей, которых обвинили несправедливо. А исследование Стэнфорда 2023 года выявило системную проблему: детекторы чаще ошибочно помечают как «сгенерированные ИИ» тексты людей, для которых английский — не родной язык. Их письмо часто проще по структуре и менее вариативно по стилю — ровно те признаки, которые алгоритмы связывают с машинным текстом.

Похожая уязвимость касается нейроотличных авторов, чей стиль письма может не вписываться в статистическую норму, на которой обучались модели-детекторы. Университет Калифорнии в Лос-Анджелесе уже указывал на этот риск как на форму скрытой дискриминации.

Когда алгоритм решает судьбу человека

Абстрактная статистика становится конкретной драмой, когда дело доходит до реальных кейсов. Тьерри Ринёль, студент из Франции, подал в суд на Йельский университет после того, как профессор с помощью GPTZero заподозрил его в использовании ИИ на итоговом экзамене. Итог — незачёт и отстранение на год. В иске прямо говорится: инструменты ИИ-слежки известны тем, что несправедливо targeting нецелевых носителей английского языка, и Ринёль — как раз такой случай.

В феврале студент Adelphi University выиграл суд против своего вуза после аналогичного обвинения от преподавателя. Университет работает с Turnitin по лицензионному соглашению, хотя конкретный инструмент, которым пользовался преподаватель, в иске не назван.

Ещё показательнее история за пределами академии. В июле издательство Minotaur разорвало контракт на 2 миллиона долларов с писателем Джерри Фаладе из-за подозрений, что часть книги написана ИИ. Фаладе категорически отрицает обвинения — но доказать обратное человеку, у которого нет доступа к «черному ящику» алгоритма, практически нереально.

Почему это касается не только студентов и писателей

Проблема шире академии и издательского дела. В соцсетях люди уже обвиняют друг друга в том, что их посты «звучат как ИИ» — просто потому что текст написан ровно, без опечаток или с определёнными оборотами речи. Ирония в том, что чем лучше человек владеет письменным языком, тем выше шанс попасть под подозрение: детекторы натренированы отличать «типично человеческий» текст от гладкого и структурированного — а хороший стиль как раз и стремится к ясности.

Guild авторов уже тестировала пять популярных детекторов и получила разброс результатов, который трудно назвать надёжным основанием для юридических или дисциплинарных решений. При этом школы, вузы и издательства продолжают опираться на эти инструменты как на источник истины — потому что альтернативы пока не предложили ничего лучше.

Что делать, если против тебя работает алгоритм

Пока нет закона, который бы регулировал использование ИИ-детекторов в образовании или издательском деле, а сами компании не раскрывают детали своих моделей — самое разумное, что может сделать человек, столкнувшийся с обвинением, это сохранять черновики, историю правок в Google Docs или Word, скриншоты процесса работы. Это не гарантия победы в споре, но хотя бы шанс на аргумент против «чёрного ящика».

Пока индустрия делает ставку на точность в 99%, реальные истории Ринёля, Фаладе и студента Adelphi показывают: даже маленькая погрешность на масштабе миллионов проверок означает разрушенные репутации, отменённые контракты и годы, потраченные на суды за право доказать, что ты написал текст сам.

Источники

• The Verge: AI detectors are creating a new era of distrust