Сотни подрядчиков OpenAI читают реальные переписки пользователей с ChatGPT и выставляют ответам оценки от одного до семи баллов. Об этом со ссылкой на утечку внутренних документов сообщило издание 404 Media — проект внутри компании называется Project Lily. Если вы обсуждали с ChatGPT что-то личное и рассчитывали, что это останется между вами и моделью, есть смысл проверить настройки прямо сейчас.
Что за Project Lily и кто на самом деле читает переписку
Ревьюеров нанимают через сервис Crossing Hurdles и платят им через компанию Mercor, которая специализируется на найме людей для разметки данных под задачи ИИ-лабораторий. По данным 404 Media, один из ревьюеров из Северной Америки зарабатывает больше $50 в час.
Задача этих людей — не просто читать чаты ради интереса. Они оценивают ответы ChatGPT по шкале от 1 до 7 и отдельно отмечают случаи чрезмерной лести (когда модель слишком подлаживается под пользователя) и излишне «человечного» поведения, которое OpenAI хочет сгладить.
Ревьюеры не видят имена пользователей, но, как отмечают источники, им доступна сводка «памяти» аккаунта — она может показывать, для чего человек обычно использует ChatGPT и примерно где он живёт. Разговоры анонимизируются, но полностью убрать личные данные система не гарантирует.
Почему это стало проблемой именно сейчас
404 Media нашли в утечке разговоры, где пользователи прямо просили ChatGPT не разглашать содержание беседы — явно не подозревая, что переписку в принципе может прочитать живой человек. Один из ревьюеров сказал журналистам, что, по его мнению, пользователи не знают о существовании такой практики.
Формально OpenAI предупреждает об этом — но в самом неприметном месте: в разделе FAQ, где говорится, что «авторизованный персонал и поставщики услуг» могут просматривать данные пользователей для улучшения модели. Эта формулировка висит на сайте с 2023 года и почти не менялась.
Основной переключатель называется «Improve the model for everyone» (Улучшать модель для всех), он включён по умолчанию для всех новых пользователей. 404 Media справедливо замечает: формулировка звучит как дружелюбное «внести вклад в комьюнити», а не как согласие на то, что ваши личные сообщения прочитает конкретный человек за зарплату.
Как отключить передачу ваших чатов ревьюерам
Сделать это можно за пару минут в настройках аккаунта ChatGPT.
- Откройте ChatGPT в браузере или приложении и зайдите в Settings → Data Controls.
- Найдите пункт Improve the model for everyone и переключите его в положение «выключено».
- Учтите: настройка применяется только к новым разговорам — уже отправленные сообщения из истории обратно не отозвать.
- Для разовых чувствительных запросов используйте режим временного чата (Temporary Chat) — по заявлению OpenAI, данные из него не используются для обучения модели и не должны попадать к ревьюерам.
Что делают конкуренты: Anthropic и Google не исключение
Практика ревью реальных диалогов человеком — стандарт для всей индустрии, а не эксклюзив OpenAI. Разница только в формулировках и степени анонимизации.
| Компания | Продукт | Где отключить | Особенность анонимизации |
|---|---|---|---|
| OpenAI | ChatGPT | Settings → Data Controls → Improve the model for everyone | Автофильтр приватности, иногда пропускает данные |
| Anthropic | Claude | Privacy Settings → Help improve our AI models | Убирает email и данные аккаунта перед показом ревьюеру |
| Gemini | Настройки активности Gemini Apps | Открыто предупреждает: сохранённые чаты может просматривать человек |
Anthropic подтвердила 404 Media, что использует людей-ревьюеров для проверки ответов Claude и улучшения будущих моделей — это касается пользователей с включённой опцией «Help improve our AI models». Компания также анонимизирует переписку, вычищая данные аккаунта вроде email перед тем, как показать диалог человеку.
Google в Gemini прямо предупреждает пользователей, что сохранённые чаты могут просматриваться людьми — формулировка честнее, чем у OpenAI, хотя суть практики та же.
Где ломается система приватности
Главная уязвимость — не сам факт человеческого ревью (это разумная часть разработки любой большой языковой модели), а то, как плохо об этом сообщают пользователям. Настройка по умолчанию включена, названа нейтрально-положительно, а предупреждение спрятано в FAQ, который никто не читает.
Вторая проблема — анонимизация не идеальна. Фильтр приватности OpenAI, по собственному признанию компании, может пропускать чувствительные данные: номера телефонов, адреса, детали о здоровье, которые пользователь вписал в контексте разговора, не задумываясь, что это увидит третье лицо.
Третья проблема — сводки памяти. Даже без имени и email ревьюер может составить довольно точный портрет человека по истории использования и косвенным географическим данным.
Что попробовать дальше
Проверьте настройки во всех ИИ-сервисах, которыми пользуетесь регулярно — не только в ChatGPT, но и в Claude, Gemini и других. Для чувствительных тем (здоровье, финансы, юридические вопросы) по умолчанию используйте временный или инкогнито-режим, если он есть у сервиса. И держите в голове простое правило: если не хотите, чтобы это прочитал незнакомый человек за $50 в час, не пишите это в чат-бот с настройками по умолчанию.
FAQ
ChatGPT правда читают живые люди?
Да, по данным 404 Media, сотни подрядчиков OpenAI в рамках проекта Project Lily читают реальные переписки пользователей и оценивают ответы модели по шкале от 1 до 7.
Как отключить чтение моих чатов человеком?
Зайдите в Settings → Data Controls и выключите опцию «Improve the model for everyone». Она включена по умолчанию и применяется только к новым разговорам.
Помогает ли временный чат скрыть переписку от ревью?
По заявлению OpenAI, данные из режима Temporary Chat не используются для обучения модели, поэтому теоретически не должны попадать к ревьюерам. Официальных гарантий на 100% компания не даёт.
Только ли OpenAI использует ревьюеров-людей?
Нет. Anthropic подтвердила использование человеческого ревью в Claude при включённой настройке «Help improve our AI models», а Google прямо предупреждает об этом пользователей Gemini.
Полностью ли анонимизируют мои данные перед показом ревьюеру?
Нет. OpenAI использует автоматический фильтр приватности, но признаёт, что он может пропускать чувствительные данные. Ревьюеры также видят сводку «памяти» аккаунта, которая может раскрывать косвенную информацию о пользователе.
