22 октября 2026 года сооснователь и CEO Hugging Face Клеман Деланг анонсировал Carbon-X — открытую языковую модель на 14,8 млрд параметров, которая умеет читать, анализировать и генерировать последовательности ДНК. Релиз сопровождался деталью, которая разошлась по треду быстрее, чем сама модель: коммерческая закрытая модель заблокировала Делангу вычитку черновика твита об этом релизе.
Как вычитка твита превратилась в кейс по безопасности ИИ
В твите, который Деланг хотел проверить перед публикацией, рядом стояли слова biology, guardrails, bypassing и wet labs. Классификатор безопасности закрытой модели увидел статистическое пересечение с «опасным» кластером тем из категории CBRN (химические, биологические, радиологические и ядерные риски) — и вернул стандартный отказ. Контекст запроса — вычитка публичного поста от CEO публичной компании — фильтру был недоступен.
Деланг сформулировал проблему прямо: фронтирные лаборатории развивают биологические возможности ИИ, но одновременно ставят поверхностные фильтры (shallow guardrails), которые мешают учёным, университетам и агентствам здравоохранения работать с этими инструментами. При этом мотивированный злоумышленник такой фильтр обходит — просто перефразируя запрос.
В треде под постом это сформулировали точнее, чем любой пресс-релиз. Пользователь czapa.md написал: «Поверхностные фильтры — это худшее из обоих миров. Исследователь, который задаёт прямой вопрос, получает блокировку, а злоумышленник просто перефразирует запрос». VIKTALES добавил: «Барьер, который останавливает CEO Hugging Face, но не останавливает мотивированного злоумышленника — это не безопасность, а просто трение, направленное против не тех людей».
Почему фильтр бьёт мимо цели — и кто за это платит
Внешний контур безопасности массовых облачных моделей строится на быстрых классификаторах ввода и вывода. Они натренированы отсекать темы из чувствительных категорий — без понимания рабочего контекста запроса. Биоинформатик, который вставляет участок генома и спрашивает о патогенности мутации, для такого классификатора выглядит так же, как нежелательный запрос.
Anand Sharma в том же треде указал на структурный изъян: «Верифицированный доступ с логированием использования для исследователей поймал бы куда больше реальных злоупотреблений, чем когда-либо поймает блокировка по ключевым словам». Пользователь @aventarion добавил системное наблюдение: отчёты по безопасности должны показывать количество заблокированных легитимных исследований рядом с успешными джейлбрейками — иначе метрика успеха команды безопасности сводится к тому, чтобы модель чаще говорила «нет».
Пока метрика — снижение доли пробитий на red-team бенчмарке, самый простой способ улучшить отчёт перед релизом — закрутить порог чувствительности классификатора. Цену этого решения в виде ложных отказов (false refusals) платят внешние пользователи, и в публичные графики она обычно не попадает.
Что внутри Carbon-X: архитектура и цифры
Модель разработана командой HuggingFaceBio совместно с Итальянским институтом генетики и медицины (TIGEM), Неаполитанским университетом имени Фридриха II и Пекинской академией Чжунгуаньцунь. Лицензия — Apache 2.0, то есть открытая для коммерческого и исследовательского использования.
В основе — Qwen3-14B (14,8 млрд параметров), китайская открытая модель, которую команда дообучила методом mid-training на геномных данных. Ключевое архитектурное решение — гибридный токенизатор BPE + 6-mer: он позволяет обрабатывать нуклеотидные последовательности и естественный язык в едином потоке токенов внутри стандартной декодерной архитектуры. Это третий путь между двумя распространёнными подходами.
| Подход | Плюсы | Минусы |
|---|---|---|
| Узкая специализированная сеть только на нуклеотидах | Точность на геномных задачах | Нет диалога на естественном языке |
| LLM + внешний ДНК-энкодер через адаптер | Сохраняет языковые способности | Архитектурный шов, сложнее обучать |
| Carbon-X: единый поток токенов (BPE + 6-mer) | Язык и ДНК в одной модели | Требует специального mid-training |
На ДНК-бенчмарках Carbon-X показала прирост в 27 пунктов относительно базовой Qwen3-14B. На это обратил внимание пользователь @QwenAIFans в треде: «Прирост на 27 пунктов — вот главный заголовок. Гибридный токенизатор выглядит самой недооценённой частью работы».
Кому это нужно прямо сейчас
Практическая целевая аудитория Carbon-X — биоинформатики, исследователи геномики и разработчики инструментов для анализа ДНК, которые регулярно упираются в фильтры коммерческих API при работе с геномными данными. Открытая лицензия Apache 2.0 означает, что модель можно разворачивать локально или в собственной инфраструктуре — без зависимости от политик безопасности стороннего провайдера.
Для университетов и НКО это особенно важно: именно их Деланг называет первыми пострадавшими от асимметрии, которую создают поверхностные фильтры. Агентства здравоохранения, которым нужно анализировать геномные последовательности патогенов, в такой модели получают инструмент без необходимости каждый раз объяснять классификатору, что они не злоумышленники.
Для разработчика это значит: Carbon-X — не просто ещё одна специализированная модель, а попытка закрыть конкретный рабочий сценарий, который коммерческие API закрыть отказываются.
Где пока нет ответов
Источник не раскрывает конкретный объём геномных данных, на которых проводился mid-training, и не описывает детально все три инженерных решения, которые упомянуты в техническом отчёте Carbon-X (текст оригинала обрывается на этом месте). Бенчмарки, на которых зафиксирован прирост в 27 пунктов, в треде не расшифрованы — непонятно, насколько они репрезентативны для реальных задач геномики.
Открытым остаётся и более широкий вопрос, который поставил Деланг: что произойдёт с асимметрией между теми, кто строит биологические возможности ИИ, и теми, кто их изучает, — особенно на фоне того, что фронтирные лаборатории, по его словам, сейчас строят собственные «мокрые» биолаборатории (wet labs, физические лаборатории для работы с биологическими материалами). На этот вопрос Carbon-X отвечает только частично — как один инструмент, а не как системное решение.