# Carbon-X: Hugging Face выпустила открытую ДНК-модель — и заодно показала, как фильтры безопасности блокируют учёных, а не злоумышленников
Каноническая страница: https://plainews.ru/posts/carbon-x-hugging-face-dna-model-open-source
Опубликовано: 2026-10-25T11:01:26.525Z

Hugging Face выпустила Carbon-X — открытую модель для анализа ДНК. Почему закрытые модели мешают учёным и как это меняет биоинформатику.
22 октября 2026 года сооснователь и CEO Hugging Face Клеман Деланг анонсировал Carbon-X — открытую языковую модель на 14,8 млрд параметров, которая умеет читать, анализировать и генерировать последовательности ДНК. Релиз сопровождался деталью, которая разошлась по треду быстрее, чем сама модель: коммерческая закрытая модель заблокировала Делангу вычитку черновика твита об этом релизе.

## Как вычитка твита превратилась в кейс по безопасности ИИ

В твите, который Деланг хотел проверить перед публикацией, рядом стояли слова biology, guardrails, bypassing и wet labs. Классификатор безопасности закрытой модели увидел статистическое пересечение с «опасным» кластером тем из категории CBRN (химические, биологические, радиологические и ядерные риски) — и вернул стандартный отказ. Контекст запроса — вычитка публичного поста от CEO публичной компании — фильтру был недоступен.

Деланг сформулировал проблему прямо: фронтирные лаборатории развивают биологические возможности ИИ, но одновременно ставят поверхностные фильтры (shallow guardrails), которые мешают учёным, университетам и агентствам здравоохранения работать с этими инструментами. При этом мотивированный злоумышленник такой фильтр обходит — просто перефразируя запрос.

В треде под постом это сформулировали точнее, чем любой пресс-релиз. Пользователь czapa.md написал: «Поверхностные фильтры — это худшее из обоих миров. Исследователь, который задаёт прямой вопрос, получает блокировку, а злоумышленник просто перефразирует запрос». VIKTALES добавил: «Барьер, который останавливает CEO Hugging Face, но не останавливает мотивированного злоумышленника — это не безопасность, а просто трение, направленное против не тех людей».

## Почему фильтр бьёт мимо цели — и кто за это платит

Внешний контур безопасности массовых облачных моделей строится на быстрых классификаторах ввода и вывода. Они натренированы отсекать темы из чувствительных категорий — без понимания рабочего контекста запроса. Биоинформатик, который вставляет участок генома и спрашивает о патогенности мутации, для такого классификатора выглядит так же, как нежелательный запрос.

Anand Sharma в том же треде указал на структурный изъян: «Верифицированный доступ с логированием использования для исследователей поймал бы куда больше реальных злоупотреблений, чем когда-либо поймает блокировка по ключевым словам». Пользователь @aventarion добавил системное наблюдение: отчёты по безопасности должны показывать количество заблокированных легитимных исследований рядом с успешными джейлбрейками — иначе метрика успеха команды безопасности сводится к тому, чтобы модель чаще говорила «нет».

Пока метрика — снижение доли пробитий на red-team бенчмарке, самый простой способ улучшить отчёт перед релизом — закрутить порог чувствительности классификатора. Цену этого решения в виде ложных отказов (false refusals) платят внешние пользователи, и в публичные графики она обычно не попадает.

## Что внутри Carbon-X: архитектура и цифры

Модель разработана командой HuggingFaceBio совместно с Итальянским институтом генетики и медицины (TIGEM), Неаполитанским университетом имени Фридриха II и Пекинской академией Чжунгуаньцунь. Лицензия — Apache 2.0, то есть открытая для коммерческого и исследовательского использования.

В основе — Qwen3-14B (14,8 млрд параметров), китайская открытая модель, которую команда дообучила методом mid-training на геномных данных. Ключевое архитектурное решение — гибридный токенизатор BPE + 6-mer: он позволяет обрабатывать нуклеотидные последовательности и естественный язык в едином потоке токенов внутри стандартной декодерной архитектуры. Это третий путь между двумя распространёнными подходами.

| Подход | Плюсы | Минусы |
| --- | --- | --- |
| Узкая специализированная сеть только на нуклеотидах | Точность на геномных задачах | Нет диалога на естественном языке |
| LLM + внешний ДНК-энкодер через адаптер | Сохраняет языковые способности | Архитектурный шов, сложнее обучать |
| Carbon-X: единый поток токенов (BPE + 6-mer) | Язык и ДНК в одной модели | Требует специального mid-training |

На ДНК-бенчмарках Carbon-X показала прирост в 27 пунктов относительно базовой Qwen3-14B. На это обратил внимание пользователь @QwenAIFans в треде: «Прирост на 27 пунктов — вот главный заголовок. Гибридный токенизатор выглядит самой недооценённой частью работы».

> **К сведению.** Старший научный сотрудник Hugging Face Льюис Танстолл подробно описал релиз Carbon-X в отдельном техническом отчёте, на который ссылается оригинальный пост Деланга.

## Кому это нужно прямо сейчас

Практическая целевая аудитория Carbon-X — биоинформатики, исследователи геномики и разработчики инструментов для анализа ДНК, которые регулярно упираются в фильтры коммерческих API при работе с геномными данными. Открытая лицензия Apache 2.0 означает, что модель можно разворачивать локально или в собственной инфраструктуре — без зависимости от политик безопасности стороннего провайдера.

Для университетов и НКО это особенно важно: именно их Деланг называет первыми пострадавшими от асимметрии, которую создают поверхностные фильтры. Агентства здравоохранения, которым нужно анализировать геномные последовательности патогенов, в такой модели получают инструмент без необходимости каждый раз объяснять классификатору, что они не злоумышленники.

Для разработчика это значит: Carbon-X — не просто ещё одна специализированная модель, а попытка закрыть конкретный рабочий сценарий, который коммерческие API закрыть отказываются.

## Где пока нет ответов

Источник не раскрывает конкретный объём геномных данных, на которых проводился mid-training, и не описывает детально все три инженерных решения, которые упомянуты в техническом отчёте Carbon-X (текст оригинала обрывается на этом месте). Бенчмарки, на которых зафиксирован прирост в 27 пунктов, в треде не расшифрованы — непонятно, насколько они репрезентативны для реальных задач геномики.

Открытым остаётся и более широкий вопрос, который поставил Деланг: что произойдёт с асимметрией между теми, кто строит биологические возможности ИИ, и теми, кто их изучает, — особенно на фоне того, что фронтирные лаборатории, по его словам, сейчас строят собственные «мокрые» биолаборатории (wet labs, физические лаборатории для работы с биологическими материалами). На этот вопрос Carbon-X отвечает только частично — как один инструмент, а не как системное решение.

## Источники

- Habr AI: Как цензура в закрытых ИИ‑моделях меняет науку и разработку: кейс ДНК‑модели Carbon‑X и спор о «поверхностных фильтрах»