Банки — самый показательный полигон для ИИ-стратегий: ставки высокие, данных много, регуляторы дышат в шею. Разбираем, как устроены три модели контроля над алгоритмами, на реальных примерах от JPMorgan до Сбера — и что из этого стоит забрать в свой продукт.
Три модели, которые определяют всё
Прежде чем смотреть на конкретные банки, нужно зафиксировать терминологию. Международная классификация делит подходы на три архетипа.
| Модель | Расшифровка | Суть |
|---|---|---|
| HITL | Human-in-the-Loop | Человек участвует в каждом цикле решения |
| HOTL | Human-on-the-Loop | ИИ работает автономно, человек контролирует «сверху» |
| HOOTL | Human-Out-of-the-Loop | Решение принимает только алгоритм, человек исключён |
Это не просто академические термины. Выбор модели определяет, кто несёт регуляторную ответственность, насколько быстро деградируют навыки команды и что происходит с клиентом, когда алгоритм ошибается.
Как работает HITL: HSBC, BNP Paribas, JPMorgan
HITL — это не «ИИ помогает человеку». Это жёсткая архитектурная норма: алгоритм не может завершить процесс без явного одобрения живого сотрудника.
В Европе эту норму продавил EU AI Act. Статья 14 закона обязывает финансовые институты строить высокорисковые ИИ-системы так, чтобы их мог «эффективно контролировать» человек. HSBC и BNP Paribas реализовали это буквально: при выдаче потребительских кредитов ИИ считает кредитный балл по сотням параметров, но если уверенность модели ниже 95% — заявка автоматически уходит живому инспектору. В HSBC под это создан отдельный AI Review Committee, который валидирует логику алгоритма в спорных случаях.
В JPMorgan Chase похожая история, но по другим причинам. Директива SR 26-2 ФРС США запрещает принимать терминальные правовые решения без подписи комплаенс-офицера. Система «Ask David» — мощный аналитический инструмент, но в ней жёстко зашиты Approval Gates: шлюзы, через которые решение не пройдёт без человека. Команда Private Bank прямо говорит: «Если на карту поставлены миллиарды долларов, мы не можем позволить себе неточность».
Как работает HOTL: мониторинг транзакций и контроль «сверху»
HOTL — это автономия с надзором. ИИ работает без участия человека в каждом конкретном случае, но люди задают правила, получают агрегированные алерты и могут остановить систему при сбое.
Показательный кейс — HSBC плюс Google Cloud AI в AML-мониторинге (противодействие отмыванию денег). ИИ-система сканирует трансграничные платежи миллионов клиентов в реальном времени, строит связи между офшорными структурами, выявляет аномальные паттерны. Алгоритм работает сам. Но когда паттерн резко меняется — комплаенс-аналитики получают «умный алерт» и уже они принимают решение о заморозке счёта.
Китайский SPD Bank (Shanghai Pudong Development Bank) использует ту же логику при кредитовании средних технологических компаний. ИИ оценивает патентную активность, закупки оборудования, научно-технический потенциал. Аналитики вмешиваются только тогда, когда модель фиксирует аномально высокий уровень дефолтов в конкретном секторе — например, в производстве микрочипов — и корректируют макропараметры вручную.
Как работает HOOTL: китайская система 3-1-0 и её цена
HOOTL в чистом виде — это Ant Group / Alipay / ICBC с концепцией «3-1-0»: 3 минуты на подачу заявки, 1 секунда на решение алгоритма, 0 человеческих прикосновений к процессу. Система анализирует транзакции через платформы Alibaba и Taobao, геолокацию, социальные рейтинги, налоговую историю. Человек физически не может вмешаться в одобрение конкретного кредита.
Это работает при нескольких условиях: плотная государственная дата-инфраструктура, отсутствие регуляторного давления в стиле EU AI Act и культурная готовность пользователей к полностью алгоритмическому сервису.
Проблема HOOTL — не только регуляторная. Партнёр Goldman Sachs Крис Чёрчман публично предупреждает о «когнитивной атрофии»: когда банкиры перестают принимать решения сами, они теряют способность это делать. Anthropic и OpenAI в своих корпоративных образовательных инициативах 2025–2026 годов прямо называют это «цифровой амнезией» — и рекомендуют проектировать ИИ-системы так, чтобы они стимулировали критическое мышление, а не заменяли его.
Российские банки: раскол стратегий
Российский банковский сектор не выбрал единую модель — каждый крупный игрок пошёл своим путём. Сбербанк сделал ставку на тотальный HOOTL в рознице. Альфа-Банк выбрал аугментацию (HITL) как философию: технология усиливает человека, а не заменяет его. Т-Банк занял промежуточную позицию с элементами HOTL.
Этот раскол важен не как корпоративная история, а как продуктовый выбор. Аналитик Форрестера Алисон Кларк формулирует это жёстко: «Эффективность — не стратегия отношений». Банки, которые оптимизировали ИИ исключительно под скорость и снижение затрат, рискуют потерять именно то, за чем клиент приходит в банк, — ощущение, что его ситуацию кто-то понял.
Где это ломается
Три точки, где любая из моделей даёт сбой:
HITL ломается на масштабе. Если каждое решение требует живого человека, скорость обработки падает, а стоимость растёт нелинейно. При миллионах транзакций в день это нежизнеспособно без жёсткой сегментации: что идёт через автомат, а что — к инспектору.
HOTL ломается на качестве алертов. Если система генерирует тысячи уведомлений в день, аналитики начинают игнорировать их — это называется «усталость от алертов». Реальный контроль «сверху» превращается в формальный.
HOOTL ломается на крайних случаях. Алгоритм обучен на исторических данных. Нестандартная ситуация — новый тип мошенничества, форс-мажор, нетипичный клиент — выбивает модель за пределы обучающей выборки. Человека, который мог бы это заметить, нет.
Что попробовать дальше
Если вы проектируете продукт с ИИ-автоматизацией — не в банке, а вообще — три практических шага из этого разбора:
- Сегментируйте решения по цене ошибки. Низкая цена ошибки → HOOTL. Высокая и необратимая → HITL с явным Approval Gate.
- Проектируйте алерты, а не логи. HOTL работает только если человек получает осмысленный сигнал, а не поток данных.
- Измеряйте когнитивную нагрузку команды. Если сотрудники перестали принимать решения сами — это не эффективность, это риск.
FAQ
Чем HOTL отличается от HITL на практике?
HITL требует одобрения человека на каждое конкретное решение. HOTL — человек задаёт правила и получает агрегированные сигналы, но в отдельные транзакции не вмешивается. Разница — в частоте и обязательности участия.
Законно ли использовать HOOTL в России и ЕС?
В ЕС — ограниченно. EU AI Act (статья 14) обязывает сохранять человеческий надзор над высокорисковыми системами, к которым относится кредитование. В России прямого аналога EU AI Act нет, но ЦБ РФ ведёт методологическую работу по регулированию ИИ в финансах.
Что такое «когнитивная атрофия» применительно к банкам?
Это деградация профессиональных навыков сотрудников, которые перестали принимать решения самостоятельно из-за полной передачи функции алгоритму. Партнёр Goldman Sachs Крис Чёрчман называет это одним из главных скрытых рисков тотальной автоматизации.
Какая модель лучше для стартапа или небольшого финтеха?
HOTL с чётко настроенными триггерами вмешательства — оптимальный баланс скорости и контроля для команд без больших комплаенс-ресурсов. HITL слишком дорог на масштабе, HOOTL — слишком рискован без зрелой дата-инфраструктуры.
Как измерить, правильно ли настроена модель контроля?
Три метрики: доля решений, которые человек реально пересматривает (если близко к нулю — контроль формальный); время реакции на аномальный алерт; процент ошибок алгоритма, пойманных до исполнения. Если все три в норме — архитектура работает.
