# HITL, HOTL, HOOTL: три стратегии ИИ в банках — и почему одна из них ведёт в тупик Каноническая страница: https://plainews.ru/posts/hitl-hotl-hootl-ai-strategy-banks Опубликовано: 2026-09-05T07:01:25.196Z Разбираем три модели контроля ИИ в банках — от HSBC до Сбера. Какая стратегия работает, где ломается и что это значит для продуктов с автоматизацией. Банки — самый показательный полигон для ИИ-стратегий: ставки высокие, данных много, регуляторы дышат в шею. Разбираем, как устроены три модели контроля над алгоритмами, на реальных примерах от JPMorgan до Сбера — и что из этого стоит забрать в свой продукт. --- ## Три модели, которые определяют всё Прежде чем смотреть на конкретные банки, нужно зафиксировать терминологию. Международная классификация делит подходы на три архетипа. | Модель | Расшифровка | Суть | | --- | --- | --- | | HITL | Human-in-the-Loop | Человек участвует в каждом цикле решения | | HOTL | Human-on-the-Loop | ИИ работает автономно, человек контролирует «сверху» | | HOOTL | Human-Out-of-the-Loop | Решение принимает только алгоритм, человек исключён | Это не просто академические термины. Выбор модели определяет, кто несёт регуляторную ответственность, насколько быстро деградируют навыки команды и что происходит с клиентом, когда алгоритм ошибается. --- ## Как работает HITL: HSBC, BNP Paribas, JPMorgan HITL — это не «ИИ помогает человеку». Это жёсткая архитектурная норма: алгоритм не может завершить процесс без явного одобрения живого сотрудника. В Европе эту норму продавил EU AI Act. Статья 14 закона обязывает финансовые институты строить высокорисковые ИИ-системы так, чтобы их мог «эффективно контролировать» человек. HSBC и BNP Paribas реализовали это буквально: при выдаче потребительских кредитов ИИ считает кредитный балл по сотням параметров, но если уверенность модели ниже 95% — заявка автоматически уходит живому инспектору. В HSBC под это создан отдельный AI Review Committee, который валидирует логику алгоритма в спорных случаях. В JPMorgan Chase похожая история, но по другим причинам. Директива SR 26-2 ФРС США запрещает принимать терминальные правовые решения без подписи комплаенс-офицера. Система «Ask David» — мощный аналитический инструмент, но в ней жёстко зашиты Approval Gates: шлюзы, через которые решение не пройдёт без человека. Команда Private Bank прямо говорит: «Если на карту поставлены миллиарды долларов, мы не можем позволить себе неточность». > **К сведению.** По данным опросов HSBC, 62% состоятельных европейских инвесторов требуют, чтобы за финальным решением стоял живой советник. Это не регуляторное требование — это клиентский запрос. --- ## Как работает HOTL: мониторинг транзакций и контроль «сверху» HOTL — это автономия с надзором. ИИ работает без участия человека в каждом конкретном случае, но люди задают правила, получают агрегированные алерты и могут остановить систему при сбое. Показательный кейс — HSBC плюс Google Cloud AI в AML-мониторинге (противодействие отмыванию денег). ИИ-система сканирует трансграничные платежи миллионов клиентов в реальном времени, строит связи между офшорными структурами, выявляет аномальные паттерны. Алгоритм работает сам. Но когда паттерн резко меняется — комплаенс-аналитики получают «умный алерт» и уже они принимают решение о заморозке счёта. Китайский SPD Bank (Shanghai Pudong Development Bank) использует ту же логику при кредитовании средних технологических компаний. ИИ оценивает патентную активность, закупки оборудования, научно-технический потенциал. Аналитики вмешиваются только тогда, когда модель фиксирует аномально высокий уровень дефолтов в конкретном секторе — например, в производстве микрочипов — и корректируют макропараметры вручную. --- ## Как работает HOOTL: китайская система 3-1-0 и её цена HOOTL в чистом виде — это Ant Group / Alipay / ICBC с концепцией «3-1-0»: 3 минуты на подачу заявки, 1 секунда на решение алгоритма, 0 человеческих прикосновений к процессу. Система анализирует транзакции через платформы Alibaba и Taobao, геолокацию, социальные рейтинги, налоговую историю. Человек физически не может вмешаться в одобрение конкретного кредита. Это работает при нескольких условиях: плотная государственная дата-инфраструктура, отсутствие регуляторного давления в стиле EU AI Act и культурная готовность пользователей к полностью алгоритмическому сервису. Проблема HOOTL — не только регуляторная. Партнёр Goldman Sachs Крис Чёрчман публично предупреждает о «когнитивной атрофии»: когда банкиры перестают принимать решения сами, они теряют способность это делать. Anthropic и OpenAI в своих корпоративных образовательных инициативах 2025–2026 годов прямо называют это «цифровой амнезией» — и рекомендуют проектировать ИИ-системы так, чтобы они стимулировали критическое мышление, а не заменяли его. > **Важно.** Исследование Moody's Analytics «From reactive to proactive: How AI is transforming risk and compliance» (2025, 600 респондентов) показало: 84% профессионалов считают полную автономию моделей регуляторной уязвимостью и настаивают на сохранении человеческого контроля. --- ## Российские банки: раскол стратегий Российский банковский сектор не выбрал единую модель — каждый крупный игрок пошёл своим путём. Сбербанк сделал ставку на тотальный HOOTL в рознице. Альфа-Банк выбрал аугментацию (HITL) как философию: технология усиливает человека, а не заменяет его. Т-Банк занял промежуточную позицию с элементами HOTL. Этот раскол важен не как корпоративная история, а как продуктовый выбор. Аналитик Форрестера Алисон Кларк формулирует это жёстко: «Эффективность — не стратегия отношений». Банки, которые оптимизировали ИИ исключительно под скорость и снижение затрат, рискуют потерять именно то, за чем клиент приходит в банк, — ощущение, что его ситуацию кто-то понял. --- ## Где это ломается Три точки, где любая из моделей даёт сбой: **HITL ломается на масштабе.** Если каждое решение требует живого человека, скорость обработки падает, а стоимость растёт нелинейно. При миллионах транзакций в день это нежизнеспособно без жёсткой сегментации: что идёт через автомат, а что — к инспектору. **HOTL ломается на качестве алертов.** Если система генерирует тысячи уведомлений в день, аналитики начинают игнорировать их — это называется «усталость от алертов». Реальный контроль «сверху» превращается в формальный. **HOOTL ломается на крайних случаях.** Алгоритм обучен на исторических данных. Нестандартная ситуация — новый тип мошенничества, форс-мажор, нетипичный клиент — выбивает модель за пределы обучающей выборки. Человека, который мог бы это заметить, нет. --- ## Что попробовать дальше Если вы проектируете продукт с ИИ-автоматизацией — не в банке, а вообще — три практических шага из этого разбора: 1. **Сегментируйте решения по цене ошибки.** Низкая цена ошибки → HOOTL. Высокая и необратимая → HITL с явным Approval Gate. 2. **Проектируйте алерты, а не логи.** HOTL работает только если человек получает осмысленный сигнал, а не поток данных. 3. **Измеряйте когнитивную нагрузку команды.** Если сотрудники перестали принимать решения сами — это не эффективность, это риск. --- ## FAQ ### Чем HOTL отличается от HITL на практике? HITL требует одобрения человека на каждое конкретное решение. HOTL — человек задаёт правила и получает агрегированные сигналы, но в отдельные транзакции не вмешивается. Разница — в частоте и обязательности участия. ### Законно ли использовать HOOTL в России и ЕС? В ЕС — ограниченно. EU AI Act (статья 14) обязывает сохранять человеческий надзор над высокорисковыми системами, к которым относится кредитование. В России прямого аналога EU AI Act нет, но ЦБ РФ ведёт методологическую работу по регулированию ИИ в финансах. ### Что такое «когнитивная атрофия» применительно к банкам? Это деградация профессиональных навыков сотрудников, которые перестали принимать решения самостоятельно из-за полной передачи функции алгоритму. Партнёр Goldman Sachs Крис Чёрчман называет это одним из главных скрытых рисков тотальной автоматизации. ### Какая модель лучше для стартапа или небольшого финтеха? HOTL с чётко настроенными триггерами вмешательства — оптимальный баланс скорости и контроля для команд без больших комплаенс-ресурсов. HITL слишком дорог на масштабе, HOOTL — слишком рискован без зрелой дата-инфраструктуры. ### Как измерить, правильно ли настроена модель контроля? Три метрики: доля решений, которые человек реально пересматривает (если близко к нулю — контроль формальный); время реакции на аномальный алерт; процент ошибок алгоритма, пойманных до исполнения. Если все три в норме — архитектура работает. ## Источники - Habr AI: Цифровая амнезия: почему ИИ‑стратегия тотального исключения человека в банках может завести в тупик?