Кредитная модель, где у каждого
решения есть причина

Per-decision Explainability

Объяснение на уровне отдельной заявки - не только глобальная важность признаков.

• SHAP values по каждому решению
• LIME для точечных проверок
• Решение воспроизводится в 95%+ случаев
• Объяснение хранится в audit trail

Adverse Action Reasons

Читаемые причины отказа - не код ошибки.

• Reason codes на русском
• Маппинг на ECOA / Reg B (для деятельности за рубежом)
• Формулировки, не раскрывающие модель
• Согласованность объяснения и решения

Справедливость и bias

Мониторинг дискриминации по защищённым признакам - до того, как её найдёт регулятор.

• Disparate impact testing
• Обнаружение proxy-признаков
• Корректный reject inference
• Периодические отчёты кредитному комитету

Model Cards и документация

Документация, готовая к модельному комитету и проверке.

• Model Card по Mitchell et al. 2019
• Данные обучения, ограничения, область применения
• Метрики по сегментам популяции
• Версионирование и approval trail

Champion / Challenger

Модель обновляется под контролем - не "заморожена на два года".

• A/B между моделями в production
• Drift detection (PSI, KS)
• Документированный rollback
• Model registry (MLflow)

Интеграция в ядро / LOS

Решение возвращается в LOS / core в реальном времени, с объяснением рядом.

• Decision API с низкой latency
• Reason codes внутри payload
• Документированный ручной override
• Снимок признаков сохраняется на решение

РФ: 152-ФЗ + ЦБ РФ

Защита персональных данных (152-ФЗ), требования ЦБ РФ по управлению модельным риском, принцип объяснимости решения заявителю и хранение данных согласно требованиям ИБ.

ЕС: AI Act Article 13 + GDPR

Кредитный скоринг - high-risk по EU AI Act: прозрачность (Art. 13), человеческий надзор (Art. 14), точность (Art. 15), плюс GDPR Art. 22 - право на объяснение автоматического решения.

США: ECOA / Reg B, FCRA

Для организаций с деятельностью в США: Adverse Action Notice по ECOA Reg B и FCRA, документация model risk по SR 11-7.

Explainability работает

Что показывает индустрия: Кредитные команды с SHAP / LIME восстанавливают решение модели в 95%+ случаев (FCA + EBA papers).

Где входим мы: Retro-fitting SHAP на существующий XGBoost - без замены того, что уже в production.

Reject inference повышает точность

Что показывает индустрия: Корректная работа с отклонёнными заявками снижает смещение выборки и повышает стабильность модели во времени.

Где входим мы: Проектирование прозрачной, задокументированной методологии reject inference - не скрытый "патч".

Bias находится до регулятора

Что показывает индустрия: Disparate impact обычно находят только после жалобы - когда исправление уже дорогое.

Где входим мы: Постоянный мониторинг справедливости внутри pipeline, с алертами и отчётами для комитета.