Налоговый советник Анна Веденеева высказала предположение, что главным риском массового внедрения искусственного интеллекта в финансы является синхронная работа схожих моделей, способная сделать из единичного происшествия системную проблему.

В разговоре с Агентством городских новостей «Москва» Веденеева уточнила, что угроза возникает, когда банки и инвестиционные фонды применяют модели, у которых одинаковые обучающие данные и которые однотипно реагируют на одни и те же сигналы. В подобных случаях, по её мнению, рыночный шок может нарастать лавинообразно.

Веденеева указала, что искусственный интеллект может уменьшать риски и затраты на уровне отдельных организаций, но при этом увеличивать общую уязвимость финансовой системы. Она также выделила такие дополнительные проблемы, как:

• непрозрачные решения,
• концентрация технологий у узкого круга поставщиков,
• сложность установления ответственности за ошибки алгоритмов.

Чтобы снизить данные риски, Веденеева считает необходимым внедрение разнообразных моделей, систем стресс-тестирования ИИ и обязательный человеческий контроль в принятии критических решений.

Ранее бизнес-эксперт Олег Строкатый подчеркнул важность критического отношения сотрудников к рекомендациям ИИ, так как уверенная подача моделей может уменьшать стремление к проверке их выводов.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.