Налоговый советник Анна Веденеева высказала предположение, что главным риском массового внедрения искусственного интеллекта в финансы является синхронная работа схожих моделей, способная сделать из единичного происшествия системную проблему.
В разговоре с Агентством городских новостей «Москва» Веденеева уточнила, что угроза возникает, когда банки и инвестиционные фонды применяют модели, у которых одинаковые обучающие данные и которые однотипно реагируют на одни и те же сигналы. В подобных случаях, по её мнению, рыночный шок может нарастать лавинообразно.
Веденеева указала, что искусственный интеллект может уменьшать риски и затраты на уровне отдельных организаций, но при этом увеличивать общую уязвимость финансовой системы. Она также выделила такие дополнительные проблемы, как:
Чтобы снизить данные риски, Веденеева считает необходимым внедрение разнообразных моделей, систем стресс-тестирования ИИ и обязательный человеческий контроль в принятии критических решений.
Ранее бизнес-эксперт Олег Строкатый подчеркнул важность критического отношения сотрудников к рекомендациям ИИ, так как уверенная подача моделей может уменьшать стремление к проверке их выводов.
Источник: Ридус · Беленький Сергей