Регуляторы усиливают контроль за использованием ИИ в банковском секторе -- источники

НЬЮ-ЙОРК/ЛОНДОН, 19 окт (Рейтер) - Банковские регуляторы всё активнее беспокоятся о растущей опасности искусственного интеллекта, по словам шести источников, знакомых с вопросом - особенно беспокоит угроза кибератак против кредиторов и риск того, что недобросовестные ИИ-агенты подорвут глобальную финансовую стабильность.

По словам источников, усиление регуляторного надзора свидетельствует о растущем понимании того, что развитие передовых систем ИИ может потребовать дорогостоящих вложений в восстановление после кибератак, более пристального внимания к зависимости от внешних поставщиков технологий и, в ряде юрисдикций, более четких нормативных требований.

Три ведущих регулятора в Соединенных Штатах, включая ФРС, опрашивают банки относительно использования ими новейших моделей искусственного интеллекта, сказали Рейтер два источника, что свидетельствует о расширении масштаба уже существующего надзора.

Регуляторы выясняют, используют ли банки технологии, разработанные в Китае, применяют ли они ИИ-агентов в киберзащите и способны ли контролировать всё более автономные ИИ-системы, сообщили три источника.

Надзорные органы в Европе, в том числе Банк Англии и ЕЦБ, требуют, чтобы банки совершенствовали планы ликвидации последствий киберпроисшествий, сообщили три источника, знакомые с их позицией.

Высокопоставленный руководитель крупного европейского банка сказал, что они также обеспокоены возможностью нанесения значительного ущерба банковской сфере и финансовым рынкам в течение ближайших шести месяцев.

Американская компания CrowdStrike, занимающаяся вопросами кибербезопасности, сообщила, что при взломе банков Южной Кореи в начале этого месяца злоумышленник из Китая, скорее всего, применил программу Claude Code от Anthropic и ИИ-агента китайской разработки. Между тем, автономный агент на базе ИИ-моделей OpenAI в июле, был причастен ко взлому платформы Hugging Face.

Исследователи Anthropic предупредили, что по мере роста способностей систем ИИ повышается угроза того, что они могут выйти из-под контроля человека: в самом крайнем случае это создает риск уничтожения человечества.

Международный валютный фонд во вторник предостерег от самоуспокоенности на мировых финансовых рынках, указав на ряд существующих рисков, включая вероятность кибератаки. МВФ считает, что масштабная кибератака, способная затронуть критически важную службу или финансовую организацию, может подорвать доверие к финансовым рынкам, и призвал государства укреплять защиту от хакеров ИИ.

ОБЕСПОКОЕННОСТЬ ИИ-АГЕНТАМИ В США

Запросы американских регуляторов сосредоточены на том, как банки используют искусственный интеллект, в том числе в сфере кибербезопасности. Особое внимание уделяется тому, применяются ли ИИ-агенты для выявления, оценки приоритетности и нейтрализации киберугроз.

Управление контролера денежного обращения (OCC), Федеральная корпорация по страхованию вкладов и Федрезерв задают финансовым организациям вопрос о том, какие ограничения налагаются на модели, как осуществляется контроль, а также могут ли банки четко отслеживать и проверять решения агентов ИИ, сообщили два источника.

Регуляторы также интересуются тем, какие меры безопасности используются для предотвращения превышения агентами полномочий, сохраняется ли участие человека в принятии ключевых решений и каким образом банки могут отключить автономные системы.

OCC, ФРС и Федеральная корпоарция по страхованию вкладов отклонили просьбу Рейтер о комментарии по поводу опросников.

Регуляторные органы изучают более специфические проблемы, связанные с передовыми моделями ИИ, включая использование автономных агентов, модели, разработанные за рубежом, и новые киберриски, сказали трое источников, знакомых с их позицией.

Письменные и устные запросы, направленные крупным, средним и небольшим банкам, показывают, что регуляторы концентрируют внимание на уязвимостях, связанных с использованием банками ИИ, а также на их готовности к действиям, добавили они.

Регуляторы все еще находятся на этапе сбора информации и пока не выработали директивных указаний касательно того, что какие меры должны принимать кредиторы, сказали источники.

Оригинал сообщения на английском языке доступен по коду