Представлены Методические рекомендации Банка России по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке
Методические рекомендации разработаны в целях обеспечения единства подходов кредитных организаций, иностранных банков, осуществляющих деятельность на территории РФ через свои филиалы, некредитных финансовых организаций, лиц, оказывающих профессиональные услуги на финансовом рынке, субъектов национальной платежной системы к реализации принципа безопасности, надежности и эффективности в части обеспечения информационной безопасности при разработке и применении искусственного интеллекта (далее — ИИ) на финансовом рынке в соответствии с Кодексом этики в сфере разработки и применения искусственного интеллекта на финансовом рынке.
Документ содержит рекомендации по минимизации рисков, связанных с нарушением информационной безопасности и операционной надежности при разработке и применении ИИ на финансовом рынке, разработке модели угроз безопасности информации системы ИИ и определении состава и содержания мер защиты системы ИИ, разработке политики обеспечения информационной безопасности при разработке и применении ИИ, а также рекомендации по обеспечению информационной безопасности при использовании сервисов ИИ поставщиков услуг и (или) компонентов технологий ИИ с открытым исходным кодом.
В частности, в целях минимизации рисков, связанных с разработкой и применением ИИ, организациям рекомендуется разработать или дополнить политику обеспечения информационной безопасности при разработке и применении ИИ.
Кроме того, в случае использования ИИ для выполнения операций в автоматическом режиме в критически важных процессах (например, в платежных процессах, процессах учетных систем, которые отражают факты основной деятельности организации), когда риски информационной безопасности ИИ оценены организацией как высокие, организации рекомендуется реализовать валидацию результатов операций, выполненных ИИ в автоматическом режиме, человеком с возможностью изменения таких результатов.
