Совет по надзору за финансовой стабильностью правительства США (FSOC) добавил искусственный интеллект в перечень потенциальных рисков для американской финансовой системы. Его использование в финансовых услугах требует продуманного внедрения и контроля, говорится в годовом отчете группы, опубликованном на этой неделе.

В числе возможных угроз проблемы кибербезопасности и конфиденциальности. Особенно насторожено FSOC относится к генеративным моделям ИИ, такими, как ChatGPT. Они могут давать ошибочные результаты, известные как «галлюцинации», напоминают эксперты организации.

Их также беспокоит тот факт, что некоторые модели искусственного интеллекта работают как «черные ящики», то есть их внутренняя работа недоступна для посторонних. Это увеличивает неопределенность «в отношении ее пригодности и надежности», заявили в FSOC.

Другими словами, если банки полагаются на непрозрачные модели искусственного интеллекта, это затрудняет понимание того, насколько на самом деле надежны их базовые системы, поясняет CNN. То есть, теоретически они могут «выдавать и, возможно, маскировать предвзятые или неточные результаты». Это, в свою очередь, порождает вопросы по поводу справедливого кредитования и защиты потребителей.

Инвестиции в искусственный интеллект и число таких систем стремительно растут, хотя многие эксперты предупреждают о серьезных опасностях, связанных с технологией. Президент Джо Байден недавно подписал указ, предписывающий федеральным агентствам принять меры для защиты развития ИИ.

«Ошибки и предубеждения может стать еще труднее выявлять и исправлять по мере усложнения подходов к искусственному интеллекту, что подчеркивает необходимость бдительности со стороны разработчиков технологии, компаний финансового сектора, использующих ее, и регулирующих органов, контролирующих такие фирмы», — заявил FSOC.

Популярность ChatGPT и других генеративных инструментов искусственного интеллекта, которые используют большие языковые модели для выявления закономерностей в данных и создания текста и изображений, только усилила интерес к искусственному интеллекту.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.