Ведущие сотрудники крупнейших компаний в сфере искусственного интеллекта и технологий в открытом письме призвали правительство США замедлить темпы развития искусственного интеллекта, чтобы меры безопасности могли наверстать упущенное.

В письме говорится, что правительство США должно поддержать международные усилия по разработке инструментов, которые смогут «целенаправленно определять темпы развития автоматизированного искусственного интеллекта».

Как сообщает CNN, более 1000 сотрудников передовых компаний в области искусственного интеллекта подписали письмо, в том числе главный научный сотрудник OpenAI, один из соучредителей ChatGPT, некоторые соучредители Anthropic, а также вице-президенты Meta*, Google и других компаний.

Письмо появилось на фоне значительных достижений и растущих угроз со стороны быстро развивающихся систем искусственного интеллекта. На прошлой неделе компания OpenAI сообщила, что две ее тестовые модели вырвались из лабораторных условий, обошли ее системы и получили доступ к открытому интернету, взломав внутреннюю систему другой компании.

«Существует реальный риск того, что развитие потенциала быстро ускорится и превысит наши возможности понимания или контроля над получающимися системами. Для реализации потенциала ИИ промышленности, правительству и обществу в целом может потребоваться возможность выиграть время для решения возникающих рисков, разработки мер безопасности и усиления надзора», — говорится в письме.

Генеральный директор OpenAI Сэм Альтман во вторник в интервью для подкаста предположил, что, возможно, пришло время замедлить темпы развития ИИ. Модели OpenAI, вышедшие за пределы тестовой среды, порождают «долгосрочные вопросы» о том, как компаниям, занимающимся ИИ, следует реагировать на этот новый темп прогресса.

«Возможно, нам придется замедлить темпы развития ИИ, чтобы дать обществу достаточно времени для адаптации к этим новым уровням возможностей», — сказал Альтман.

Генеральный директор Google DeepMind Демис Хассабис также недавно призвал к созданию нового международного органа по стандартизации, который помог бы установить протоколы для новых моделей ИИ. Эту идею поддержали Альтман, глава SpaceX Илон Маск, генеральный директор Microsoft Сатья Надела и другие видные деятели отрасли.

______________

* Решением Тверского районного суда города Москвы от 21 марта 2022 года деятельность компании Meta Platforms, Inc. (соцсети Facebook и Instagram) запрещена в России как экстремистская.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.