Известная разработкой чат-бота Claude американская компания Anthropic обнародовала информацию о возможном использовании её моделей искусственного интеллекта (ИИ) в исследованиях, могущих иметь связь с созданием биологического оружия. В отчёте компании отмечено пять зафиксированных случаев, о которых сигнализировали её системы безопасности. Сведения об этом передаёт ТАСС.

Anthropic получила данные, что исследователи пытались задействовать способности нейросети для планирования экспериментов по усилению функции вируса чикунгунья, адаптации вируса птичьего гриппа к организму млекопитающих, подготовки заявки на грант, касающейся преодоления иммунной защиты вирусами рода ортопоксвирусов, вызывающими оспу.

Некоторые поддерживаемые государством исследователи использовали нейросеть для создания базы данных пептидов ядов и разработки автоматизированного процесса для улучшения молекулярной структуры ядов, повышая их эффективность в вызываемом параличе или блокировке нервных сигналов. В одном из случаев человек использовал моделирование для перепроектирования токсинов в рамках национальной программы.

После выявления угроз специалисты Anthropic заблокировали учётные записи соответствующих пользователей. Однако компания не стала раскрывать, из каких стран работали данные учёные или к каким научным учреждениям они относились. Компания не пытается утверждать, что исследователи намеревались нанести вред, и понимает, что публикация данных об учёных или их лабораториях может представлять для них угрозу.

«Злоупотребление инструментами ИИ в работе с биологическими материалами оценивается как один из самых серьёзных рисков, связанных с передовыми моделями ИИ. В отсутствие должных мер безопасности такие способности ИИ могут привести к катастрофическим последствиям», — отмечено в докладе.

Компания Anthropic основана в 2021 году бывшими сотрудниками OpenAI. Корпорация быстро завоевала позиции одного из лидеров в области разработки систем искусственного интеллекта. Она известна как разработчик «этичного ИИ» и уделяет особое внимание вопросам безопасности использования нейронных сетей. В марте 2023 года Anthropic выпустила свой первый чат-бот Claude.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.