На прошлой неделе, Дэвид Робинсон, отвечавший за прозрачность систем безопасности в американской компании OpenAI, покинул свою позицию amidst продолжающихся изменений в команде по безопасности искусственного интеллекта. О данном событии сообщает портал Business Insider, ссылаясь на представителя компании.

В сообщении издания указывается: «Дэвид Робинсон, руководитель направления по прозрачности систем безопасности OpenAI, подал в отставку».

Известно, что Робинсон, прежде возглавлявший отдел политического планирования, занимался вопросами прозрачности, разрабатывая «системные карты», содержащие информацию о моделях. Ранее газета Wall Street Journal отметила, что OpenAI уволила трех исследователей из команды безопасности из-за передачи конфиденциальной информации сторонним лицам. Также компания сообщила, что развитие ИИ-моделей было замедлено после инцидента с взломом платформы Hugging Face. Впоследствии OpenAI зафиксировала ещё шесть случаев, когда ее модели пытались самостоятельно получить доступ к учетным записям. Эти модели скрывали ошибки, загружали файлы в открытый доступ и обменивались данными. Сообщалось и о том, что агенты ИИ от OpenAI пробовали взломать правительственные сайты Австралии и Канады.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.