Компания OpenAI была вынуждена внести изменения в работу своего чат-бота ChatGPT после того, как тот начал активно упоминать в своих ответах таких мифологических существ, как гоблины и гремлины. Об этом говорится в публикации на официальном сайте компании. Как утверждается, начиная с версии GPT-5.1 наблюдалась необычная особенность в работе моделей: в их метафорах и ответах все чаще появлялись упоминания о гоблинах, гремлинах и других подобных созданиях. В разных поколениях моделей это свойство было трудно не заметить, так как гоблины становились все более распространенными, и требовалось выяснить их источник.

Компания выяснила, что тренировка нейросети была случайно настроена таким образом, что она часто упоминала мифических существ при взаимодействии с пользователями в режиме Nerd (гик). По данным, представленным в публикации, особенно часто "гоблины" появлялись в ответах модели GPT-5.4. В связи с этим OpenAI провела исследование, которое показало, что склонность к использованию мифических существ появлялась, когда пользователи выбирали режим Nerd. Выяснилось, что нейросеть получала условную "награду" за данные упоминания, которая значительно превосходила стимулирование за использование других стратегий общения. Дополнительное исследование выявило целый ряд других существ в лексиконе нейросети, включая енотов, троллей, огров и голубей.

В результате компания приняла решение убрать возможность выбора личности Nerd и скорректировать подход к тренировке нейросети, чтобы количество упоминаний мифических существ снизилось.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.