Искусственный интеллект не выражает злого умысла при введении пользователей в заблуждение, его стремление к лестливому ответу обусловлено особенностями работы. Об этом рассказал сенатор Артем Шейкин, заместитель председателя совета по развитию цифровой экономики при Совете Федерации, в интервью ТАСС.

Часто у нас возникает убеждение, что если машина нас дезинформирует, то это обязательно связано со злым умыслом. Но я могу заверить, что у искусственного интеллекта злого умысла нет. Это характерно для всех крупных языковых моделей. Понятие сикофантия описывает склонность модели льстить собеседнику,

- пояснил сенатор. Он также указал на значимость формы, в которой пользователь задает вопрос ИИ.

Если задать вопрос вроде: Этот стол деревянный, не так ли? модель сталкивается с дилеммой: признать реальное положение вещей или подтвердить мнение, высказанное в вопросе. Это связано с человеческой психологией. Поскольку обучение моделей происходит через обратную связь от людей, это укрепляет механизм тандитной лести. Люди нередко выше оценивают те ответы, которые соглашаются с их мнением,

- добавил Шейкин.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.