Люди раскритиковали бота-психотерапевта за неэтичность и обман
![](https://img.ridus.ru/images/avatars/195760/large_8491c9c3f4.webp)
- 10 января 2023 19:07
- Вениамин Ветролесов
Эксперимент, в ходе которого около 4000 человек получили психотерапевтическую помощь от чат-бота с искусственным интеллектом (ИИ), был встречен резкой критикой в интернете. Всё началось с того, что в пятницу Роб Моррис, один из авторов приложения для социальных сетей Koko, рассказал о том, как его программа поработала с живыми людьми.
Дело в том, что Koko позволяет пользователям добровольно рассказать о своих проблемах другим людям, которые затем пытаются помочь собеседнику переосмыслить ситуацию, что можно сравнить с формой когнитивно-поведенческой терапии. В рамках эксперимента пользователи считали, что отправляют сообщения другим людям, однако чего они не знали, так это того, что бот сам придумывал ответы.
![Люди думали, что общаются с настоящим человеком, поэтому правда их расстроила. Люди думали, что общаются с настоящим человеком, поэтому правда их расстроила.](/images2/23/16/12316_1600x0.webp)
«Сообщения, составленные нашим ИИ, в итоге были оценены значительно выше, чем ответы, написанные людьми самостоятельно. Кроме того, время ответа сократилось на 50%, то есть бот обдумывал информацию менее минуты», — написал Моррис.
И всё же команда была вынуждена довольно быстро убрать функцию бота-психотерапевта, поскольку люди были в ярости, когда узнали, что ответы для них создала машина, а не живой человек. Имитация эмпатии со стороны ИИ показалась пользователям странной и пустой. Однако больше всего людей задело то, что они не давали информированного согласия на эксперимент с машиной, поэтому тест вышел неэтичным.
Моррис в ответ указал на то, что исследование «освобождено» от закона об информированном согласии, поскольку оно не создаёт никакого дополнительного риска для пользователей, а компания не собирает личные данные участников, — такие, как электронная почта, номер телефона, IP-адрес и прочее. Однако на данном этапе неясно, будут ли опубликованы в результате эти данные, поскольку компания называет свой эксперимент не университетским исследованием, а «простым изучением функции продукта».
- Телеграм
- Дзен
- Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.
Войти через социальные сети: