Эксперимент, в ходе которого около 4000 человек получили психотерапевтическую помощь от чат-бота с искусственным интеллектом (ИИ), был встречен резкой критикой в интернете. Всё началось с того, что в пятницу Роб Моррис, один из авторов приложения для социальных сетей Koko, рассказал о том, как его программа поработала с живыми людьми.

Дело в том, что Koko позволяет пользователям добровольно рассказать о своих проблемах другим людям, которые затем пытаются помочь собеседнику переосмыслить ситуацию, что можно сравнить с формой когнитивно-поведенческой терапии. В рамках эксперимента пользователи считали, что отправляют сообщения другим людям, однако чего они не знали, так это того, что бот сам придумывал ответы.

«Сообщения, составленные нашим ИИ, в итоге были оценены значительно выше, чем ответы, написанные людьми самостоятельно. Кроме того, время ответа сократилось на 50%, то есть бот обдумывал информацию менее минуты», — написал Моррис.

И всё же команда была вынуждена довольно быстро убрать функцию бота-психотерапевта, поскольку люди были в ярости, когда узнали, что ответы для них создала машина, а не живой человек. Имитация эмпатии со стороны ИИ показалась пользователям странной и пустой. Однако больше всего людей задело то, что они не давали информированного согласия на эксперимент с машиной, поэтому тест вышел неэтичным.

Моррис в ответ указал на то, что исследование «освобождено» от закона об информированном согласии, поскольку оно не создаёт никакого дополнительного риска для пользователей, а компания не собирает личные данные участников, — такие, как электронная почта, номер телефона, IP-адрес и прочее. Однако на данном этапе неясно, будут ли опубликованы в результате эти данные, поскольку компания называет свой эксперимент не университетским исследованием, а «простым изучением функции продукта».

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.