Компания OpenAI создала ИИ, который умеет клонировать любой голос

В последние месяцы популярность набирает новый тип дипфейков, который позволяет клонировать любой голос и на его основе создать полноценную речь. Производитель известного чатбота ChatGPT, компания OpenAI тоже решила быть в авангарде этих технологий и анонсировала свой новый искусственный интеллект Voice Engine, который преобразовывает текст в речь.

Всё, что нужно ИИ для работы — это 15-секундный фрагмент человеческой речи, после чего пользователь может вбить любой текст в программу и получить готовую аудиозапись. Как утверждают разработчики, их технология создана исключительно для помощи людям, — к примеру, чтобы озвучивать книги для слабовидящих людей или помогать пациентам с речевыми проблемами.

Тем не менее, в процессе тестирования сама OpenAI посчитала, что её жуткая технология не готова для массового распространения. Создание речи на основе любого голоса — это лакомый кусочек для мошенников, которые могут клонировать голоса известных людей, чтобы влиять на политическую жизнь стран. Не останутся в стороне и телефонные воры, которые при помощи такого ИИ смогут притворяться родственниками жертв, чтобы выманивать деньги.

Именно поэтому компания приняла решение притормозить с распространением новой технологии, а тестирование проводит лишь с избранными партнёрами. К тестерам предъявляется ряд требований: так, они обязаны сообщать, что аудиодорожка была сгенерирована ИИ, а также получать согласие на клонирование у обладателя голоса. Сейчас разработчики интегрируют возможности Voice Engine в собственную языковую модель ChatGPT-4, чтобы создавать развлекательный и обучающий контент.