Инструмент AI Voice используют для создания дипфейковых аудиоклипов знаменитостей.
Не так давно стартап ElevenLabs запустил в свободный доступ бета-версию платформы для клонирования и синтеза человеческого голоса. Воспользоваться сервисом может любой зарегистрированный пользователь. Для синтеза голоса необходимо загрузить образец длительностью больше одной минуты.
Если раньше для процесса синтеза требовались гигабайты записанной речи, то сейчас это можно сделать за считанные секунды. Сервис быстро стал популярен среди интернет троллей и в сети стало появляться большое количество аудио, где знаменитые люди (например Джо Роган, Робин Уильямс и Эмма Уотсон) говорят непристойные и даже жестокие вещи.
ElevenLabs обеспокоена быстрым ростом количества злоупотреблений программой и уже предложила несколько мер безопасности, чтобы урегулировать этот вопрос, таких как тщательная проверка учётных записей и личности пользователя, и возможный полный отказ от бесплатной и публичной версии.
