Бірнеше күн бұрын мәтінді дыбысқа айналдыруға және өзгенің даусын қайталауға мүмкіндік беретін ElevenLabs стартап-платформасының бета-нұсқасы іске қосылды. Алайда желі қолданушылары құрылғыны теріс мақсатта қолдана бастады. Бұл туралы Engadget хабарлады.
Платформаны әзірлеген компанияның Twitter-дегі хабарламасына сәйкес, дауысты дұрыс емес мақсатта клондап жатқандар көбейген. Сол себепті олар бұл мәселені “қосымша сақтық шараларын енгізу” арқылы шешуге тырысып жатыр.
Компания “бұрыс мақсатта пайдалану” деп нені меңзегенін нақтыламады. Дегенмен 4chan веб-форумның қолданушылары сөз синтезаторы арқылы атақты адамдардың даусын қайталап, күмәнді заттар айта бастаған. Мысалы, желіде “Майн Кампфты” оқыған әйелдің аудиосы пайда болды: дауыс актриса Эмма Уотсондікіне ұқсайды. Сонымен қатар пайдаланушылар гомофоб және нәсілшілдікті сипаттайтын аудиоларды да жариялаған. Адамдардың мұның бәрін жасауда ElevenLab технологиясын қолданып-қолданбағаны белгісіз, бірақ 4chan-дағы дауыс файлдарының көп жиынтығы бар хабарламаның бірінде стартап платформасына сілтеме көрсетілген.
Қазір ElevenLabs мәселені шешуге арналған түрлі ұсынысты қарастырып жатыр: тіркеулік жазбасын қосымша тексеру, төлем ақпаратын немесе идентификаторын енгізуді міндеттеу, даусы клондалатын адамның авторлық құқығын сақтап, одан рұқсат сұрау. Сонымен қатар компания қолданушылардың клондау үшін жіберген дауысты қолмен тексеру үшін өзінің Voice Lab құралынан бас тартуды қарастырып отыр.
