• Учитель школы в округе Балтимор злонамеренно распространял слухи с помощью ИИ, пока директор вёл расследование по факту коррупции.
  • Учитель использовал технологию клонирования голоса на базе ИИ — это пример стремительного роста преступлений с её применением. Достаточно короткой аудиозаписи голоса длиной в несколько десятков секунд, чтобы в точности воспроизвести чужой голос.

Учитель физкультуры, который сгенерировал и распространил с помощью искусственного интеллекта поддельный голос директора, был арестован.Однако предъявленные ему обвинения связаны не с дипфейком, а с воспрепятствованием управлению школой, преследованием, домогательствами и кражей.

Распространение слуха

Учитель создал ИИ-голос директора школы Eric Eiswert, в которой он работал, и распространил его в социальных сетях. В дипфейк-записи, в частности, содержались расистские и антисемитские высказывания. Голос начинался со слов «неблагодарные чёрные дети», упоминал некоторых учителей и говорил: «Их нужно уволить».

В обвинительном заключении полиция написала, что созданный учителем ИИ-голос оказал значительное негативное влияние на сообщество. Как пояснил директор, его не только временно отстранили от работы в школе, но и стали присылать ему оскорбительные сообщения в соцсетях, а в школу поступало множество звонков.

Читайте также:Какой генератор голоса на основе ИИ сейчас используют все?

О технологии deepvoice

Deep voice («глубокий голос») — это сочетание deep learning (глубокого обучения) и голоса, метод обучения ИИ, при котором нейросеть изучает и воспроизводит голос конкретного человека. Чтобы использовать технологию deep voice, нужен «образец», на котором ИИ будет учиться. Подготовить такой образец слишком просто: достаточно 30-секундной аудиозаписи голоса цели.

Читайте также:Инструмент OpenAI для клонирования голоса воспроизводит ваш голос по 15-секундной записи

ИИ копирует даже эмоции, подражая высоте и громкости голоса в записи, поэтому результат получается очень правдоподобным.
Поскольку технология ИИ-клонирования голоса широко используется и в преступных целях, стоит остерегаться и фишинга с подменой голоса.