Telekommunikationsbetreiber zahlt 1 Million Dollar für Biden-Deepfake

Das Telekommunikationsunternehmen, das sich auf eine 1-Millionen-Dollar-Strafe wegen des Biden-Deepfakes einigte, wird von BTW Media profiliert, da veröffentlichte Belege es mit Internet-Infrastruktur, Governance, Betriebsabhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Die Bundesbehörden hoffen, dass diese Einigung die irreführende Nutzung von KI-generierten Bildern, die als Politiker und andere auftreten, abschrecken wird.
• Ein Telekommunikationsunternehmen hat sich bereit erklärt, eine Million Dollar Strafe zu zahlen für seine Rolle bei einem Deepfake-Roboter, der die Stimme von Präsident Joe Biden vor der Vorwahl der Demokraten in New Hampshire imitierte, gaben die Bundesbehörden am Mittwoch bekannt.

UNSERE ANALYSE
Es besteht kein Zweifel, dass diese Entscheidung einen gewissen Druck auf Biden ausgeübt hat, aber es ist noch nicht klar, was der Aufstieg der KI für die allgemeinen Wahlen bedeutet. Der Einsatz von KI zur Unterstützung von Politikern ist nicht per se verwerflich, aber der Missbrauch der KI-Technologie wird letztlich versteckte Gefahren für die kommenden Tage säen. Die zuständigen Behörden sollten mit diesem Fall beginnen und den Einsatz von KI regulieren.
— Iydia Ding, BTW-Journalistin

Was geschah

Lingo Telecom, ein Telekommunikationsunternehmen, hat sich bereit erklärt, eine Million Dollar Strafe zu zahlen für seine Rolle bei einem Deepfake-Roboter, der die Stimme von PräsidentJoe Bidenvor der Vorwahl der Demokraten in New Hampshire imitierte, gaben die Bundesbehörden am Mittwoch bekannt. Der Roboter nutzte eine KI-generierte Simulation von Bidens Stimme, um den Wählern in New Hampshire zu sagen, sie sollten bei der Vorwahl der Demokraten im Januar nicht wählen.

Wie NBC News zuerst enthüllte, wurde der Anruf von dem langjährigen politischen BeraterSteve Kramerorchestriert, der damals für eine konkurrierende Kampagne arbeitete, obwohl Kramer sagte, er habe dies getan, um auf die Gefahren von Deepfakes aufmerksam zu machen. Kramer und sein damaliger Arbeitgeber, der demokratische Abgeordnete aus Minnesota, Dean Phillips, bestanden darauf, dass kein Mitglied des Kampagnenteams Kramer angeleitet oder auch nur von seinen Aktionen gewusst habe.

Kramer sieht sich zudem einer separaten Strafe von 6 Millionen Dollar durch die FCC und 26 Anklagepunkten wegen Wählereinschüchterung und Amtsanmaßung in New Hampshire gegenüber. Er befindet sich derzeit auf Kaution.

Lesen Sie auch:Hat Präsident Biden die Wähler angerufen? Personen melden Anrufe, die die Vorwahl in New Hampshire anprangern

Lesen Sie auch:Congo Telecom schult Polizeikadetten in Cybersicherheitspraktiken

Warum es wichtig ist

Lingo Telecom, ein Sprachanbieter, der automatisierte KI-generierte Anrufe über „gefälschte“ Telefonnummern verteilt hat, wird eine siebenstellige Strafe zahlen und ein strengeres Überwachungsprotokoll akzeptieren, in dem, was die Bundesbehörden als ersten Durchsetzungsschritt gegen bösartige Deepfakes oder KI-gesteuerte Identitätsanmaßung bezeichnen.

„Wählereinschüchterung, ob persönlich oder durch automatisierte Deepfake-Anrufe, Online-Desinformationskampagnen oder andere KI-gesteuerte Taktiken, kann ein echtes Hindernis für Wähler darstellen, die in unserer Demokratie ihre Stimme abgeben wollen“, sagte die Leiterin der Bürgerrechtsabteilung des Justizministeriums, Kristen Clarke, in einer Erklärung.

Der Biden-Roboter war der erste Einsatz von Deepfakes in der US-amerikanischen Innenpolitik, weshalb die Behörden nach eigenen Angaben schnell und aggressiv gehandelt haben, um politische Deepfakes zu unterbinden, die in mehreren anderen Ländern immer häufiger vorkommen.

„Indem die FCC Lingo Telecom für seine Rolle bei der Übermittlung gefälschter Roboteranrufe mit KI-generierten Nachrichten zur Verantwortung zieht, sendet sie ein starkes Signal, dass sie Wahlbeeinträchtigung und Technologien zur Identitätsanmaßung nicht tolerieren wird“, sagte der Generalstaatsanwalt von New Hampshire, John Formella, in einer Erklärung.