• Die FTC hat gegen fünf Unternehmen gehandelt, die KI auf irreführende Weise einsetzten, indem sie E-Commerce-Betrügereien aussetzte und Vereinbarungen mit DoNotPay und Rytr bezüglich irreführender Dienste erzielte.
  • Die FTC-Vorsitzende Lina Khan betonte, dass es keine Ausnahme für KI bei illegalen Aktivitäten gibt, während interne Debatten über regulatorische Ansätze für KI-Technologie weitergehen.

UNSERE EINSCHÄTZUNG
Das Vorgehen der FTC gegen irreführende KI-Praktiken markiert einen entscheidenden Schritt in der Regulierung der Technologieethik. Es stellt sicher, dass Unternehmen rechenschaftspflichtig bleiben, und schützt die Verbraucherrechte im Kontext des technologischen Fortschritts. Dies unterstreicht die Notwendigkeit transparenter Leitlinien und verantwortungsvoller Innovation, wobei Fortschritt mit rechtlicher Konformität und ethischen Standards in Einklang gebracht wird.
–Vicky Wu, BTW-Journalistin

Was geschah

Die US-amerikanischeFederal Trade Commission(FTC) hat Maßnahmen gegen fünf Unternehmen ergriffen, die angeblich künstliche Intelligenz (KI) in einer Weise einsetzten, die Verbraucher irreführte und unfair behandelte. Drei dieser Fälle betrafen Unternehmen, die vorgaben, Privatpersonen beim Aufbau von E-Commerce-Shops zur Erzielung passiven Einkommens zu helfen.

Die FTC erzielte außerdem eine Vereinbarung mitDoNotPay, einem Unternehmen, das automatisierte Rechtsdienstleistungen anbietet, und Rytr, einem KI-Schreibtool, dem vorgeworfen wird, Nutzern die Erstellung gefälschter Produktbewertungen zu ermöglichen. DoNotPay erklärte sich bereit, 193.000 US-Dollar zu zahlen und Kunden, die den Dienst zwischen 2021 und 2023 genutzt hatten, über die Grenzen seiner Rechtshilfefunktion zu informieren. Rytr seinerseits stimmte zu, die Bewertungsgenerierungsdienste einzustellen, die der FTC zufolge Nutzern ermöglichten, mit minimalem Aufwand Tausende von Bewertungen zu erstellen. Beide Unternehmen erzielten die Vereinbarung ohne Anerkennung eines Fehlverhaltens. Der Rechtsvertreter von Rytr antwortete nicht auf Anfragen zu diesem Fall.

Lesen Sie auch:FTC-Chefin Khan hofft, KI-Modelle zu öffnen, um den Wettbewerb zu verbessern

Lesen Sie auch:FTC leitet TikTok-Beschwerde an das Justizministerium weiter

Warum das wichtig ist

Die Maßnahmen der FTC zeigen eine entschlossene Haltung gegen den Missbrauch von KI-Technologien und untermauern den Grundsatz, dass KI Unternehmen nicht von der Einhaltung bestehender Gesetze befreit. Die Aussage von FTC-Vorsitzender Lina M. Khan, dass „der Einsatz von KI-Tools, um Menschen zu täuschen, in die Irre zu führen oder zu betrügen, illegal ist“, unterstreicht das Engagement der Behörde für den Verbraucherschutz im digitalen Zeitalter. Die Vereinbarungen mit DoNotPay und Rytr verdeutlichen die regulatorischen Herausforderungen, die KI-Anwendungen mit sich bringen, und die Notwendigkeit klarer Richtlinien für eine ethische Nutzung.

Darüber hinaus spiegelt die interne Debatte zwischen den FTC-Kommissaren über den Umfang der Befugnisse der Behörde bei der KI-Regulierung die breitere gesellschaftliche Debatte darüber wider, wie Innovation und Verbraucherrechte in Einklang gebracht werden können. Diese Entwicklung dient als Warnung an andere Unternehmen: Die FTC wird aktiv gegen diejenigen vorgehen, die KI zu irreführenden Zwecken einsetzen.