IGF 2023: KI und Big Data könnten die Welt beherrschen – und auch retten

IGF 2023: AI plus big data could take over the world – and also save it wird von BTW Media profiliert, da veröffentlichte Belege es mit Internet-Infrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

In einem riesigen mehrstöckigen Konferenzzentrum mit Blick auf einen stilisierten See und mit einem grünen Berg als Kulisse versammelten sich kürzlich Tausende von Delegierten in Kyoto, Japan, um über die Zukunft des Internets zu diskutieren und nachzudenken.

Diese fünftägige Veranstaltung war voll von den üblichen Ausdrücken und Redeausschnitten, die man von einer Konvention mit hochrangigen Politikern und Sprechern von Unternehmen und Organisationen erwartet – „Multi-Stakeholder-Engagement“, „Zusammenarbeit“, „Vertraulichkeit, Sicherheit und Schutz“ gehörten zu den am häufigsten genannten Begriffen. Aber einige Sitzungen gingen über das einfallslose Fachjargon hinaus und offenbarten zwei gewichtige Realitäten.

Erstens: Künstliche Intelligenz (KI), wohl die mächtigste technologische Entwicklung, die die Welt je gesehen hat, ist eine gewaltige Kraft für das Gute, und sie wäre ein noch gewaltigerer Gegner. Die Entwicklungen in diesem Bereich müssen sicherstellen, dass die Menschheit die KI besitzt und kontrolliert, und wir dürfen niemals zulassen, dass sich dieses Verhältnis umkehrt. Zweitens: Die Erhebung, der Fluss und der Austausch von Daten, insbesondere über internationale Grenzen hinweg, bieten ähnliche Chancen für spektakuläre Fortschritte, insbesondere in Kombination mit KI, sind aber auch mit Bedrohungen verbunden.

Zur Veranschaulichung:

Jedes Mal, wenn beispielsweise ein Erdbeben in Japan auftritt, liefert es enorme Datenmengen, die mit KI-Modellen analysiert werden können, um zukünftige Beben vorherzusagen und sicherzustellen, dass das nächste weniger schädlich ist und Leben gerettet werden. Wenn diese Daten über internationale Grenzen hinweg geteilt werden, könnten die seismischen Daten Japans auch in anderen Ländern Leben retten und umgekehrt.

Aber die Fähigkeit der KI zu „halluzinieren“ – Dinge zu erfinden – ist bereits gut dokumentiert, und eine falsche Vorhersage einer bevorstehenden Katastrophe, insbesondere wenn sie Evakuierungsbefehle einschließt, könnte unglaublich störend und potenziell gefährlich sein. Darüber hinaus müssen die zur Fütterung der KI verwendeten Daten genau, zuverlässig und frei von Datenschutz- und Cybersicherheitsproblemen sein, und auf einer politischeren Ebene müssen sie sowohl von technologisch fortgeschrittenen als auch von sich entwickelnden Gesellschaften nutzbar sein.

Es besteht beispielsweise die Gefahr, dass fortgeschrittene Länder die Daten anderer Länder nehmen und nutzen, ohne anschließend die aus der KI-Analyse dieser Daten gewonnenen Erkenntnisse zu teilen.

„Daten sind das Lebenselixier vieler Volkswirtschaften heute“, sagte Taro Kono, Japans Minister für digitale Transformation und Reform, in einer der Eröffnungssitzungen. „Aber sie sind fragmentiert, die Governance ist fragmentiert, die politischen Entscheidungsträger sind sich der aufkommenden Technologien, die helfen können, nicht immer bewusst, und die breite Öffentlichkeit muss die Bedrohungen durch Fehlinformationen und die Genauigkeit der Daten verstehen.“

À lire aussi:China verschärft Vorschriften für KI-Trainingsdaten

Wie KI und Daten bei COVID geholfen haben

Die Vorteile dieser Kombination von KI und Daten waren besonders während derEntwicklung der COVID-19-Impfstoffesichtbar. „COVID hat gezeigt, wie wichtig Daten sind, um Innovationen im Gesundheitswesen freizusetzen“, sagte Courtney Gregoire, Chief Digital Safety Officer bei Microsoft. „Gute Daten bringen bessere Ideen, bessere Produktivität und helfen jedem. Aber die Bürger müssen das Gefühl haben, dass ihre Daten sicher und geschützt sind, deshalb brauchen wir vertrauenswürdige Mechanismen für den Datentransfer.“

Moderna und Pfizer konnten ihre COVID-Impfstoffe in Rekordzeit entwickeln und viel effizienter verteilen, dank KI-Methoden und Datenfreigabeprotokollen. So lange die Pandemie auch erschien, sie wäre ohne die Entwicklungen in der KI und Datenfreigabe, die ein weltweites Impfprogramm ermöglichten, viel schlimmer gewesen.

Entwicklungen wieDHIS2 der Universität Oslowerden auch bei zukünftigen Gesundheitsinitiativen und Ausbrüchen helfen. Es handelt sich um ein Open-Source-Gesundheitsinformationssystem, das bereits in 100 Ländern eingesetzt wird, die zugestimmt haben, ihre Daten auf dem System zu teilen.

Und die InitiativeData Free Flow with Trust (DFFT), die 2019 von Japan ins Leben gerufen wurde, wird Menschen aus Regierung, Wissenschaft, Privatsektor und Zivilgesellschaft (NGOs, Verbraucherorganisationen) zusammenbringen, um einige der bestehenden Lücken in den Leitlinien zu schließen (wo sie existieren) für die Bereitstellung und Nutzung von Daten.

À lire aussi:Wert von Worldcoin fällt um 50 Prozent angesichts zunehmender Datenschutzbedenken

KI-Bias und wie man ihn behebt

Neben den unglaublichen Gewinnen, die durch die Nutzung globaler Daten und KI erzielt werden können, gibt es auch Schwächen, zumindest derzeit. Kleine Mängel in den Daten können durch die Maschine verstärkt werden. „Bias in der KI ist sehr real“, sagte Ivana Bartoletti, Global Chief Privacy Officer bei Wipro. „Wir wissen, dass KI Frauen beispielsweise schlechter bezahlte Jobs vorschlägt, daher werden automatisierte Entscheidungsfindung und diese Biases Leben beeinflussen.“

Das Problem ist jedoch nicht nur technologisch, da KI-Modelle immer auf vorhandenen Daten und Informationen trainiert werden, die von Menschen geprägt sind. „Diese Probleme können aus technischer Sicht angegangen werden, aber das Problem ist tiefer“, fügte Bartoletti hinzu. „Es ist in der Gesellschaft verwurzelt.“

DerHiroshima-Prozesshofft, dies bald anzugehen. Der „G7-Hiroshima-Prozess für generative künstliche Intelligenz“, der beim G7-Gipfel in Hiroshima Anfang 2023 ins Leben gerufen wurde, soll einen Verhaltenskodex sowie zu berücksichtigende Fragen für alle, die generative KI-Modelle verwenden, bereitstellen. Der Abschlussbericht wird vor Ende 2023 vorgelegt.

Fehlinformation und Desinformation in generativer KI

Eine der größten Sorgen bezüglich generativer KI ist natürlich die Produktion und Verbreitung von „Fake News“ – Bilder, Videos und Geschichten, die die Realität zu dokumentieren scheinen, aber Fiktionen sind und oft mit schädlicher Absicht erstellt werden. „Technologie hat unsere Biologie gehackt, um unsere rationalen Gedanken zu umgehen, während die verschiedenen Plattformen um unsere Aufmerksamkeit konkurrieren“, sagte Maria Ressa, CEO und Gründerin von Rappler und Friedensnobelpreisträgerin von 2021. „Siebzig Prozent der Welt sind jetzt unter autoritären Regimen, und die Social-Media-Plattformen leugnen, lenken ab und verzögern weiterhin.

Wir müssen schneller handeln. Es ist ein kultureller Moment für die Welt.“

À lire aussi:Ein Deepfake von MrBeast, der iPhones für 2 Dollar verkauft, wird auf TikTok viral

Ressa betonte, dass „Lügen sich sechsmal schneller verbreiten als die Wahrheit“, eine Statistik, dievom MIT Media Lab entdecktwurde, und erklärt wird durch die Tatsache, dass Falschmeldungen fast immer darauf ausgelegt sind, unsere emotionalen Reaktionen auszunutzen, während trockene Fakten dies nicht tun.

Der Präsident für globale Angelegenheiten von Meta, Nick Clegg, betonte die Arbeit, die sie leisten, indem sie KI selbst nutzen, um die negativen Aspekte der generativen KI zu bekämpfen. „Hassreden auf Facebook treten mit einer Rate von etwa 0,01 % bis 0,02 % auf, das heißt, auf 10.000 Beiträge, die Sie durchscrollen, könnten ein oder zwei als schädlich angesehen werden. Und das ist in den letzten 18 Monaten um 60 % zurückgegangen, dank unseres Einsatzes von KI, um sie zu bekämpfen. Wir nutzen KI also als Werkzeug, um das Schlechte zu minimieren und das Gute zu verstärken.“

Der Präsident für globale Angelegenheiten von Google, Kent Walker, hob ebenfalls die Arbeit hervor, die Google leistet, wie etwa mit SynthID, das versucht, KI-generierte Inhalte zu erkennen und als solche zu kennzeichnen, und dem Secure AI Framework (SAIF), das darauf abzielt, Risiken bei der Implementierung und Nutzung von KI-Modellen zu reduzieren, insbesondere im Hinblick auf Daten.

„Das Identifizieren von Bildern und Videos auf Pixelebene, damit wir ihre Herkunft authentifizieren können, das Kennzeichnen von KI-Bildern in Wahlwerbung – all dies dient dazu, die zugrunde liegende Bedeutung von Inhalten zu verstehen, um zu bestimmen, was wir vertrauen können und was nicht“, sagte er.

Dieses Wort „Vertrauen“ war der Auftakt des viertägigen Treffens, und es ist passend, dass es immer wieder auftauchte. Maria Ressa betonte nachdrücklich, dass Vertrauen im Zentrum der Probleme und Chancen steht, die KI mit sich bringt, und dass alles mit der Genauigkeit der Daten beginnt, mit denen KI trainiert wird. „Ohne Fakten gibt es keine Wahrheit, und ohne Wahrheit gibt es kein Vertrauen, und ohne diese drei Dinge gibt es keine Freiheit und keine Demokratie.“

Da generative KI „sofort einen Tsunami von Informationen erzeugen kann“, um Tatsuhiko Yamamoto, Professor an der juristischen Fakultät der Keio-Universität, zu zitieren, ist jede Arbeit, die dazu beitragen kann, die Epidemie von Falschmeldungen einzudämmen, lohnenswert.