• Künstliche Intelligenz (KI) ist die Fähigkeit eines digitalen Computers oder eines computergesteuerten Roboters, Aufgaben auszuführen, die üblicherweise mit intelligenten Wesen in Verbindung gebracht werden.
  • Die KI-Governance ist der rechtliche Rahmen, der sicherstellt, dass KI- und maschinelle Lerntechnologien erforscht und entwickelt werden, um der Menschheit zu helfen, diese Systeme ethisch und verantwortungsvoll zu übernehmen und zu nutzen.
  • Die Größe, Vielfalt, Komplexität und der Grad der technologischen Unabhängigkeit von KI-Systemen erfordern eine Neubewertung von Gesetzen, Vorschriften und Richtlinien. Wir verwenden ein analytisches Drei-Schichten-Modell, um die Komplexität der KI-Governance darzustellen.

Künstliche Intelligenz, oder KI, ist eine Technologie, die Computern und Maschinen ermöglicht, menschliche Intelligenz und Problemlösungsfähigkeiten zu simulieren. Aus technischer Sicht ist KI keine einzelne Technologie, sondern vielmehr eine Reihe von Techniken und Unterdisziplinen, die von Bereichen wie Spracherkennung und Computer Vision bis hin zu Aufmerksamkeit und Gedächtnis reichen, um nur einige zu nennen.

Aus phänomenologischer Sicht wird der Begriff KI jedoch oft als Oberbegriff verwendet, um einen gewissen Grad an Autonomie zu bezeichnen, den fortschrittliche medizinische Diagnosesysteme, digitale Tutoren der nächsten Generation, autonome Autos und andere KI-basierte Anwendungen zeigen. Oft haben diese Anwendungen wiederum Auswirkungen auf das menschliche Verhalten und entwickeln sich dynamisch, manchmal unvorhergesehen von den Systemdesignern.

Was ist KI-Governance?

Die Governance der künstlichen Intelligenz (KI)bezieht sich auf die Sicherheitsvorkehrungen, die sicherstellen, dass KI-Werkzeuge und -Systeme sicher und ethisch sind und bleiben. Sie legt die Rahmenbedingungen, Regeln und Standards fest, die die Forschung, Entwicklung und Anwendung von KI leiten, um Sicherheit, Fairness und die Achtung der Menschenrechte zu gewährleisten.

Die KI-Governance umfasst Überwachungsmechanismen, die sich mit Risiken wie Voreingenommenheit, Datenschutzverletzungen und Missbrauch befassen, während gleichzeitig Innovation und Vertrauen gefördert werden. Ein ethisch zentrierter Ansatz für die KI-Governance erfordert die Einbeziehung eines breiten Spektrums von Interessengruppen, darunter KI-Entwickler, -Nutzer, politische Entscheidungsträger und Ethiker, um sicherzustellen, dass KI-bezogene Systeme im Einklang mit gesellschaftlichen Werten entwickelt und genutzt werden.

Die Governance zielt darauf ab, die notwendige Überwachung zu etablieren, um das Verhalten der KI an ethischen Normen und gesellschaftlichen Erwartungen auszurichten und sich vor potenziellen negativen Auswirkungen zu schützen.

KI-Governance ist unerlässlich, um einen Zustand der Konformität, des Vertrauens und der Effektivität bei der Entwicklung und Anwendung von KI-Technologien zu erreichen. Mit der zunehmenden Integration von KI in organisatorische und staatliche Abläufe ist das Potenzial für negative Auswirkungen sichtbarer geworden.

Weithin bekannte Fehltritte wie der Vorfall mit dem Chatbot Tay (Link außerhalb von ibm.com), bei dem ein KI-Chatbot von Microsoft aus öffentlichen Interaktionen in sozialen Medien toxisches Verhalten lernte, und die voreingenommenen Verurteilungsentscheidungen der Software COMPAS (Link außerhalb von ibm.com) haben die Notwendigkeit einer robusten Governance zur Schadensverhütung und zur Aufrechterhaltung des öffentlichen Vertrauens deutlich gemacht.

Das Schichtenmodell

Eines der Schlüsselwerkzeuge für das Management komplexer Systeme ist die Modularität. Indem sie Aufgaben, die eine umfangreiche gegenseitige Abhängigkeit erfordern, von solchen unterscheidet, die dies nicht tun, versucht die Modularität, die Anzahl der zu analysierenden gegenseitigen Abhängigkeiten zu minimieren. Eine spezifische Art der Modularität, bekannt als Schichtung (Layering), zeichnet sich durch die Anordnung verschiedener Systemkomponenten in parallelen Hierarchien aus.

Es gibt ein Vier-Schichten-Modell zur Veranschaulichung der Natur des Cyberspace: Erstens die Entitäten mit kybernetischer Erfahrung; zweitens die Informationen, die im Cyberspace übertragen, gespeichert und transformiert werden. Drittens bestehen die Dienste aus logischen Bausteinen, und viertens unterstützen die physischen Grundlagen die logischen Elemente.

Wir versuchen, die komplexe Natur der KI-Governance zu erfassen, indem wir ein analytisches Drei-Schichten-Modell verwenden.

Lesen Sie auch:KI: Chancen und Risiken

1. Die technische Schicht

Die Algorithmen und Daten, die die Grundlage des KI-Governance-Ökosystems bilden, befinden sich in der technischen Schicht. Ob softwarebasiert (wie Strafjustiz- oder medizinische Diagnosesysteme oder intelligente persönliche Assistenten) oder physisch (wie kommerzielle Roboter und autonome Autos), KI- und autonome Systeme sind auf Daten und Algorithmen angewiesen. Ein Satz von Richtlinien für verantwortungsvolle Algorithmen wurde im Rahmen eines Dagstuhl-Seminars über „DataResponsibly" erstellt, begleitet von einem Vorschlag für eine soziale Folgenabschätzung.

Die vorgeschlagenen Leitprinzipien für sozial verantwortliche Algorithmen sind: Verantwortlichkeit, Erklärbarkeit, Genauigkeit, Relevanz und Fairness. Daten-Governance, also der Prozess der Erhebung, Nutzung und Verwaltung von Daten durch KI-Algorithmen, sollte an Prinzipien gebunden sein, die Fairness wahren und Diskriminierung aufgrund von Rasse, Hautfarbe, nationaler Herkunft, Religion, Geschlecht, Geschlechtsidentität, sexueller Orientierung oder Behinderung verhindern.

Lesen Sie auch:Was ist Perplexity AI?

2. Die ethische Schicht

Oberhalb der technischen Ebene könnten wir breite ethische Fragen diskutieren, die alle Arten von KI-Systemen und -Anwendungen betreffen. Die Menschenrechtsprinzipien sind eine wichtige Quelle für die Entwicklung dieser ethischen Grundsätze. Die allgemeinen Grundsätze des IEEE für KI und autonome Systeme sind ein weiteres Beispiel dafür, wie ethische Normen für KI Gestalt annehmen. Algorithmengesteuerte Handlungen können anhand moralischer Normen und Vorschriften bewertet werden.

Das ethische Prinzip der Gleichbehandlung oder Fairness wäre beispielsweise verletzt, wenn eine KI-Anwendung die Daten einer Versicherungsgesellschaft untersuchen und einer bestimmten Personengruppe aufgrund von Faktoren wie Geschlecht oder Alter höhere Prämien auferlegen würde.

3. Die soziale und rechtliche Schicht

Der Prozess der Schaffung von Institutionen und der Zuweisung von Rollen für die Regulierung von KI und autonomen Systemen könnte durch die soziale und rechtliche Schicht abgedeckt werden. Mit anderen Worten, ein Entscheidungsgremium hätte die Befugnis, KI zu definieren, Ausnahmen zu schaffen, die es Forschern ermöglichen würden, KI in spezifischen Kontexten zu erforschen, ohne streng für ihre Handlungen verantwortlich zu sein, und ein Zertifizierungsverfahren für KI einzurichten.

Die Prinzipien und Normen aus den technischen und ethischen Schichten sowie allgemeinere nationale und internationale Rechtsrahmen, wie die Menschenrechte, können als Grundlage für spezielle Normen zur Regulierung von KI dienen. Um angemessenes Verhalten für KI und autonome Systeme zu definieren, bietet das Schichtenmodell einen Rahmen zum Nachdenken über KI-Governance.

Algorithmische Entscheidungsfindungs- und KI-Systeme können ihre Governance-Strukturen durch eine Kombination von Multi-Layer- und Multi-Level-Ansätzen implementieren. Wir beschreiben hier einige dieser Schichten, wobei wir bedenken, dass einige nur berücksichtigt würden, wenn das mit bestimmten KI-Anwendungen verbundene Risiko erheblich und überprüfbar wäre. Governance-Verfahren können auf nationaler oder internationaler Ebene eingesetzt werden und von staatlichen Strukturen bis hin zu marktorientierten Lösungen reichen.