Ein Schichtenmodell für KI-Governance

Ein Schichtenmodell für KI-Governance wird von BTW Media profiliert, weil veröffentlichte Beweise es mit Internet-Infrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Künstliche Intelligenz (KI) ist die Fähigkeit eines digitalen Computers oder eines computergesteuerten Roboters, Aufgaben auszuführen, die üblicherweise mit intelligenten Wesen in Verbindung gebracht werden.
• Die KI-Governance ist der rechtliche Rahmen, der sicherstellt, dass KI- und maschinelle Lerntechnologien erforscht und entwickelt werden, um der Menschheit zu helfen, diese Systeme ethisch und verantwortungsvoll zu übernehmen und zu nutzen.
• Die Größe, Vielfalt, Komplexität und der Grad der technologischen Unabhängigkeit von KI-Systemen erfordern eine Neubewertung von Gesetzen, Vorschriften und Richtlinien. Wir verwenden ein analytisches Modell mit 3 Schichten, um die Komplexität der KI-Governance darzustellen.

Künstliche Intelligenz(KI) ist eine Technologie, die es Computern und Maschinen ermöglicht, menschliche Intelligenz und Problemlösungsfähigkeiten zu simulieren. Aus technischer Sicht ist KI keine einzelne Technologie, sondern vielmehr eine Reihe von Techniken und Teildisziplinen, die von Bereichen wie Spracherkennung und Computer Vision bis hin zu Aufmerksamkeit und Gedächtnis reichen, um nur einige zu nennen.

Aus phänomenologischer Sicht wird der Begriff KI jedoch oft als Oberbegriff für ein gewisses Maß an Autonomie verwendet, das fortschrittliche medizinische Diagnosesysteme, digitale Tutoren der nächsten Generation, autonome Autos und andere KI-basierte Anwendungen zeigen. Diese Anwendungen wirken sich wiederum oft auf das menschliche Verhalten aus und entwickeln sich dynamisch, manchmal unvorhergesehen von den Systemdesignern.

Was ist KI-Governance?

Die Governance der künstlichen Intelligenz (KI)bezieht sich auf die Schutzmaßnahmen, die sicherstellen, dass KI-Tools und -Systeme sicher und ethisch sind und bleiben. Sie legt die Rahmenbedingungen, Regeln und Standards fest, die die Forschung, Entwicklung und Anwendung von KI leiten, um Sicherheit, Fairness und die Achtung der Menschenrechte zu gewährleisten.

KI-Governance umfasst Überwachungsmechanismen, die Risiken wie Voreingenommenheit, Datenschutzverletzungen und Missbrauch behandeln, während gleichzeitig Innovation und Vertrauen gefördert werden. Ein ethikorientierter Ansatz für KI-Governance erfordert die Einbeziehung eines breiten Spektrums von Interessengruppen, darunter KI-Entwickler, -Nutzer, politische Entscheidungsträger und Ethiker, um sicherzustellen, dass KI-bezogene Systeme entwickelt und genutzt werden, um sich an den gesellschaftlichen Werten zu orientieren.

Die Governance zielt darauf ab, die notwendige Überwachung zu etablieren, um das KI-Verhalten an ethischen Standards und gesellschaftlichen Erwartungen auszurichten und vor potenziellen negativen Auswirkungen zu schützen.

KI-Governance ist unerlässlich, um einen Zustand der Konformität, des Vertrauens und der Effizienz bei der Entwicklung und Anwendung von KI-Technologien zu erreichen. Mit der zunehmenden Integration von KI in organisatorische und staatliche Abläufe ist ihr Potenzial für negative Auswirkungen sichtbarer geworden.

Hochkarätige Fehltritte wie der Vorfall mit dem Chatbot Tay (Link befindet sich außerhalb von ibm.com), bei dem ein KI-Chatbot von Microsoft aus öffentlichen Interaktionen in sozialen Medien toxisches Verhalten lernte, und die voreingenommenen Verurteilungsentscheidungen der COMPAS-Software (Link befindet sich außerhalb von ibm.com) haben die Notwendigkeit einer robusten Governance zur Vermeidung von Schäden und zur Aufrechterhaltung des öffentlichen Vertrauens unterstrichen.

Das Schichtenmodell

Eines der wichtigsten Werkzeuge zur Verwaltung komplexer Systeme ist die Modularität. Indem sie Aufgaben, die ein hohes Maß an Interdependenz erfordern, von solchen unterscheidet, die dies nicht tun, versucht die Modularität, die Anzahl der zu analysierenden Interdependenzen zu minimieren. Eine spezifische Art von Modularität, bekannt als Schichtung (Layering), zeichnet sich durch die Anordnung verschiedener Systemkomponenten in parallelen Hierarchien aus.

Es gibt ein Vier-Schichten-Modell zur Veranschaulichung der Natur des Cyberspace: Erstens die Entitäten mit kybernetischer Erfahrung; zweitens die Informationen, die im Cyberspace übertragen, gespeichert und transformiert werden. Drittens bestehen die Dienste aus logischen Bausteinen, und viertens unterstützen die physischen Grundlagen die logischen Elemente.

Wir versuchen, die komplexe Natur der KI-Governance mit einem analytischen 3-Schichten-Modell zu erfassen.

Lesen Sie auch:KI: Chancen und Bedrohungen

1. Die technische Schicht

Die Algorithmen und Daten, die die Grundlage des KI-Governance-Ökosystems bilden, befinden sich in der technischen Schicht. Ob Software (wie Strafjustiz- oder medizinische Diagnosesysteme oder intelligente persönliche Assistenten) oder physisch (wie kommerzielle Roboter und autonome Autos), KI- und autonome Systeme sind auf Daten und Algorithmen angewiesen. Im Rahmen eines Dagstuhl-Seminars zu „DataResponsibly“ wurde ein Satz von Leitlinien für verantwortungsvolle Algorithmen erstellt, begleitet von einem Vorschlag für eine soziale Folgenabschätzung.

Die vorgeschlagenen Leitprinzipien für sozial verantwortliche Algorithmen sind: Verantwortung, Erklärbarkeit, Genauigkeit, Relevanz und Fairness. Daten-Governance, d. h. der Prozess der Erfassung, Nutzung und Verwaltung von Daten durch KI-Algorithmen, sollte sich an Prinzipien halten, die Fairness wahren und Diskriminierung aufgrund von Rasse, Hautfarbe, nationaler Herkunft, Religion, Geschlecht, sexueller Orientierung oder Behinderung verhindern.

Lesen Sie auch:Was ist Perplexity AI?

2. Die ethische Schicht

Oberhalb der technischen Ebene könnten wir breite ethische Fragen diskutieren, die alle Arten von KI-Systemen und -Anwendungen betreffen. Die Menschenrechtsprinzipien stellen eine wichtige Quelle für die Entwicklung dieser ethischen Grundsätze dar. Die allgemeinen IEEE-Grundsätze für KI und autonome Systeme sind ein weiteres Beispiel dafür, wie ethische Standards für KI Gestalt anzunehmen beginnen. Algorithmusgesteuerte Aktionen können anhand moralischer Normen und Vorschriften bewertet werden.

Das ethische Prinzip der Gleichbehandlung oder Fairness wäre beispielsweise verletzt, wenn eine KI-Anwendung die Daten einer Versicherungsgesellschaft untersuchen und einer bestimmten Personengruppe aufgrund von Faktoren wie Geschlecht oder Alter höhere Prämien auferlegen würde.

3. Die soziale und rechtliche Schicht

Der Prozess der Schaffung von Institutionen und der Zuweisung von Rollen für die Regulierung von KI und autonomen Systemen könnte durch die soziale und rechtliche Schicht abgedeckt werden. Mit anderen Worten, ein Entscheidungsgremium hätte die Befugnis, KI zu definieren, Ausnahmen zu machen, die es Forschern ermöglichen würden, in bestimmten Kontexten KI-Forschung zu betreiben, ohne streng für ihre Handlungen verantwortlich zu sein, und ein Zertifizierungsverfahren für KI einzurichten.

Die Prinzipien und Standards aus den technischen und ethischen Schichten sowie aus allgemeineren nationalen und internationalen Rechtsrahmen, wie denen zu den Menschenrechten, können als Grundlage für besondere Normen zur Regulierung von KI dienen. Um ein angemessenes Verhalten für KI und autonome Systeme zu definieren, bietet das Schichtenmodell einen Rahmen für das Nachdenken über KI-Governance.

Algorithmische Entscheidungsfindungs- und KI-Systeme können ihre Governance-Strukturen durch eine Kombination aus mehrschichtigen und mehrstufigen Ansätzen implementieren. Wir beschreiben hier einige dieser Schichten, wobei wir bedenken, dass einige nur dann berücksichtigt würden, wenn das mit bestimmten KI-Anwendungen verbundene Risiko signifikant und überprüfbar wäre. Governance-Verfahren können auf nationaler oder internationaler Ebene eingesetzt werden und von Regierungsstrukturen bis hin zu marktorientierten Lösungen reichen.