Google spaltet seinen wichtigsten KI-Ethik-Watchdog

Die Aufspaltung eines wichtigen KI-Ethik-Watchdogs durch Google wird von BTW Media profiliert, da öffentliche Belege eine Verbindung zur Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit herstellen.

• Das wichtigste interne Ethik-Überwachungsgremium von Google, RESIN, steht vor einer Umstrukturierung.
• Die Umstrukturierung beinhaltet die Aufteilung des Teams, wobei 10 % bei RESIN verbleiben und 90 % in die Abteilung für Vertrauen und Sicherheit verlagert werden, was Googles Engagement für ethische KI-Praktiken unterstreicht.
• Einflussreiche Mitglieder, darunter Jen Gennai und Sara Tangdall, haben RESIN diesen Monat verlassen, was Fragen zur Zukunft der KI-Überwachung bei Google aufwirft.

In der jüngsten Mitteilung vonSundar Pichaizu den Prioritäten vonGooglefür 2024 stand die verantwortungsvolle KI-Entwicklung im Vordergrund. Allerdings sind bei den Mitarbeitern Bedenken aufgekommen, ob das Unternehmen dieses Ziel erreichen kann. Das interne Ethik-Überwachungsgremium, das Team für verantwortungsvolle Innovation bei Google (RESIN), wird derzeit umstrukturiert, nachdem seine Leiterin und Gründerin Jen Gennai plötzlich ausgeschieden ist, was Unsicherheiten über die zukünftige Rolle von RESIN aufwirft. Trotzdem versichert Google, dass die Arbeit von RESIN in gestärkter Form fortgesetzt wird, und betont das Engagement des Unternehmens für eine verantwortungsvolle KI.

RESIN wird mit dem Wachstum generativer KI immer wichtiger

RESIN, das im Büro für Compliance und Integrität in der Abteilung für globale Angelegenheiten angesiedelt ist, spielte eine entscheidende Rolle bei der Prüfung interner Projekte, um die Einhaltung der KI-Prinzipien von Google sicherzustellen. Diese Verantwortung wurde zunehmend wichtiger, da Google im schnelllebigen Bereich dergenerativen KIim Wettbewerb steht. Das Team führte im letzten Jahr über 500 Prüfungen durch und trug damit erheblich zu Googles Engagement für ethische KI-Praktiken bei.

Mit dem Ausscheiden von Jen Gennai scheint das Schicksal von RESIN ungewiss, was Google dazu veranlasst, das etwa 30-köpfige Team aufzuteilen. Während 10 % bei RESIN verbleiben, wurde die Mehrheit, nämlich 90 %, in die Abteilung für Vertrauen und Sicherheit verlagert, die sich auf die Bekämpfung von Missbrauch der Google-Dienste konzentriert. Es ist wichtig anzumerken, dass keine Entlassungen gemeldet wurden, und Google-Sprecher Brian Gabriel betont, dass die Umstrukturierung ein Bekenntnis zur verantwortungsvollen KI-Entwicklung darstellt.

Lesen Sie auch:Googles X Lab steht aufgrund finanzieller Schwierigkeiten vor einer Umstrukturierung

Die Details der Umstrukturierung sind intransparent

Trotz dieser Beteuerungen bleiben die Einzelheiten zu den Gründen der Umstrukturierung und zur künftigen Aufteilung der Verantwortlichkeiten vertraulich. Dieser Mangel an Transparenz hat die Mitarbeiter im Unklaren darüber gelassen, wie die Überprüfungen der KI-Prinzipien künftig gehandhabt werden.

Gabriel lehnte es ab, nähere Angaben dazu zu machen, wie die Arbeit von RESIN künftig verwaltet wird, bekräftigt jedoch, dass die Umstrukturierung darauf abzielt, die Bemühungen um verantwortungsvolle KI in die etablierten Initiativen für Vertrauen und Sicherheit von Google zu integrieren und so verantwortungsvolle Innovation im gesamten Unternehmen zu stärken und auszuweiten.

Google ist dafür bekannt, häufig umzustrukturieren, aber RESIN ist seit seiner Gründung weitgehend unverändert geblieben. Obwohl andere Teams und Hunderte weitere Mitarbeiter an der KI-Überwachung bei Google arbeiten, war RESIN das wichtigste mit einem Mandat, das alle wichtigen Dienste von Google abdeckt.

Neben dem Ausscheiden seiner Leiterin Gennai hat RESIN in diesem Monat auch eines seiner einflussreichsten Mitglieder, Sara Tangdall, die leitende Spezialistin für Ethik der KI-Prinzipien, verlassen. Sie ist laut ihrem LinkedIn-Profil jetzt Director of Responsible AI Product bei Salesforce. Tangdall lehnte eine Stellungnahme ab, und Gennai reagierte nicht auf Bitten um einen Kommentar.