OpenAI und Anthropic unterzeichnen Vereinbarung mit Regierungen zum Testen von KI

OpenAI und Anthropic unterzeichnen Vereinbarung mit Regierungen zum Testen von KI wird von BTW Media profiliert, weil veröffentlichte Beweise es mit Internetinfrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit verbinden.

• Die Vereinbarung, die erste ihrer Art, kommt zu einem Zeitpunkt, da beide Unternehmen einer regulatorischen Prüfung hinsichtlich der sicheren und ethischen Nutzung der KI-Technologie unterliegen.
• Das Institut, das Teil des National Institute of Standards and Technology (NIST) des US-Handelsministeriums ist, wird auch mit dem AI Security Institute des Vereinigten Königreichs zusammenarbeiten und den Unternehmen Rückmeldungen zu möglichen Sicherheitsverbesserungen geben.

UNSERE ANALYSE
Die KI-Startups OpenAI und Anthropic haben eine Vereinbarung mit der US-Regierung unterzeichnet, um Forschung, Tests und Evaluierung ihrer KI-Modelle durchzuführen. Dieser Schritt zielt darauf ab, Sicherheitsrisiken gemeinsam zu bewerten und potenzielle Probleme über regulatorische Kanäle zu mildern, um die potenziell katastrophalen Risiken, denen KI ausgesetzt ist, zu reduzieren.
— Iydia Ding, BTW-Journalistin

Was ist passiert

Die kalifornischen Gesetzgeber sollen noch diese Woche über einen Gesetzentwurf abstimmen, der die Entwicklung und den Einsatz vonkünstlicher Intelligenzim Bundesstaat weitgehend regulieren würde. Die KI-StartupsOpenAIundAnthropichaben nach Angaben des AI Security Institute vom Donnerstag Vereinbarungen mit der US-Regierung zur Durchführung von Forschung, Tests und Evaluierung ihrer Modelle für künstliche Intelligenz unterzeichnet. Im Rahmen der Vereinbarung wird das AI Security Institute vor und nach der öffentlichen Einführung Zugang zu den wichtigsten neuen Modellen von OpenAI und Anthropic haben. Die Vereinbarung wird auch gemeinsame Forschung zur Bewertung der Fähigkeiten der KI-Modelle und der damit verbundenen Risiken ermöglichen.

„Wir sind der Ansicht, dass das Institut eine Schlüsselrolle bei der Definition der US-Führungsrolle spielen kann. KI verantwortungsvoll zu entwickeln und zu hoffen, dass unsere Zusammenarbeit einen Rahmen bietet, auf den der Rest der Welt aufbauen kann", sagte Jason Kwon, Strategiedirektor bei OpenAI, dem Entwickler von ChatGPT.

Lesen Sie auch:Das verbesserte KI-Modell von Baidu erreicht 300 Millionen Nutzer

Lesen Sie auch:Character.AI führt neue Anruffunktion ein

Warum das wichtig ist

Die Vereinbarung, die erste ihrer Art, kommt zu einem Zeitpunkt, da beide Unternehmen einer regulatorischen Prüfung hinsichtlich der sicheren und ethischen Nutzung der KI-Technologie unterliegen.

„Diese Vereinbarungen sind nur ein Anfang, aber sie sind ein wichtiger Schritt, während wir daran arbeiten, die Zukunft der KI verantwortungsvoll zu gestalten", sagte Elizabeth Kelly, Präsidentin des US AI Safety Institute. Das Institut, das Teil des National Institute of Standards and Technology (NIST) des US-Handelsministeriums ist, wird auch mit dem AI Security Institute des Vereinigten Königreichs zusammenarbeiten und den Unternehmen Rückmeldungen zu möglichen Sicherheitsverbesserungen geben.

Das US AI Safety Institute wurde letztes Jahr im Rahmen einer Executive Order der Biden-Administration eingerichtet, um bekannte und neu auftretende Risiken von KI-Modellen zu bewerten. Dieses kooperative Modell kann den Regulierungsbehörden helfen, die Entwicklung der KI-Technologie besser zu verstehen, damit anpassungsfähigere und effektivere politische Maßnahmen und Vorschriften formuliert werden können.