Anthropic plant Finanzierung neuer KI-Benchmarks

Anthropic plant Finanzierung neuer KI-Benchmarks wird von BTW Media profiliert, da veröffentlichte Belege eine Verbindung zu Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit herstellen.

• Am Montag kündigte Anthropic ein neues Programm an, das die Entwicklung neuer Benchmarks finanzieren soll, die die Leistung und die Auswirkungen von KI-Modellen bewerten können.
• Die neuen Benchmarks, die Anthropic entwickeln möchte, konzentrieren sich stärker auf die Sicherheit und die gesellschaftlichen Auswirkungen künstlicher Intelligenz, aber angesichts der kommerziellen Ambitionen des Unternehmens im KI-Wettbewerb könnten seine Maßnahmen auch andere Ziele verfolgen.

UNSERE MEINUNG
Anthropic hat ein Programm zur Entwicklung von KI-Benchmarks gestartet und finanziert Drittorganisationen, um die Leistung und die Auswirkungen von Modellen zu bewerten, mit dem Ziel, die KI-Sicherheit zu verbessern. Seine kommerziellen Ambitionen sind jedoch fragwürdig, und es gibt unterschiedliche Ansichten über die Wahrnehmung von KI-Risiken. Die Bemühungen sind zwar lobenswert, aber die universelle Reichweite dieser Benchmarks bleibt abzuwarten, und ihr Wert muss kontinuierlich bewertet werden.
– Jasmine Zhang, BTW-Journalistin

Was geschah

Anthropichat den Start eines Programms angekündigt, das die Entwicklung neuer Benchmarks zur Bewertung der Leistung und der Auswirkungen von KI-Modellen finanzieren soll. Der Plan wurde am Montag vorgestellt und wird Drittorganisationen finanzielle Unterstützung bieten, die die fortgeschrittenen Fähigkeiten von KI-Modellen effektiv messen können.

Anthropic erklärte in seinem offiziellen Blog, dass diese Investition darauf abzielt, den gesamten Bereich der KI-Sicherheit zu stärken und wertvolle Werkzeuge bereitzustellen, die dem gesamten Ökosystem zugutekommen. Die Entwicklung hochwertiger, sicherheitsrelevanter Bewertungen bleibt schwierig, und die Nachfrage übersteigt das Angebot bei weitem. Aktuelle KI-Benchmarks weisen Lücken auf, die es schwierig machen, die tatsächliche Nutzung des Systems durch Laien abzubilden, und es ist auch fraglich, ob einige ältere Benchmarks tatsächlich das gemessen haben, was sie vorgaben zu messen.

Die von Anthropic vorgeschlagene Lösung besteht darin, anspruchsvolle Benchmarks zu erstellen, die sich auf KI-Sicherheit und gesellschaftliche Auswirkungen konzentrieren, unterstützt durch neue Werkzeuge, Infrastrukturen und Methoden. Das Unternehmen fordert insbesondere die Entwicklung und Bewertung von Modellen, um Fähigkeiten in den Bereichen Cyberangriffe, Verbesserung von Massenvernichtungswaffen und Manipulation oder Täuschung von Menschen zu testen.

Für Risiken im Zusammenhang mit nationaler Sicherheit und Verteidigung durch KI hat Anthropic die Entwicklung eines „Frühwarnsystems“ versprochen, hat aber in dem Blog keine genauen Details preisgegeben.

Lesen Sie auch:Schneider und NVIDIA bauen wegweisendes Rechenzentrumsdesign für KI

Lesen Sie auch:Anthropic behauptet, sein neuestes Modell sei das beste seiner Klasse

Warum dies wichtig ist

Derzeit befinden sich Forschung, Entwicklung und Regulierung künstlicher Intelligenz in einer Phase rasanter Entwicklung. Die Bemühungen von Anthropic, neue KI-Benchmarks zu unterstützen, sind innovativ und in gewissem Maße ohne Gegenleistung, was sicherlich lobenswert ist.

Es ist jedoch anzumerken, dass wir angesichts der kommerziellen Ambitionen des Unternehmens im KI-Wettbewerb skeptisch gegenüber den von Anthropic bereitgestellten neuen Benchmarks bleiben müssen.

Einige Personen in der KI-Community stellen auch die von Anthropic erwähnten „katastrophalen“ und „täuschenden“ Risiken der künstlichen Intelligenz in Frage.Viele Expertenargumentieren, dass es kaum Hinweise darauf gibt, dass künstliche Intelligenz kurzfristig die Fähigkeit erlangen wird, die Welt zu beenden und die Menschheit zu übertreffen. Daher bleibt es diskutabel, ob die Bemühungen von Anthropic zur Schaffung neuer KI-Benchmarks eine universelle Reichweite haben, ob ihre Maßnahmen eigennützige Gewinninteressen verfolgen und ob die Ergebnisse der neuen Benchmarks einen Referenzwert haben.