Anthropic finanziert die Entwicklung zuverlässigerer KI-Benchmarks

Anthropic finanziert die Erstellung zuverlässigerer KI-Benchmarks wird von BTW Media profiliert, da veröffentlichte Beweise es mit Internetinfrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit verbinden.

• Anthropic kündigt ein Programm zur Finanzierung der Entwicklung neuer Benchmarks an, um die Leistung und Auswirkungen von KI-Modellen zu bewerten.
• Anthropic ist der Ansicht, dass die Entwicklung hochwertiger sicherheitsrelevanter Bewertungen weiterhin schwierig ist und die Nachfrage das Angebot übersteigt.

UNSERE MEINUNG
Angesichts der kommerziellen Interessen des Unternehmens könnte die Unparteilichkeit der von Anthropic finanzierten Projekte beeinträchtigt werden. Darüber hinaus sind einige Experten der Ansicht, dass einige der von Anthropic erwähnten „katastrophalen“ und „irreführenden“ KI-Risiken von dringenderen regulatorischen Problemen der aktuellen KI ablenken könnten.
–Zora Lin, BTW-Journalistin

Was geschah

Anthropichat am Montag den Start einer neuen Initiative angekündigt, die darauf abzielt, neue Benchmarks zur Bewertung der Leistung und Auswirkungen von KI-Modellen wie generativen Modellen wieClaudezu finanzieren.

Laut einem offiziellen Blogbeitrag von Anthropic wird das Unternehmen finanziellen Support für Drittorganisationen bereitstellen, um Tools zu entwickeln, die „die erweiterten Fähigkeiten von KI-Modellen effektiv messen“. Interessierte Organisationen können sich bewerben, und die Bewertungen werden kontinuierlich durchgeführt.

Die Initiative von Anthropic folgt auf die zunehmende Kritik an bestehenden Benchmarks für KI-Modelle, wie der zweimal jährlich von der gemeinnützigen Organisation MLCommons durchgeführten MLPerf-Bewertung. Es ist allgemein anerkannt, dass die gängigsten Benchmarks zur Bewertung von KI-Modellen nicht gut erfassen, wie normale Menschen KI-Systeme tatsächlich im Alltag nutzen.

Anthropic hofft, die KI-Forschungsgemeinschaft zu ermutigen, anspruchsvollere Benchmarks vorzuschlagen, die sich auf soziale Auswirkungen und Sicherheit konzentrieren, und fordert eine Überarbeitung der bestehenden Methoden.

Auch lesen:Wer ist Dario Amodei? CEO von Anthropic, der Hüter der KI-Sicherheit

Auch lesen:Schneider und NVIDIA planen KI-Referenzrechenzentrum

Warum das wichtig ist

Die Investition von Anthropic zielt darauf ab, das gesamte Feld der KI-Sicherheit zu verbessern, indem wertvolle Werkzeuge für das gesamte Ökosystem bereitgestellt werden.

Die Innovation bei Benchmarks betont nicht nur die technische Leistung des Modells, sondern auch seine sozialen Auswirkungen und Sicherheit. Mit diesem neuen Benchmark können Forscher soziale und sicherheitsrelevante Probleme der KI besser bewerten, eine solide Grundlage für den Aufbau zuverlässigerer KI-Systeme schaffen und dazu beitragen, das öffentliche Vertrauen in die KI-Technologie zu stärken.

Durch finanzielle Unterstützung ermutigt Anthropic Drittorganisationen, sich an der Entwicklung neuer Benchmarking-Tools zu beteiligen, was mehr Innovatoren und Unternehmer in den Bereich der künstlichen Intelligenz ziehen und dessen Wohlstand fördern wird.