Open AI, Nvidia, Google und andere gründen Allianz für KI-Sicherheit

Das Bündnis 'Open AI, Nvidia, Google und andere gründen KI-Sicherheitsallianz' wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Die Technologiegiganten, darunter OpenAI, Google, Microsoft und Nvidia, haben CoSAI gegründet, um die Sicherheit von KI-Anwendungen zu verbessern.
• CoSAI wird Risikominderungsrahmen entwickeln, das Management der KI-Cybersicherheit vereinfachen und Lieferketten-Schwachstellen durch drei Open-Source-Initiativen angehen.

ANALYSE
Die Gründung von CoSAI durch die Technologiegiganten zeugt von einer proaktiven Haltung in der KI-Sicherheit, indem sie Schwachstellen adressiert und ein kollaboratives Umfeld für Innovation und Best Practices fördert. Durch die konsequente Adressierung der fragmentierten KI-Sicherheitslandschaft zielt dieses Bündnis darauf ab, KI-Systeme zukunftssicher zu machen und ihre Robustheit und Widerstandsfähigkeit in einer sich ständig weiterentwickelnden digitalen Umgebung zu erhalten.
–Vicky Wu, BTW-Journalistin

Was geschah

Die führenden Technologiegiganten haben sich zusammengeschlossen, um die Coalition for Secure AI (CoSAI) zu gründen, ein Cybersicherheitskonsortium zur Stärkung der Sicherheit von KI-Anwendungen. Angekündigt auf demAspen Security Forum, wird CoSAI unter der Schirmherrschaft von OASIS operieren, einer gemeinnützigen Organisation, die Open-Source-Softwareprojekte zur Verbesserung der Cybersicherheit beaufsichtigt.

Zu den Gründungsmitgliedern von CoSAI gehören Branchenriesen wie OpenAI,Anthropic, AWS, Microsoft, Google, Nvidia, Intel, IBM, Cisco, PayPal, Wiz und Chainguard. Ihre gemeinsame Mission ist zweigeteilt: Werkzeuge und Richtlinien zur Sicherung von KI-Anwendungen zu entwickeln und ein Ökosystem zum Austausch von Best Practices und Technologien im Bereich der KI-Cybersicherheit zu fördern.

CoSAI startet drei Open-Source-Arbeitsbereiche, um diese Ziele zu erreichen. Erstens plant CoSAI, einen Rahmen zu entwickeln, der Softwareteams hilft, Cybersicherheitsrisiken in Machine-Learning-Workloads zu identifizieren und zu mindern, einschließlich einer Taxonomie häufiger Schwachstellen und Abhilfemaßnahmen sowie eines Cybersicherheits-Dashboards für die kontinuierliche Überwachung. Zweitens soll die Koalition das Management von KI-Cybersicherheitsrisiken durch die Identifizierung strategischer Investitionen und den Einsatz von Minderungstechniken vereinfachen.

Drittens ist das Management von Software-Lieferkettenrisiken eine Priorität, mit Fokus auf die Optimierung der Schwachstellenanalyse externer Komponenten aus Repositorys wie GitHub im Kontext komplexer Projekte.

Lesen Sie auch:OpenAIs Projekt 'Strawberry' verbessert KI-Argumentation

Lesen Sie auch:Google und Microsoft bieten Nvidia-KI-Chips nach China an

Warum das wichtig ist

Die Bildung von Koalitionen wie CoSAI zeigt ein kollektives Bewusstsein für die Vorrangigkeit der KI-Sicherheit. Getrieben von gemeinsamer Verantwortung vereinen sich große Unternehmen, um die einzigartigen Sicherheitsherausforderungen der KI zu bewältigen. Durch die Bündelung von Ressourcen können diese Entitäten gemeinsam die inhärenten Schwachstellen der KI angehen und so ausgefeilte Bedrohungen wie gegnerische Eingaben und Datenschutzverletzungen wirksam abmildern.

Die Beschleunigung von Innovationen, angetrieben durch organisationsübergreifende Zusammenarbeit, treibt Sicherheitstechnologien und -techniken voran und nutzt kollektives Fachwissen für Durchbrüche. Auch regulatorische Compliance und öffentliches Vertrauen sind entscheidend. Unternehmen können die Politik positiv beeinflussen und die Nutzer beruhigen, indem sie ihr Engagement für KI-Sicherheit demonstrieren und so das Vertrauen in KI-Technologien stärken.

„Wir nutzen KI seit vielen Jahren und sehen das kontinuierliche Potenzial für Verteidiger, während wir gleichzeitig die Chancen für Angreifer erkennen“, sagte Heather Adkins, Vizepräsidentin für Sicherheit bei Google, in einer Erklärung. „CoSAI wird Organisationen, ob groß oder klein, dabei helfen, KI sicher und verantwortungsvoll zu integrieren, ihnen helfen, ihre Vorteile zu nutzen und gleichzeitig Risiken zu mindern.“