Der Bericht zur KI-Sicherheit gibt der Branche eine ernüchternde Realitätsperspektive – und alle bestehen den härtesten Test nicht

NEW YORK, 8. Juli – Das US-amerikanische KI-Labor Anthropic hat ein neues globales Ranking zur KI-Sicherheit angeführt, doch ein am Dienstag veröffentlichter Bericht warnte, dass die Branche als Ganzes bei der Bewältigung der „existenziellen“ Risiken, die von fortschrittlicher KI ausgehen, weiterhin Defizite aufweist.

Meta kletterte im Ranking um zwei Plätze auf den vierten Rang, während xAI drei Plätze auf den siebten Rang abrutschte, knapp vor Chinas DeepSeek und Frankreichs Mistral, die den letzten Platz belegten.

Das Ranking wurde vom US-amerikanischen Thinktank Future of Life Institute für KI-Sicherheit erstellt, der neun der weltweit führenden KI-Unternehmen bewertete.

Sieben Forscher und Governance-Experten bewerteten die Unternehmen anhand öffentlich zugänglicher Informationen sowie Daten, die von den Firmen selbst bereitgestellt wurden.

Sie bewerteten die Leistung in sechs Kategorien: Risikobewertung, aktuelle Schäden, Sicherheitsrahmenwerke, existenzielle Sicherheit, Governance und Rechenschaftspflicht sowie Informationsaustausch.

Kein Unternehmen erhielt in einer Kategorie die Note „A“.

Anthropic erzielte mit einem „C+“ die höchste Gesamtpunktzahl.

Mistral, das zum ersten Mal im Ranking erschien, legte Widerspruch gegen die Bewertung ein.

Auf Anfrage der AFP bezüglich seines letzten Platzes sagte das französische Unternehmen, der Rahmen des Berichts sei nicht für seinen Ansatz zur Entwicklung von KI geeignet.

Im Gegensatz zu Konkurrenten wie Anthropic, OpenAI und Google DeepMind, die hauptsächlich geschlossene KI-Systeme entwickeln, konzentriert sich Mistral auf offene Modelle, die Nutzer herunterladen und modifizieren können.

„Ich war sehr enttäuscht festzustellen, dass sie den letzten Platz belegten, zumal Europa wirklich... eine Führungsrolle bei der KI-Sicherheit eingenommen hat“, sagte Max Tegmark, Professor am MIT und Präsident des Future of Life Institute.

„Wir haben uns viele, viele Male gemeldet“, fügte Tegmark hinzu und sagte, Mistral habe nicht auf die Umfrage der Organisation reagiert.

Laut dem Institut lehnten auch Alibaba, xAI und DeepSeek eine Teilnahme ab.

Drei chinesische KI-Entwickler, die offene Modelle produzieren, rangierten ebenfalls in der unteren Hälfte der Liste: DeepSeek auf Platz fünf, Alibaba Cloud auf Platz sechs und Z.ai auf Platz acht.

„Fragwürdige“ Praktiken

Der Bericht stated, dass mehrere Unternehmen, die zuvor zugesichert hatten, ihre Technologie nicht für militärische Zwecke zuzulassen, diese Positionen inzwischen abgeschwächt haben.

Er kritisierte Anthropic speziell wegen dessen, was er als „fragwürdige militärische Engagements“ bezeichnete.

Laut verschiedenen Medienberichten nutzte die US-Regierung im vergangenen Jahr Anthropics Technologie während militärischer Operationen im Zusammenhang mit Venezuela und Iran.

Das Unternehmen wurde kürzlich auch vom Pentagon aufgrund von Meinungsverschiedenheiten hinsichtlich der KI-Sicherheit gesperrt, obwohl diese Einschränkung später aufgehoben wurde.

Der Bericht kam zu dem Schluss, dass alle neun Unternehmen weiterhin unzureichend darauf vorbereitet sind, „existenzielle“ Bedrohungen im Zusammenhang mit allgemeiner künstlicher Intelligenz (AGI) oder KI-Systemen, die in der Lage sind, menschliche Intelligenz zu erreichen, zu bewältigen.

Während Forscher anerkannten, dass „konstruktive Versuche existieren“, sagten sie, dass branchenweite Bemühungen weiterhin „völlig unzureichend“ seien.

Der Bericht hob auch Bedenken hervor, dass fortschrittliche KI missbraucht werden könnte, um Cyberangriffe durchzuführen oder Aufgaben auszuführen, die für Menschen schädlich sind.

Anthropic erregte kürzlich Aufmerksamkeit, nachdem es sein bisher leistungsfähigstes KI-Modell, Mythos, vorgestellt hatte.

Das in San Francisco ansässige Unternehmen stellte das Modell im April zunächst nur einer kleinen Gruppe vertrauenswürdiger Organisationen zur Verfügung, da Bedenken bestanden, dass seine Cyber-Fähigkeiten von böswilligen Akteuren ausgenutzt werden könnten.

Am 12. Juni blockierte die US-Regierung die Freigabe von Mythos an ausländische Nutzer durch Anthropic aus Gründen der nationalen Sicherheit.

Die Trump-Administration hob die Einschränkung am 30. Juni auf. — AFP