OpenAI bremst sein neues Modell Astra aus: zu gefährlich für die Cybersicherheit?

Der US-amerikanische KI-Konzern OpenAI hat einen ungewöhnlichen Schritt bekannt gegeben. Anfang August teilte das Unternehmen mit, dass es die Entwicklung seines kommenden Modells mit dem Namen Astra bewusst verlangsamt. Der Grund ist keine technische Panne, sondern eine ernste Sorge um die Cybersicherheit und den möglichen Missbrauch der Technologie.

Auslöser war eine interne Bewertung der Fähigkeiten des Modells. Dabei zeigten sich laut OpenAI erhebliche Fortschritte, insbesondere beim eigenständigen Programmieren und im Bereich der Cybersicherheit. Diese Sprünge in der Leistung waren so deutlich, dass das Unternehmen bestimmte Risiken zum jetzigen Zeitpunkt nicht mehr sicher ausschließen konnte.

In einer Stellungnahme formulierte OpenAI es vorsichtig, aber unmissverständlich. Die vorläufigen Auswertungen deuteten auf eine so starke Leistung hin, dass sich die kritische Fähigkeitsstufe derzeit nicht ausschließen lasse. Genau diese Einschätzung führte letztlich zu der Entscheidung, das Entwicklungstempo bei Astra spürbar zu drosseln.

Was die kritische Stufe bedeutet

Der Begriff der kritischen Stufe stammt aus OpenAIs eigenem Regelwerk, dem sogenannten Preparedness Framework, das bereits 2023 eingeführt wurde. Es teilt die Risiken neuer Modelle in Kategorien ein und legt fest, welche Sicherheitsvorkehrungen ab welcher Gefahrenstufe verpflichtend werden. Astra hätte damit die höchste Warnstufe erreicht.

Konkret gilt ein Modell als kritisch, wenn es zwei Dinge beherrscht. Zum einen die Fähigkeit, eigenständig sogenannte Zero-Day-Schwachstellen gegen gut geschützte, reale Systeme zu entwickeln. Zum anderen die Fähigkeit, aus einem lediglich grob formulierten Ziel selbstständig einen kompletten Cyberangriff zu planen und anschließend auch auszuführen.

Zur Einordnung hilft ein Vergleich. Das bisherige Spitzenmodell des Unternehmens, bekannt als GPT-5.6 Sol, hatte in diesen Tests lediglich die Stufe hoch erreicht. Astra läge damit noch einmal eine ganze Stufe darüber. Für ein kommerzielles KI-Modell wäre das ein Novum und erklärt, warum OpenAI derart zurückhaltend agiert.

Warum OpenAI auf die Bremse tritt

Wichtig ist die Feststellung, dass es sich nicht um eine endgültige Absage, sondern um eine bewusste Pause handelt. Das Modell wird weiterentwickelt, allerdings unter deutlich strengeren Bedingungen. OpenAI hält gezielt jene internen Arbeiten an Astra an, die noch nicht den neuen, verschärften Sicherheitsvorgaben des Unternehmens entsprechen.

Der Schritt ist auch deshalb bemerkenswert, weil er einen grundlegenden Konflikt der Branche offenlegt. Auf der einen Seite steht der enorme Wettbewerbsdruck, immer leistungsfähigere Modelle möglichst schnell auf den Markt zu bringen. Auf der anderen Seite stehen Sicherheitsbedenken, die im Fall autonomer Cyberfähigkeiten weitreichende Folgen haben könnten.

Welche Schutzmaßnahmen greifen

OpenAI hat parallel eine Reihe von Schutzmaßnahmen ergriffen. Dazu gehören abgeschottete Testumgebungen mit strengen Netzwerkbeschränkungen sowie ein verbesserter Schutz der sogenannten Modellgewichte, also der eigentlichen Kernkomponenten der KI. Ziel ist es, ein unkontrolliertes Handeln des Systems von vornherein zu verhindern.

Zusätzlich hat das Unternehmen eine umfassende Überwachung eingeführt. Diese beobachtet das Verhalten des Modells über alle Anwendungen hinweg, in denen es selbstständig agiert. Erkennt das System dabei riskantes oder von den Vorgaben abweichendes Verhalten, soll es dieses automatisch abfangen und rechtzeitig stoppen können.

Was das für die Branche heißt

OpenAI will die Fähigkeiten von Astra zudem nicht im Alleingang bewerten. Das Unternehmen kündigte an, die Tests gemeinsam mit staatlichen Behörden und ausgewählten Organisationen für KI-Sicherheit durchzuführen. Empfohlene Sicherheitsprotokolle sollen darüber hinaus auch an externe Prüfer weitergegeben werden, um das Risiko breiter abzusichern.

Der Fall Astra dürfte die ohnehin intensive Debatte über den sicheren Umgang mit fortgeschrittener KI weiter anheizen. Gerade in Europa, wo Regulierung und der Schutz kritischer Infrastruktur einen hohen Stellenwert haben, wird genau beobachtet, wie verantwortungsvoll die großen Anbieter mit derart mächtigen Werkzeugen tatsächlich umgehen werden.