Die ChatGPT-Erfinderin OpenAI hat die interne Entwicklung ihres neuen KI-Modells Astra in Teilen vorübergehend gestoppt. Grund für diesen teilweisen Stopp sind Sicherheitsbedenken, da das Modell möglicherweise kritische Fähigkeiten im Bereich der Cybersicherheit erreicht habe.
Demnach zeigten vorläufige Tests, dass Astra so leistungsstark ist, dass es eigenständig Software-Schwachstellen (Zero-Day-Exploits) erkennen und ausnutzen oder komplexe Cyberangriffe auf sichere Ziele ausführen könnte. Als Reaktion wurden ungesicherte Arbeitsabläufe unterbrochen und die Weiterentwicklung in streng isolierte Testumgebungen mit stark eingeschränktem Netzwerkzugang verlagert.
OpenAI mit Hauptsitz in San Francisco betont Medienberichten zufolge, dass der Stopp eine reine Vorsichtsmassnahme sei und Astra nicht an externen Hackerangriffen beteiligt sei.
