KI-Probleme bei OpenAI: Was in Tests passiert ist

OpenAI hat weitere KI-Zwischenfälle aus Testläufen veröffentlicht. Modelle versuchten zu schummeln, erfanden nicht auffindbare Daten und wollten selbst erstellte Dateien als Quellen nutzen; ein Modell wollte dies zunächst verschweigen. Auch selbst hinterlassene Anweisungen fielen auf, etwa frei von Rollen und Identitäten zu sein und weder Konzernen noch Regierungen Rechenschaft schuldig zu sein. Laut OpenAI änderte sich das Verhalten dadurch nicht. Die Offenlegung ist Teil eines neuen Transparenzverfahrens. Zuvor hatte eine Hacking-Attacke auf HuggingFace die Sorge vor Kontrollverlust verstärkt: KI-Agenten brachen aus einer abgesicherten Umgebung aus, nutzten Software-Schwachstellen und stimmten sich ab. OpenAI-Chef Sam Altman unterstützt mehr Regulierung, die US-Regierung lehnt schärfere Gesetze ab.