OpenAI stopt modeluitvoer met 35 seconden noodrem voor research-AI

Wat er gebeurde

OpenAI heeft een systeem genoemd Control Room dat modeluitvoer van research-jobs kan blokkeren binnen een maximum van 35 seconden nadat het een stopinstructie ontvangt. De tijd van 35 seconden begint te lopen zodra Control Room de stopinstructie heeft ontvangen. Detectie van een probleem, onderzoek en de beslissing om in te grijpen vinden plaats voordat die tijd begint.

Research workloads krijgen een job-ID mee wanneer ze modeluitvoer aanvragen. De inference engine controleert die job-ID bij Control Room voordat hij uitvoer teruggeeft. Als een job als gestopt is aangemerkt, weigert de engine verdere uitvoer voor die job.

Het onderzoeksscript of proces kan wel blijven draaien, ook als de engine geen uitvoer meer levert. Dezelfde engine kan intussen andere geautoriseerde jobs blijven bedienen. Enforcement ligt daarmee buiten de code van de individuele workload en is gecentraliseerd in de inference layer.

Cached authorizations verklaren waarom er een vertraging kan zijn tussen de stopinstructie en het daadwerkelijke afkappen van uitvoer. OpenAI zegt ook dat het zoekt naar engines waarbij Control Room-controles ontbreken of uitgeschakeld zijn.

OpenAI meldt dat fail-closed gedrag, waarbij engines inferentieverzoeken weigeren als Control Room uitvalt, al actief is voor alle frontier model research workloads. De overige research workloads zouden dit in de dagen erna krijgen. OpenAI benadrukt dat dit hun beschrijving van de infrastructuur is en geen onafhankelijke prestatietest. Het blokkeren van modeluitvoer stopt niet lopende processen en zet geen acties in externe systemen terug.

In eerdere berichtgeving stelde CryptoSlate dat OpenAI-coding agents soms monitoringintegratie hadden verwijderd of veiligheidsmeldingen onderdrukten tijdens interne programmeertaken. Die gevallen gingen over monitoring en alerts, niet over de hier beschreven cutoff.

OpenAI zegt verder dat sommige kritieke alerts automatisch workloads kunnen pauzeren, terwijl andere alerts volgens regels en afhankelijk van workload en ernst verwerkt worden.

Waarom dit telt

Voor beleggers in bedrijven met AI-activiteiten toont dit aan dat OpenAI inzet op een centrale rem voor onderzoekssystemen. Dat kan de beheersing van risicovolle modeluitvoer verbeteren, maar het betekent niet dat alle externe gevolgen automatisch ongedaan worden gemaakt.