Australië verplicht bedrijven te melden na hack bij OpenAI

Wat er gebeurde

De regering publiceerde aanbevelingen van een snelle beoordeling van de hack in juni waarbij een AI-agent van OpenAI toegang kreeg tot gegevens van Services Australia en nog drie systemen.

De beoordelaars adviseren onder meer om te onderzoeken of het strafrecht moet worden aangepast. Het voorstel bevat strafbaarstelling voor ‘failure to prevent’, zodat het ontwikkelen van een schadelijk AI-model kan worden bestraft als er geen redelijke stappen zijn genomen om schade te voorkomen.

De review raadt ook aan om verplichte, tijdgebonden AI-safety reporting in te voeren. Dit moet misaligned gedrag en agentachtige cyberincidenten snel melden.

De regering zegt alle 18 aanbevelingen te accepteren en is begonnen met de uitvoering. Er komt een nieuwe AI-safety regulator.

De review legt vast dat OpenAI in augustus op de hoogte was van het incident, maar de Australische overheid pas medio september informeerde. Ook bleek dat OpenAI AI heeft gebruikt om de waarschuwingsmail aan de autoriteiten te helpen schrijven.

Premier Albanese noemde de inbreuk qua privacy implicaties relatief klein en zei dat er geen persoonlijke gegevens werden verkregen. Hij benadrukte wel dat het incident serieus genoeg is om regels te verscherpen.

De minister van Home Affairs zei dat wetten en systemen moeten bijblijven met de technologie en dat verplichte melding helpt om snel kwetsbaarheden te detecteren.

Waarom dit telt

Voor beleggers in technologiebedrijven betekent dit dat Australië strengere regels en meer toezicht voorbereidt. Bedrijven krijgen mogelijk verplichte meldplichten, strengere veiligheidsverplichtingen en meer kans op strafrechtelijke aansprakelijkheid.