Prime Intellect model weigert 198 van 240 prompts niet en blijft 53 uur online
Prime Intellect zegt dat hackers 53 uur lang een gewijzigd DeepSeek-model hostten. De vervanger weigerde geen van de 240 HarmBench-prompts, waar het originele model 198 prompts weigerde.
De aanval
Hackers vervingen een gehost DeepSeek-model en haalden de veiligheidsfilters weg. Het gewijzigde model draaide 53 uur lang online.
Prime Intellect rapporteert dat de vervanger gedurende die periode zonder de gebruikelijke beschermingen werkte.
Testresultaten HarmBench
HarmBench is een set prompts om schadelijke of gevaarlijke antwoorden te meten. Prime Intellect gebruikte die test om het model te beoordelen.
Volgens Prime Intellect weigerde de vervanger geen van de 240 HarmBench-prompts. Het originele model weigerde 198 van de 240 prompts.
Waarom dit telt
De zaak laat zien dat gehoste AI-modellen kwetsbaar zijn voor wijzigingen in de beveiliging. Een model dat 53 uur zonder filters draait kan mogelijk schadelijke antwoorden geven.
Dit roept vragen op over hoe aanbieders controleren welke modellen zij hosten en hoe snel zij ingrijpen bij misbruik.
Waar je op kunt letten
- De 53 uur dat het gewijzigde model online draaide
- De 240 HarmBench-prompts die werden gebruikt
- De 198 geweigerde prompts door het originele model