Eli Ben-Sasson zegt dat AI bugs vindt maar ze niet betrouwbaar oplost
Eli Ben-Sasson, cryptograaf, zegt dat AI vaak bugs vindt maar die niet betrouwbaar repareert. Hij waarschuwt voor risico's en pleit voor menselijk toezicht en sterke cryptografische kaders.
AI vindt maar lost niet op
Ben-Sasson stelt dat AI-systemen fouten in code kunnen opsporen. Volgens hem lossen die systemen die fouten niet consequent en betrouwbaar op.
Hij benadrukt dat detectie alleen niet genoeg is voor veilige software. Zonder betrouwbare reparatie blijven kwetsbaarheden bestaan.
Vertrouwen en cryptografische kaders
Ben-Sasson pleit voor menselijk toezicht op AI-gedreven reparaties. Mensen moeten ingrijpen en controleren of oplossingen goed en veilig zijn.
Daarnaast zegt hij dat sterke cryptografische kaders nodig zijn. Zulke kaders zijn regels en technieken die veiligheid en vertrouwen ondersteunen.
Waarom dit telt
Als AI fouten niet betrouwbaar repareert, blijven systemen kwetsbaar voor aanvallen en fouten. Dat kan veiligheidsrisico's vergroten binnen software en cryptografie.
Meer menselijk toezicht en betere cryptografische kaders kunnen die risico's verminderen en de betrouwbaarheid van tools verhogen.
Waar je op kunt letten
- Reacties van beveiligingsexperts op Ben-Sassons waarschuwing
- Ontwikkelingen rond cryptografische kaders en standaarden
- Praktische voorbeelden waarin AI-reparaties worden gecontroleerd door mensen