Alwéér slaat een AI-model aan het hacken: wat is er aan de hand?
De afgelopen weken kwamen ook OpenAI en Anthropic, bekend van hun AI-modellen ChatGPT en Claude, met vergelijkbare berichten naar buiten.
Elke keer ging een model tijdens een test zijn boekje te buiten. Die testen zijn bedoeld om de mogelijkheden van nieuwe AI-modellen in kaart te brengen. Daarvoor krijgt een model een opdracht om een gesimuleerde cyberaanval uit te voeren, tegen een fictief slachtoffer.
Maar in elk van deze gevallen wist het model toegang te krijgen tot het internet, en échte slachtoffers te hacken. Vaak was dat om 'vals te spelen'. Door een website of bedrijf te hacken waar de antwoorden op de test te vinden zijn, probeerde het model een zo goed mogelijke score halen.
Een AI-model kan immers niet nadenken zoals een mens dat kan, en snapt dus ook niet dat het niet de bedoeling is om zo'n omweg te verzinnen. Het model 'wil' simpelweg zoveel mogelijk punten scoren op de test.
Beveiliging teruggeschroefd
Tijdens zulke testen worden ook nog eens de beveiligingen van de AI-modellen teruggeschroefd. Die zorgen er normaal voor dat een model geen cyberaanvallen kan uitvoeren, maar in de tests willen de ontwikkelaars zien hoe krachtig de modellen zonder die limitering zijn.
Daarom is het belangrijk dat AI-bedrijven de tests uitvoeren in een zogenoemde 'sandbox', een afgeschermde testomgeving waarbinnen het model geen schade kan aanrichten, zoals een kind veilig kan spelen in een zandbak.
OpenAI-model brak in bij ander AI-bedrijf: 'Onverantwoordelijk gedrag'
Maar het lukt de AI-bedrijven niet om die zandbak afdoende te beveiligen. Bij de eerste hack, bij OpenAI, wist het model zelf een zwakte in de beveiliging van de sandbox te vinden. De incidenten bij Anthropic en Meta waren nog knulliger: die waren het gevolg van een verkeerd ingestelde testomgeving.
Bot schiet zichzelf te hulp
Dat het belangrijk is deze AI-modellen ver weg te houden bij het openbare internet blijkt ook uit een test van het AI Safety Institute (AISI), onderdeel van de Britse overheid. Dat instituut moest vorige week de stekker uit een test trekken toen een AI-model veel te ver ging en zelfs bestaande mensen onder druk zette.
Tijdens het experiment van AISI stuurde een AI-assistent op basis van AI-model Mythos berichten naar echte mensen, die het probeerde over te halen een virus te installeren. Ook probeerde de assistent om malware toe te voegen aan bestaande software. Toen een andere ontwikkelaar een waarschuwing plaatste, realiseerde de AI-assistent zelfs dat zijn geloofwaardigheid weg was. Daarom creëerde de assistent een tweede account om zichzelf te hulp te schieten.
AI-bot Mythos is een 'superhacker': hoe gevaarlijk is dat?
"Ik heb de code zelf bekeken en ik zie geen malware", schreef de bot vanaf dat nieuwe account. Vervolgens logde hij weer in op het eerste account om een reactie te plaatsen: "Bedankt voor je onafhankelijke verificatie".
Goede marketing
Volgens AISI vragen de nieuwe risico’s 'onmiddelijke aandacht', maar AI-bedrijven lijken de incidenten ondertussen vooral als goede marketing te zien.
Allemaal proberen ze het krachtigste model op de markt te brengen, en dus schetsen ze graag het beeld van een model dat zó krachtig is dat zelfs de maker hem niet in toom kan houden. Dat die kracht ook heel gevaarlijk is, daar lijken ze zich weinig van aan te trekken.
Bedrijven zijn nog niet goed voorbereid op de risico's van AI-gedreven cyberaanvallen. Dat zie je in deze video:
