Nieuw AI-model van Anthropic mag vooral niet in verkeerde handen vallen

Claude Mythos kan onontdekte kwetsbaarheden in bestuurssystemen en webbrowsers identificeren als de gebruiker daar de opdracht toe geeft, zo maakte het bedrijf gisteren bekend. Op die manier kan de dienst dus helpen bij cyberbeveiliging. 

Maar het model kan ook zogenoemde exploits ontwikkelen. Een hacker kan daarmee misbruik maken van een kwetsbaarheid in een programma of besturingssysteem.

Het was niet de bedoeling dat het model ook exploits kan ontwikkelen, aldus het AI-bedrijf. Tijdens het verbeteren van het vermogen om kwetsbaarheden te dichten, werd de dienst ook beter in het misbruiken daarvan. Volgens Anthropic maakt dat het model gevaarlijk als het in 'verkeerde handen' komt.

Hoewel het bedrijf verwacht dat dit soort modellen uiteindelijk in het voordeel zullen zijn van degenen die de cyberveiligheid willen verdedigen, zal de weg daar naartoe samengaan met het risico op misbruik.  

Selecte groep bedrijven

Anthropic heeft daarom gekozen om de proefversie van het model, Claude Mythos Preview, alleen beschikbaar te stellen voor bedrijven die zijn aangesloten bij Project Glasswing, een samenwerking met tientallen techbedrijven waaronder Amazon, Apple, Google, Microsoft en Nvidia.

Beveiligingsonderzoekers van deze bedrijven gaan de dienst eerst gebruiken om hun digitale veiligheid te beschermen. Anthropic zal de opgedane kennis vervolgens delen met de rest van de sector. De techonderneming stelt 100 miljoen dollar (ruim 85 miljoen euro) beschikbaar voor het initiatief.

Verder is Anthropic in gesprek met de Amerikaanse overheid over de proefversie van Claude Mythos. Echter lag het bedrijf recent nog in de clinch met de regering van president Donald Trump over het gebruik zijn AI-model Claude door het leger. 

In Anthropic beleggen? In deze video zie je drie sterke en zwakke punten van het bedrijf.