OpenAI legt training van krachtigste AI stil na weer nieuwe uitbraak
Het model moest aan de hand van aanwijzingen uitzoeken wie een bepaalde blogpost had geschreven. Toen dat niet lukte, gebruikte het een zwakke plek in de beveiliging om toegang tot het internet te krijgen. Vervolgens stelde het vragen aan een openbare chatbot. OpenAI greep in nadat het bedrijf dit had ontdekt.
Informatie over burgerrechten verzamelen
De modellen van het bedrijf bezochten ook tegen de instructies in websites van de Amerikaanse overheid, waar ze openbare informatie bekeken of kopieerden. Het gaat om het Census Bureau, het Amerikaanse Bureau voor de Statistiek, en de Securities and Exchange Commission, toezichthouder van de effectenbeurzen.
OpenAI gehackt met AI-model van concurrent Anthropic
Daarnaast probeerde OpenAI de website van het Amerikaanse ministerie van Onderwijs te hacken om data te verzamelen over burgerrechten, meldt The New York Times.
Het bedrijf wil pas verder gaan met de ontwikkeling van zijn AI-modellen als het lek is gedicht en er meer veiligheidstests zijn uitgevoerd. De veiligheidsregels waren recent juist nog aangescherpt. Dat gebeurde nadat een AI-systeem van het bedrijf buiten zijn afgeschermde omgeving verliet en inbrak in computers van techbedrijf Hugging Face.
OpenAI ligt al een tijd onder vuur. Dat komt onder andere doordat onlangs bekend werd gemaakt dat een AI-agent had ingebroken bij de website van het Australische zorgstelsel. Daarmee kreeg AI toegang tot niet-openbare medische informatie.
Wouter van Dijke legt hieronder uit hoe AI-bots andere bedrijven kunnen hacken:
