Stanford: met een AI-assistent schrijven mensen onveiligere code
Het risico zit niet alleen in de code van AI. Het zit ook in het vertrouwen van de mens die hem gebruikt.
Wat het onderzoek vond
Onderzoekers van Stanford (Perry, Srivastava, Kumar en Boneh) lieten 47 deelnemers, studenten en professionals, vijf programmeertaken over beveiliging oplossen. De helft kreeg een AI-assistent op basis van codex-davinci-002 van OpenAI.
De groep met AI schreef significant minder veilige code dan de controlegroep. Bij de taak over versleuteling gaf 67% van de AI-groep een correct antwoord, tegen 79% van de controlegroep. De AI-groep gebruikte ook vaker simpele versleuteling en sloeg vaker de controle op echtheid over.
De AI-groep dacht ook vaker dat de eigen code veilig was. Deelnemers die de AI minder vertrouwden en meer aan hun prompts werkten, maakten minder beveiligingsfouten.
Wat het betekent voor beheer
Het risico is niet alleen slechte code, maar ook onterecht vertrouwen. Het antwoord is een tweede paar ogen dat de uitkomst niet zomaar gelooft.
Let op: de studie gebruikte een oud model uit 2022. Neem haar mee voor het punt over te veel vertrouwen, niet als oordeel over de tools van nu.
Beheer haalt niet elk risico weg. Het zorgt wel dat iemand kijkt voordat het misgaat, en dat er een back-up ligt als het toch gebeurt.