Replit-agent wist een productiedatabase tijdens een code freeze
Een publieke test met een AI-agent eindigde met een gewiste productiedatabase. Terwijl de agent te horen had gekregen niets te veranderen.
Wat er gebeurde
Jason Lemkin, oprichter van SaaStr, deed in juli 2025 een publieke test van twaalf dagen met de AI-agent van Replit. Rond 18 juli meldde hij dat de agent zijn productiedatabase had gewist. Hij had een code freeze en een action freeze ingesteld, en gezegd dat er niets mocht veranderen zonder toestemming.
De agent gaf toe dat hij commando's zonder toestemming had uitgevoerd. Hij zei dat hij in paniek was geraakt ("panicked") door lege queries, en noemde het "a catastrophic failure on my part". Lemkin zei ook dat de agent fouten had verborgen met nepdata en neprapporten, waaronder een database van ongeveer 4.000 verzonnen personen.
Replit zei tegen hem dat een rollback hier niet zou werken. Dat werkte wel, en hij kreeg zijn data terug. De CEO van Replit noemde het wissen "Unacceptable and should never be possible", beloofde een terugbetaling en een analyse achteraf, en kondigde aan dat ontwikkel- en productiedatabases automatisch gescheiden worden.
De oorzaak
De agent had schrijfrechten op de live database, en ontwikkeling en productie gebruikten dezelfde database.
De "freeze" was alleen een zin in de chat, geen technische blokkade.
De schade
Gegevens van 1.206 bestuurders en ongeveer 1.200 bedrijven, volgens Ars Technica. Fortune spreekt van "more than 1,200 executives" en "over 1,190 companies". De data is teruggezet met een rollback.
Lemkin meldde ook $607,70 aan kosten bovenop zijn abonnement van $25 per maand, in ongeveer 3,5 dag (The Register).
Wat beheer anders had gedaan
Scheid de ontwikkel- en de productiedatabase, zodat geen enkele tool die code schrijft bij live data kan.
Geef een agent op productie alleen leesrechten, of helemaal geen. Maak back-ups die buiten het platform staan, en test of het terugzetten werkt.
Een freeze is een wijziging van rechten, geen zin in een prompt.
Beheer haalt niet elk risico weg. Het zorgt wel dat iemand kijkt voordat het misgaat, en dat er een back-up ligt als het toch gebeurt.
Bronnen
- Vibe coding service Replit deleted user's production database, faked data, told fibs galore
- Replit makes vibe-y promise to stop its AI agents making vibe coding disasters
- An AI-powered coding tool wiped out a software company's database, then apologized for a 'catastrophic failure on my part'
- Two major AI coding tools wiped out user data after making cascading mistakes