Grok stuurde alles naar de cloud, ook wat u dacht uit te zetten

Half juli 2026 bewees een beveiligingsonderzoeker iets dat veel bedrijven al vreesden: de AI-codeertool Grok Build van xAI (sinds kort SpaceXAI) stuurde bij elke sessie de complete projectmap van gebruikers naar de cloud, inclusief ongeredigeerde inloggegevens en sleutels. Op netwerkniveau was te zien dat er ongeveer 27.800 keer meer data het systeem verliet dan de taak nodig had, en dat de knop “Improve the model” uitzetten het uploaden niet stopte.

Elon Musk beloofde binnen twee dagen beterschap: de standaard-opslag ging uit en eerder verzamelde data zou worden gewist. Het bedrijf zette de code daarna open-source; volgens de vakpers is de uploadfunctie daarin niet verwijderd maar omgebouwd. xAI’s eigen lezing is dat een expliciete upload-uitzet wel gerespecteerd werd, maar dat opslag voor gewone gebruikers standaard aan stond. Welke lezing u ook aanhoudt, de kern blijft: gebruikers dachten dat hun data binnen bleef, en dat bleek niet zo.

Waarom lokale AI en datasecurity geen luxe zijn

Dit verhaal gaat niet over één product. Het gaat over de vraag waar u op vertrouwt als uw mensen met AI werken.

U bent er juridisch zelf verantwoordelijk voor. Wie als medewerker klant- of personeelsgegevens in een publieke chatbot plakt, veroorzaakt in de regel een datalek. Dat is niet onze mening maar die van de Autoriteit Persoonsgegevens, die er tientallen meldingen over ontving en organisaties expliciet waarschuwt. Bekend voorbeeld: bij de gemeente Eindhoven voerden medewerkers een maand lang vertrouwelijke documenten in openbare chatbots in.

Instellingen van een ander zijn geen beleid. Bij Grok staat het meetrainen op uw data standaard aan, en de uitzet-optie werkt alleen vooruit, niet met terugwerkende kracht. Bij Grok Build stopte de trainingsknop het uploaden niet. En in 2025 bleken ruim 370.000 gedeelde Grok-gesprekken openbaar vindbaar via Google, met medische vragen en minstens één wachtwoord ertussen. Drie keer hetzelfde patroon: de belofte zat in een instellingenscherm van een ander, en dat scherm hield zich er niet aan.

Lokaal draaien maakt de datagrens fysiek. Draait de AI op een server in uw eigen pand, dan is “blijft de data binnen?” geen vertrouwensvraag meer maar een netwerkvraag. De verwerking van uw dossiers en documenten gebeurt binnen uw muren, er is geen deelfunctie die gesprekken per ongeluk indexeerbaar maakt, en wat de AI bij u ziet voedt geen gedeeld model: uw context, prijzen, huisstijl en werkwijze blijven kantooreigen. Zo hebben we Pilo gebouwd; hoe we dat technisch dichtzetten leest u op de beveiligingspagina.

Wat kan er gebeuren als die gegevens lekken of misbruikt worden

De Grok-incidenten van het afgelopen jaar laten concreet zien wat er op het spel staat. Vijf scenario’s, allemaal al gebeurd of onder onderzoek:

1. Uw gesprekken liggen op straat. De 370.000 geïndexeerde Grok-chats bevatten gezondheidsvragen, zakelijke details en een wachtwoord. Eenmaal door een zoekmachine opgepikt is zulk materiaal gekopieerd voordat u het weet; het is bruikbaar voor phishing op maat, afpersing of reputatieschade bij uw klanten.
2. Uw sleutels liggen naast de deur. Grok Build stuurde ongeredigeerde inloggegevens uit configuratiebestanden mee naar de cloud. Wie zulke sleutels vindt, hoeft niet in te breken: die logt gewoon in. Op uw systemen, uw mail, uw boekhouding, of bij uw klanten.
3. Uw data zit in het model gebakken. Trainen op gebruikersdata staat standaard aan en de opt-out repareert het verleden niet. Wat eenmaal in een trainingsronde zit, krijgt u er praktisch niet meer uit. De Ierse toezichthouder onderzoekt of dat trainen op EU-data überhaupt rechtmatig is.
4. Materiaal wordt tegen mensen gebruikt. Met Grok’s beeldfunctie werden volgens onderzoekers binnen enkele dagen naar schatting drie miljoen geseksualiseerde beelden van echte vrouwen en kinderen gemaakt. De Europese Commissie opende een DSA-onderzoek, de Ierse en Britse privacytoezichthouders onderzoeken het onder de AVG, en de rechtbank Amsterdam verbood het in maart 2026 op straffe van dwangsommen tot 10 miljoen euro per entiteit. Foto’s van uw mensen of klanten die ergens in zo’n systeem belanden, kunnen met datzelfde gemak tegen ze worden ingezet.
5. De rekening komt bij u. Uw kantoor blijft verwerkingsverantwoordelijke. Een lek via een consumenten-AI zonder verwerkersovereenkomst betekent zelf melden bij de Autoriteit Persoonsgegevens (binnen 72 uur), getroffen personen informeren en uitleggen waarom bedrijfsdata bij een Amerikaanse dienst stond waar geen afspraak mee lag.

De nuchtere conclusie

Medewerkers gaan AI gebruiken, met of zonder beleid. Het verschil zit in waar dat gebeurt en wiens regels er gelden. Gebruikt uw team vandaag al ChatGPT, Grok of Copilot voor werk? Lees dan ook wat er met klantdata gebeurt als u ChatGPT gebruikt, of plan een kennismaking en zie hoe hetzelfde werk binnen uw eigen muren kan.

Veelgestelde vragen

Is Grok gebruiken op het werk verboden?

Nee, maar u bent als bedrijf zelf verantwoordelijk voor wat uw mensen erin stoppen. De Autoriteit Persoonsgegevens beschouwt het invoeren van persoonsgegevens in zo’n publieke chatbot in de regel als een datalek, en ontving daar al tientallen meldingen over.

Wat was er precies aan de hand met Grok Build?

Een onderzoeker toonde in juli 2026 aan dat de tool bij elke sessie de volledige projectmap naar de cloud stuurde, inclusief inloggegevens, en dat de trainingsknop uitzetten het uploaden niet stopte. De leverancier heeft de standaard-opslag daarna uitgezet, beloofde de data te wissen en zette de code open-source.

Beschermt de uitknop voor “trainen op mijn data” mij voldoende?

Zo’n knop helpt, maar vaar er niet blind op: bij Grok Build stopte die knop het uploaden niet, en de trainings-opt-out van X werkt alleen vooruit. Wie zeker wil weten dat data binnen blijft, legt de verwerking zelf vast, bijvoorbeeld door AI lokaal te draaien.

Hoe doet Vastpilot dit anders?

Pilo draait op een server in uw eigen pand. De verwerking van dossiers en documenten gebeurt binnen uw kantoor, en wat Pilo bij u ziet voedt geen gedeeld model. U bepaalt per werkstroom wat Pilo zelf mag afronden; standaard wacht elk concept op uw akkoord.