Fout stemadvies in Tilburg en Waalwijk door hallucinerende AI, site offline

In dit artikel:

De maker van de AI-gestuurde stemhulp Keus.nl heeft de site offline gehaald nadat bleek dat de tool onjuiste informatie produceerde. In aanloop naar de gemeenteraadsverkiezingen van 18 maart 'hallucineerde' het systeem: het koppelde partijen aan de verkeerde gemeenten (bijvoorbeeld in Tilburg werden partijen uit Elburg voorgesteld) en noemde in Waalwijk zelfs een partij die daar niet meedoet. Lokale en landelijke politici en deskundigen luidden de alarmbel.

ChristenUnie-Kamerlid Mirjam Bikker noemde de situatie "een bende" en stelde kritische vragen aan de minister: kan de overheid dit soort AI-stemhulpen laten aanpassen of stoppen, hoe vaak zijn ze recent gebruikt, wie is verantwoordelijk en hoe voorkom je herhaling? De maker, die zich presenteert als "Mark, 55", zegt dat het aanvankelijk haalbaar leek om met weinig middelen een stemhulp te bouwen, maar dat de onvoorspelbare fouten en dreigende juridische stappen hiertoe leidden.

Het voorval illustreert volgens hem dat AI-toepassingen voor democratische processen kwetsbaar zijn, menselijke controle cruciaal blijft en dat er in Nederland nog meer regelgeving en toezicht nodig zijn — temeer daar de EU AI Act ruimte laat voor nationale invulling.