De kans is groot dat je de term Chat Control de afgelopen maanden voorbij hebt zien komen. Het klinkt onschuldig, alsof het een simpele applicatie is die je in de app store download. Maar achter deze term gaat een van de meest controversiële EU-wetsvoorstellen van dit moment schuil, wat zelfs tot Orwelliaanse praktijken zou kan leiden.
Kort gezegd: Chat Control zou aanbieders van chatdiensten (zoals WhatsApp, Signal, en iMessage) verplichten om berichten van gebruikers te scannen op illegale inhoud. Het doel is om de strijd aan te gaan tegen kindermisbruik en criminele netwerken. Maar de manier waarop roept grote vragen op.
Wat is Chat Control precies?
De kern van het voorstel is dat alle digitale communicatie door bedrijven moet worden gecontroleerd door middel van Kunstmatige Intelligentie (AI). Niet alleen openbare posts, maar ook privéberichten. Zelfs berichten die end-to-end versleuteld (E2EE) zijn.
Dat betekent dat apps als WhatsApp of Signal technologie moeten inbouwen om berichten vóór of tijdens het verzenden te scannen. In de praktijk komt dit neer op het installeren van een “digitale gluurder” in je chat app.
Dit betekent dat wanneer jij een bericht of afbeelding stuurt naar een vriend of collega, deze door AI worden gescand op signalen van kindermisbruik. Als het AI systeem kindermisbruik denkt te detecteren, worden je gegevens direct doorgestuurd naar de landelijke politie, maar ook naar Europol. Vervolgens beslissen zij of er verdere actie ondernomen wordt. Hierbij moeten al alle alarmbellen afgaan.
Waarom klinkt dit zorgelijk?
Op papier gaat het om de bestrijding van ernstig misbruik, in dit geval kindermisbruik. Maar in de praktijk zitten er grote risico’s aan:
- Privacy onder druk
Wanneer al je berichten worden gescand, bestaat er geen vertrouwelijkheid meer in onze digitale manier van communiceren. Denk aan privégesprekken met je partner, medische informatie met je arts, of zakelijke plannen die je via chat deelt. Zelfs al is de inhoud onschuldig, het idee dat er altijd iemand meekijkt, verandert hoe veilig mensen zich voelen.
- Technische kwetsbaarheden
Om berichten te kunnen scannen, moet end-to-end encryptie worden verzwakt of worden weggedaan. Daarmee ontstaan achterdeurtjes die niet alleen opsporingsdiensten kunnen gebruiken, maar ook kwaadwillenden zoals cybercriminelen. In landen waar encryptie verboden of verzwakt is, zien we vaker dat hackers en criminelen toegang krijgen tot persoonlijke gegevens of financiële informatie.
- Function creep
Wat vandaag wordt ingezet tegen kindermisbruik, kan morgen ook worden gebruikt tegen andere vormen van content. Zo werden in het verleden technologieën die ooit bedoeld waren voor terrorismebestrijding later ook gebruikt voor het opsporen van demonstranten of politieke tegenstanders. De kans is groot dat een systeem dat er eenmaal is, steeds breder ingezet wordt.
- Chilling effect
Mensen gedragen zich anders als ze weten dat iemand meeleest, ook als ze niets verkeerd doen. Denk aan journalisten die gevoelige bronnen minder snel durven te gebruiken, of burgers die geen kritische berichten meer durven te sturen over politiek of werk. Het leidt tot zelfcensuur en een verschraling van het publieke debat en dus de democratie.
Daarnaast is er een grote kans op foutpositieve meldingen. Foutpositief betekent dat onschuldige berichten of beelden ten onrechte als verdacht worden aangemerkt. De politie kampt nu al met enorme achterstanden. Wanneer miljarden berichten gescand worden, creëer je vooral extra meldingen die de politie niet kunnen onderzoeken.
Is er een alternatief?
Tegenstanders wijzen erop dat het bestrijden van misbruik belangrijk is, maar dat er gerichte opsporingsmethoden bestaan die effectiever zijn en minder ingrijpen in de privacy van miljoenen burgers.
Denk aan:
- Versterken van opsporingsdiensten
Politie en justitie kampen met achterstanden en beperkte capaciteit. Extra investeringen in gespecialiseerde teams en snellere procedures kunnen zorgen dat bestaande meldingen sneller worden opgepakt. Zo wordt de pakkans verhoogd zonder dat ieders privéberichten moeten worden doorgelicht.
- Internationale samenwerking
Online misbruik stopt niet bij landsgrenzen. Veel criminele netwerken opereren internationaal en maken gebruik van servers verspreid over de hele wereld. Door nauwer samen te werken met andere landen, kan de effectiviteit van opsporing aanzienlijk worden vergroot.
- Gerichte opsporingsmiddelen
In plaats van álle burgers preventief te monitoren, kan technologie worden ingezet om bekende verdachten en risicogroepen gericht te volgen. Bijvoorbeeld door bestaande opsporingsmethoden te verbeteren met data analyses en het monitoren van verdachte patronen. Dat levert gerichtere resultaten op en voorkomt een stortvloed aan foutpositieve meldingen die opsporingsdiensten juist vertragen.
Conclusie
Chat Control is een voorstel met goede intenties, maar een slechte uitvoering die averechts werkt, en potentieel de democratie aantast. Het schuurt aan de kern van onze digitale vrijheden: het recht op vertrouwelijke communicatie.
De vraag is niet óf we misbruik moeten bestrijden — dat staat buiten kijf — maar hóe. En of het proportioneel is om iedere burger in Europa standaard te laten controleren, om een relatief klein aantal misdadigers op te sporen.
Of je nu data scientist, jurist of gewone gebruiker bent: dit debat gaat ons allemaal aan. Want de manier waarop we vandaag omgaan met privacy en technologie, bepaalt hoe vrij we morgen nog kunnen communiceren.