Ik heb een iBestuur-hattrick! En stond de afgelopen twee dagen drie keer op iBestuur, om uiteenlopende redenen. Voor wie het overzicht kwijt is, een korte rondgang met links naar het origineel.

2 juni: Audio uit raadsvergaderingen levert een schat aan info op (crosspost van Binnenlands Bestuur)
Over hoe we werken met lange, ontoegankelijke audio-opnames van raadsvergaderingen, door ze op te knippen in doorzoekbare ‘nuggets, of de audiotranscripten samen te vatten met LLMs. Wat laten die dan weg? In ieder geval procedurele zaken, maar misschien ook inhoudelijke onderwerpen. Stay tuned!

3 juni: AI en Open Overheid: lessen van de internationale wetenschap
Mijn eigen stuk: een vogelvlucht door het onderzoek dat op 8 juni in Singapore wordt gepresenteerd op onze AI & Open Government workshop. Ik heb hier geprobeerd de ‘praktische inzichten’ op te sommen in gewone mensentaal, voor bestuurders. Die inzichten? Met publiek beschikbare en open-source modellen, slim gecombineerd, kom je al een heel eind met AI inzetten voor de Woo.

3 juni: Vijf jaar later: hoe is het met de Woo?
Het verslag van de vijfde Woo-ontbijtsessie, waar ik aan tafel zat met staatssecretaris Eric van der Burg, Ingeborg Harmsen en Onno Eric Blom. Mijn punt: voor informatiehuishouding bij de overheid kunnen we best wat minder gestructureerd zijn, en meer leunen op bewezen zoektechnologie.

Nu is het vast een goed moment voor iBestuur en ik om even wat afstand van elkaar te nemen. Allicht tot volgend jaar!

Ik sta (met mijn hoofd) in iBestuur, met een interview waarin onder meer WooPush aan bod komt, mijn huidige “OpenGov meets RecSys”-project, waarbij we onderzoeken of aanbevelingssystemen kunnen bijdragen aan geïnformeerd burgerschap, door relevante (lokale) overheidsinformatie proactief naar mensen te ‘pushen’, in plaats van te wachten tot ze zelf op zoek gaan. Op dit moment werken een aantal getalenteerde en gedreven studenten aan hun afstudeerscripties over verschillende (randvoorwaardelijke) deeltaken voor WooPush, van het transcriberen en samenvatten van opnames van raadsvergaderingen, het metadateren van raadsstukken, het identificeren van relevante informatie zoals beleidswijzigingen in raadsstukken, tot daadwerkelijke user studies (met echte mensen in de echte wereld!) naar de informatiebehoeften van burgers. Ik zie erg uit naar de resultaten die de komende tijd zullen binnendruppelen, en ben blij met de inzet van Kevin, Kate, Bram, Ian Hutcheson, Raphael, en Noah!

De “Netflix-knop” uit de titel is een voor de hand liggende, passende metafoor, maar in het stuk nuanceer ik die ook gelijk: Netflix interesseert het vooral of jij een aangeboden film gaat kijken. Bij overheidsinformatie tellen andere zaken mee: is de informatie handelingsgericht? Is het relevant voor de burger op basis van interesses, levensfase, of geografische nabijheid? Is de informatie begrijpelijk? Dat maakt dit vraagstuk complexer dan Netflix, maar ook potentieel impactvoller: het verschil tussen wel of geen insrpaak hebben op een beleidswijziging, is nogal wat anders dan het verschil tussen wel of geen Bridgerton.

Voor de rest wordt er in dit stuk ook aandacht besteed aan AI-kwesties waar ik me al langer graag over uitspreek, zoals: je kunt beter het idee vergeten dat je volledige (Woo-)processen kunt automatiseren met AI. AI werkt het best wanneer je het klein houdt, richt je dus op kleine, nauwe deeltaken. De imperfecties die bij hedendaagse (generative) AI komen kijken (bias, hallucinaties, willekeur, betrouwbaarheid) moet je daarbij niet zien als bugs die ooit gefixt moeten worden, maar als inherente eigenschappen ervan. Eigenschappen waar je in je ontwerp rekening mee moet houden, en mee bouwt. Als laatste, waar ik al jaren van overtuigd ben: AI is geen black box waar we aan overgeleverd zijn, maar iets dat we zelf kunnen bedenken, ontwerpen, bouwen, beheren, en doorontwikkelen!

Dank Martijn Bennis voor het gesprek!

iBestuur published a small article about the Open Data Conferentie where I gave my keynote on WooPush, see the snippet below:

De eerste keynote kwam van David Graus (ICAI OpenGov Lab). Hij liet zien dat open data pas echt impact heeft als het aansluit op wat burgers nodig hebben. Niet alleen het publiceren van open data telt, maar vooral dat informatie op een laagdrempelige manier beschikbaar is voor hergebruik.

Graus schetste het contrast tussen publieke data-infrastructuren en commerciële platforms zoals TikTok of Spotify, die hun gebruikers door en door kennen en actief content aanbevelen. ‘De vraag is niet: hoe maken we meer data openbaar? Maar: hoe zorgen we dat mensen de informatie vinden die voor hen betekenisvol is, zónder dat ze er expliciet om vragen?’

De uitdaging zit volgens Graus in de datakwaliteit (dus niet: gescande documenten, zwartgelakte pdf’s, ontbrekende metadata, et cetera), toegankelijkheid (denk aan: type documenten, gecombineerde pdf’s of decentrale bronnen) en de vraag: wie wordt er eigenlijk bereikt?

Die laatste is de grootste uitdaging, volgens Graus. ‘De wetenschappelijke literatuur laat zien: open data empowers the empowered,’ waarschuwt hij. ‘Als we willen dat open data recht doet aan publieke waarden, moeten we meer doen dan alleen publiceren.’

🔗 and read the full article here: Nieuwe energie op Open Data Conferentie 2026

Wat leuk om in dit stuk van NEMO Kennislink te staan, waarin ik, volledig tegen mijn natuur in, als genuanceerde voice of reason fungeer. Wie had dat gedacht 😅.

Want: moeten we nu als een malle in AI investeren, om niet de boot te missen? Uh, tja. We raken het scaling plateau, het eerste empirisch onderzoek dat binnendruppelt lijkt de beloofde productiviteitswinsten van AI wat te weerleggen, en het blijft ook wat verdacht dat al die big tech bedrijven iedereen, inclusief hun medewerkers, AI door de strot proberen te duwen. Maar, een AI Factory en betere faciliteiten en aandacht voor AI onderzoek lijkt mij een uitstekend plan (😇). En werken zonder Claude zie ik ook niet meer echt zitten… Afijn, je snapt het.

Mijn favoriete passage (naast “Graus kijkt vanaf zijn bureaustoel naar buiten“–uit het leven gegrepen):

“Op de arbeidsmarkt, waar discriminatie structureel voorkomt, kunnen AI-systemen dit probleem versterken, maar ook helpen tegengaan; mits goed ontworpen.”

Liever doen we AI goed, dan groot en duur!

Benieuwd naar mijn twijfels, en of ik geloof in AI of in de AI bubbel? Lees: Europa moet eigen positie claimen in de AI-race.

Dank aan Daan Appels voor het accuraat optekenen van mijn lichte twijfel, nuance, en voorzichtigheid met stellige uitspraken over de toekomst van AI, naast de wat meer optimistische blik van Michiel Bakker!

This weekend I was asked a few questions about mitigation of harmful content in AI, in response to the news around Groks use for generating sexualized content: Grok produceert massaal en ongewild seksuele afbeeldingen. Kan dat ook anders? I was quoted:

In theorie zijn AI-bots als Grok prima te begrenzen, zegt universitair docent David Graus (Universiteit van Amsterdam). Dat begint al bij de ontwikkeling ervan. “Je kunt de bot van tevoren bijsturen en trainen: ‘als ik zo’n vraag stel, wil ik zo’n soort antwoord zien.”En is de bot eenmaal in gebruik, zoals bij Grok? Dan kan een bedrijf achteraf altijd nog filters toevoegen.

“Bijvoorbeeld een verbod op de woordcombinatie ‘uitkleden’ en ‘deze foto’, om maar iets te noemen.” Dat filteren kun je zelfs ook weer met kunstmatige intelligentie doen, zegt Graus. “Dat werkt over het algemeen vrij goed.”

What didn’t make the cut due to space constraints, was my full answer, stating three layers of harmful content mitigation:

1. Data: curate your data to reduce harmful content
2. Training/fine-tuning: instruct your model to show (un) desired behavior
3. Output: filtering with heuristics (words) or using LLMs-as-judge to estimate the likelihood the prompt will yield harmful content

Each of these methods work, have different costs, are likely all applied (to some extent), but neither is an end-all solution.