Sign in Subscribe
11 min read

We laten het verkeerstijdperk en grip op wat waar is en wat niet achter ons, wat betekent dat voor de media?

En daarnaast: Peter Vandermeersch laat zien hoe hard het nodig is dat de journalistiek leert hoe het moet werken met AI
We laten het verkeerstijdperk en grip op wat waar is en wat niet achter ons, wat betekent dat voor de media?
Jonah Peretti op SXSW

Dit is met 3000 woorden misschien wel mijn langste nieuwsbrief ooit. Ik wilde namelijk een stuk schrijven waarin ik terugkijk op SXSW, maar toen kwam er een klein dingetje met Peter Vandermeersch tussendoor, wat ik uiteraard niet kon laten liggen. In deze nieuwsbrief bespreek ik dan ook twee onderwerp met je:

  • Peter Vandermeersch laat zien hoe hard het nodig is dat de journalistiek leert hoe het moet werken met AI.
  • Wat ik leerde op SXSW: 5 kantelpunten waarop we ons bevinden.

Peter Vandermeersch laat zien hoe hard het nodig is dat de journalistiek leert hoe het moet werken met AI

In 15 van de 53 blogposts die hij schreef, staan citaten die onvindbaar zijn in de publicaties waar Vandermeersch ze vandaan zegt te hebben, zoals nieuwsartikelen en wetenschappelijke onderzoeken. Zeven geciteerden bevestigen dat zij de aan hen toegeschreven uitspraken niet deden in deze publicaties – noch, voor zover ze zich herinneren, elders. Bij elkaar gaat het om tientallen citaten. 

Deze quote uit een artikel dat donderdag verscheen in NRC vertelt eigenlijk het hele verhaal: Peter Vandermeersch, voormalig hoofdredacteur van diezelfde krant, heeft voor een nieuwsbrief/blog dat hij schrijft als Fellow 'Journalism & Society' bij Mediahuis, een taalmodel teksten laten schrijven en deze vervolgens niet heeft gecontroleerd.

Een pijnlijke fout die ervoor zorgt dat Vandermeersch zijn rol als fellow kwijtraakt en nu doorbetaald thuis komt te zitten (tenminste, dat neem ik aan). Daarnaast stapt hij ook uit de commissie die in opdracht van de Raad van Cultuur onderzoek doet naar de bescherming van journalistieke vrijheid.

Om te beginnen mijn complimenten aan Menno van den Bosch die dit onderzoek heeft gedaan. Met daarbij meteen een tip: Van den Bosch schrijft een heel fijne nieuwsbrief over misinformatie en mediahypes, genaamd De Hype Is Real.

Toen ik het verhaal las was ik oprecht verbaasd, dat Peter Vandermeersch blijkbaar aan de slag is gegaan met technologie waarvan hij geen idee heeft hoe hij ermee moet werken. Een fout maken kan iedereen overkomen, maar hij heeft structureel onderzoek- en schrijfwerk uitbesteed aan tools die bekend staan om hun hallucinatiegedrag en blijkbaar niks gedaan om het risico daarop te verkleinen én, nog belangrijker: om de output te controleren.

Het probleem is hierbij niet de technologie zelf, maar er gewoon niet mee kunnen omgaan. Zoals UvA-onderzoeker Hannes Cools ook zegt in het NRC-artikel zit daar een gigantisch probleem:

De AI-geletterdheid in de journalistiek is niet zo hoog als die zou moeten zijn. Dat merk ik in de trainingen die ik geef op nieuwsredacties.

Vandermeersch zelf schrijft in een verklaring:

Ik was enthousiast over de mogelijkheden die de AI-modellen boden en wilde daar volop mee experimenteren. Daar ben ook ik, zelfs met al die jaren van ervaring en kennis die ik op de teller heb, in de val getrapt van hallucinaties. Ik vatte rapporten samen met een AI-tool en begon daarop te werken, in het vertrouwen dat de samenvattingen correct waren. 

Hallucinaties zijn geen val waar je in trapt. Het zijn beperkingen van de technologie, waardoor je voorzorgsmaatregelen moet nemen voor je ze gebruikt. Dat kan deels door beter te prompten of andere tools te gebruiken (met een tool als NotebookLM had Vandermeersch een stuk minder fouten gemaakt dan met Perplexity), maar vooral door de output te controleren.

Daar kwam Vandermeersch zelf ook achter:

De broodnodige “human oversight”, waarvoor ikzelf voortdurend pleit, schoot tekort. Toen ik mezelf daar een aantal maanden geleden op betrapte, slonk mijn enthousiasme en vanzelfsprekend ook mijn gebruik van AI. Ja, ik gebruik het nog als basis voor vertalingen, als hulp bij het doorploegen van documenten, als sparringpartner voor ideeën, mogelijke koppen, andere invalshoeken. Maar met veel minder naïef vertrouwen dan ik een aantal maanden geleden wel nog had. Nog één iets, over transparantie: daar maakte ik een tweede fout. Toen ik wist dat een aantal citaten niet correct was, had ik die gelijk moeten rechtzetten.

Zeker die tweede fout laat zien dat het niet de technologie is die hier de fout in gaat, maar Vandermeersch zelf. Het is extreem kwalijk dat hij niets heeft ondernomen toen hij er zelf achterkwam dat hij fouten had gemaakt.

Tegenstanders van AI-gebruik zullen in deze hele situatie een bevestiging zien dat je geen kunstmatige intelligentie zou moeten gebruiken voor journalistiek werk, maar dat doet de technologie tekort. Kunstmatige intelligentie is een verzamelnaam voor heel veel technologie.

Zach Seward, Editorial Director AI Initiatives bij The New York Times, vertelde op SXSW dat ze de Epstein-files niet hadden kunnen doorzoeken zonder de hulp van de AI-tools die de krant heeft ontwikkeld. Dat zijn specifieke tools die met een duidelijk doel worden ingezet, die uitgebreid zijn getest en waarvan men weet wat ermee kan en wat de beperkingen zijn. En dat is waar het omgaat.

Het gaat om de AI-geletterdheid, die onderzoeker Cools noemde in NRC. Als er één conclusie is die getrokken moet worden uit de fouten van Vandermeersch is dat nieuwsorganisaties hiermee aan de slag moeten. Op de redactievloer, maar ook zeker aan de top. Kunstmatige intelligentie biedt een gereedschapskist vol nieuw gereedschap, maar je moet wel weten waarvoor je dit gereedschap wel en niet kunt gebruiken en hoe je het veilig in kunt zetten.

Wat ik leerde op SXSW: 5 kantelpunten waarop we ons bevinden

Dit jaar was ik voor de negende keer op SXSW in Austin, Texas en dit jaar had ik het idee dat de sessies een laag dieper gingen. Er was voor mijn gevoel minder focus op de hype (al waren er voor de liefhebbers genoeg hypesessies te vinden) en meer aandacht voor de vragen en onzekerheden die horen bij de snel veranderende wereld waarin we leven. Op allerlei vlakken lijken we ons op een kantelpunt te bevinden, waarbij nog niet altijd duidelijk is welke kant het opgaat.

Dat maakt het in mijn ogen lastiger om grip te krijgen op wat ik nu eigenlijk heb opgestoken van een week vol interessante sessies. Normaal schrijf ik een paar dagen na SXSW met gemak een nieuwsbrief met een aantal dingen die ik leerde, maar ik merk dat dat dit een jaar een stuk lastiger is. En dus wil ik in plaats van geleerde lessen graag de kantelpunten met je delen.

1. Van verkeerstijdperk naar AI-tijdperk

Ik schrijf in mijn nieuwsbrief nu al een paar jaar over het einde van het verkeerstijdperk. Het volgende tijdperk is een tijdperk van generatieve AI, waar het nog lastiger wordt om geld te verdienen met je content als Google je artikelen samenvat of mensen vragen stellen aan een chatbot om aan informatie te komen.

Media worstelen hiermee en er lijkt nog niet echt een oplossing om te zorgen dat je daadwerkelijk geld kunt verdienen als bezoekers niet naar je site komen. Madhav Chinnappa, voormalig Director of News Ecosystem Development bij Google deelde in een panel wat hij op dit moment "het minst slecht idee" noemt: de industrie moet samenwerken om betaalde API-toegang tot hun content te regelen bij de AI-bedrijven die de fundamentele AI-modellen maken (OpenAI, Google, Anthropic, Meta, X etc.). Juridisch het gevecht aangaan heeft volgens hem geen zijn, de AI-bedrijven zullen het juridische gevecht zo lang mogelijk blijven rekken, omdat toegang tot data essentieel is voor hun business.

Jonah Peretti, die als oprichter van BuzzFeed aan de basis heeft gestaan van het verkeerstijdperk, stelt dat we de media-industrie op een breekpunt staat. Distributie is gratis geworden en productie kan door AI worden geautomatiseerd, stelt hij. Los van de discussie die je kunt voeren over of je productie van journalistiek kunt automatiseren, is dit in bredere zin zeker het geval voor content. En kun je je, zoals ik anderhalve week geleden schreef, afvragen hoe lang het nog houdbaar is om als nieuwsmerk waarde te halen uit de productie van eerstelijnsnieuwsberichten. Volgens Peretti verplaatst waarde zich nu naar wat schaars is en niet geautomatiseerd kan worden: smaak, cultuur en gemeenschap. Ik denk dat hij gelijk heeft, al denkt hij dat voor BuzzFeed betekent dat het bedrijf hype-appjes die een week leuk zijn moet gaan bouwen. Ik geloof niet dat dat BuzzFeed gaat redden...

Wat ik overigens wel in meerdere sessies terughoorde komen is dat eigenlijk iedereen het erover eens is dat de huidige verandering juist voor lokale journalistiek kansen biedt. Lokale journalistiek is uniek en levert heel direct waarde aan het publiek, omdat het zo dichtbij hen staat. Daarnaast werkt het verbindend, wat een mooi bruggetje is naar het tweede kantelpunt...

2. Van aandachtseconomie naar relatie-economie

Het verkeerstijdperk, wat onderdeel van de aandachtseconomie, maar doordat er straks zoveel content wordt gemaakt en rondgepompt in allerlei vormen en maten, kun je je afvragen of je nog geld kunt verdienen met aandacht. In verschillende sessies ging het dan ook over de verschuiving van aandachtseconomie naar een relatie-economie. Ik schrijf al jaren over hoe belangrijk het is om in te zetten op een loyaal publiek dat wil betalen voor wat je doet. De huidige ontwikkelingen bevestigen alleen maar hoe belangrijk dit aan het worden is.

Niet alleen in de relatie tot nieuwsmedia trouwens, maar ook voor zelfstandige makers. De verschuiving naar algoritmes die bepalen wat mensen zien en het feit dat iemand die je volgt op social media eigenlijk geen waarde meer heeft, dwingt makers om te kijken naar alternatieven. Naar manieren waarop ze een directe relatie kunnen opbouwen met hun publiek, waarbij ze minder afhankelijk zijn van de platformbedrijven voor hun inkomsten. Vervolgens kunnen ze verdienen aan die relatie door hun publiek te laten betalen voor extra content, producten of toegang tot fan-communities.

3. Van waarheid naar ...?

In 2016 riep Oxford post-truth uit tot het woord van het jaar en sindsdien is het concept waarheid steeds fragieler geworden. De opkomst van AI-gegenereerde media zorgt er uiteindelijk voor dat we bij alles wat we zien en horen gaan twijfelen of het nep is, aldus Steve Rosenbaum, die binnenkort een boek uitbrengt over de toekomst van het concept waarheid.

De algoritmes die bepalen wat mensen zien op platforms versterken de verspreiding van onjuiste informatie. Als iets niet klopt en mensen reageren daarop dat het niet klopt, krijgt dat bericht of die video juist meer bereik, omdat mensen erop reageren. En überhaupt: wat reacties oproept krijgt ook meer aandacht, ook als het niet klopt.

Een ander probleem: mensen vertrouwen individuele personen inmiddels meer dan instituten. Los van zelfstandige journalisten die zich vastbijten in bepaalde onderwerpen, zijn die individuele personen ook heel vaak niet-journalisten. En dat is een probleem. In Nederland zien we Adriaan ter Braack, alias Sjamadriaan, ten strijde trekken tegen de onzin die influencers verspreiden. In de VS hebben "podcast bro's", zoals ze in een panel werden genoemd, inmiddels de rol van journalist overgenomen voor een deel van het publiek.

Soms heb ik het idee dat we nog geen grip kunnen krijgen op hoe groot het probleem aan het worden is met wat de waarheid is en wat niet. En de journalistiek heeft werkelijk geen idee hoe ze hiermee om mee moeten gaan, wat misschien nog wel een groter probleem is. Zelfs in de sessies op SXSW werden er veel zorgen gedeeld, maar waren er nog te weinig oplossingen.

4. Van een internet voor mensen naar een internet voor bots

In 2027 is er meer internetverkeer afkomstig van bots dan mensen, voorspelde de CEO van Cloudflare op SXSW. Nu zijn ze in de techindustrie over het algemeen wel erg optimistisch over hoe snel de veranderingen door generatieve AI gaan, maar Cloudflare ziet het internetverkeer nu al razendsnel veranderen. Onder meer omdat een bot veel meer sites bezoekt om iets uit te zoeken dan een mens. Ook als de meeste mensen gewoon lekker blijven surfen en niet allerlei agents aan het werk zetten, kan het botverkeer al groter worden dan het menselijke verkeer. En dat vraagt om fundamentele wijzigingen in hoe het internet werkt om dat beheersbaar te houden. Afgelopen woensdag schreef ik hier al uitgebreid over.

5. Van menselijk werk naar vergaande automatisering

Het ging op SXSW logischerwijs ook veel over de impact van kunstmatige intelligentie op werk. De afgelopen maanden zie je namelijk wat er kan gebeuren zodra generatieve AI goed genoeg wordt in een bepaalde taak. Afgelopen week vliegen de berichten over Amerikaanse techbedrijven die hun personeel ontslaan je om de oren. De reden? Programmeurs hoeven niet meer zelf code te schrijven en taalmodellen kunnen dat doen. Dat kost echter geld, veel geld, en dus leveren de ontslagen ook helemaal geen financiële winst op. Het budget verschuift van mens naar machine. En er lijken ook wat techbedrijven te zijn die simpelweg te veel mensen in dienst hebben en automatisering als smoes gebruiken om mensen te ontslaan.

Dat er op het gebied van programmeren echt een omslagpunt is bereikt, daar leek eigenlijk iedereen op SXSW het over eens. De verandering gaat razendsnel en dat brengt allerlei uitdagingen met zich mee. Er is logischerwijs nog een flinke groep programmeurs die zich verzet tegen de verandering, maar de vraag is of dat verzet houdbaar is.

De verandering voor het werk van een programmeur is een soort testcase voor wat veel meer banen te wachten staat. En ik denk uiteindelijk dat hoe deze verandering op termijn uitkristalliseert bepalend is voor de ontwikkeling in andere banen en sectoren. Ondertussen zouden beleidsmakers en directies al bezig moeten zijn met wat dit gaat betekenen, stelt Amy Webb. Zij houdt zich bezig met strategic foresight, waarbij ze op basis van signalen die je nu al ziet toekomstscenario's schetst, en presenteert jaarlijks een onderzoeksrapport op SXSW. Ze sprak over unlimited labor, waarbij werk op schaal kan worden gedaan door geautomatiseerde systemen zonder menselijke bijdrage. Natuurlijke limieten als tijd, aandacht en vermoeidheid spelen dan geen rol meer. Wat betekent dat voor de economie en voor mensen? Het is een onderwerp waar het natuurlijk wel vaker over gaat, maar voor de mensen die beslissingen nemen nog te ver weg voelt om er over na te denken. Ondertussen rijden in het centrum van Austin, waar SXSW plaatsvindt, volgens mij al meer zelfrijdende taxi's rond dan taxi's met een menselijke chauffeur...

Waarom ik dit onderwerp aanhaal in mijn nieuwsbrief? Omdat ik het idee heb dat de media in Nederland nog te weinig aandacht hebben voor deze verandering. De toekomst is op dit vlak zeer onduidelijk en onzeker, maar de verandering gaat sneller en is groter dan we doorhebben.

Kort