Als maker (of redactie) generatieve AI inzetten brengt een gigantisch afbreukrisico met zijn mee

Afgelopen week merkte ik dat in een deel van Nederland de zomervakantie is begonnen. Niet alleen heb ik het rustig qua werk, maar het is ook rustiger aan het worden in mijn mailbox. Ik heb zowaar de tijd gehad om wat projectjes op te pakken waar ik al heel lang mee aan de slag wil (waaronder het bouwen van een tool om voor mezelf het archief van mijn nieuwsbrief beter doorzoekbaar te maken). Ook ben ik thuis wat klusjes op gaan pakken.

Komende week werk ik nog en daarna stort ik mij zoals ieder jaar tien dagen lang vol op Kermis FM, waar ik adjunct-hoofdredacteur ben. Waar ik voorheen altijd bewust niet wegging in de zomervakantie, ga ik dit jaar in augustus juist wel weg, omdat ik tegenwoordig een schoolgaand kind heb.

Daarna heb ik nog zowaar een vrij lege agenda. Waar ik jarenlang altijd vol zat qua werk, lijkt er dit jaar wat te zijn veranderd en komen er minder aanvragen voor zowel adviestrajecten, presentaties als workshops binnen. Het is iets wat ik om me heen meer hoor, dus het ligt (hopelijk) niet aan mij.

Een maand geleden deed ik al een oproep, maar ik doe hem gewoon schaamteloos nog een keer: heb je hulp nodig bij een vraagstuk binnen je organisatie of redactie, heb je behoefte aan grip op het snelveranderende medialandschap of wil je eindelijk eens aan de slag met een nieuwsstrategie, mail me.

Ik zie de afkeer tegen het gebruik van generatieve AI door makers en media groeien

Op allerlei plekken zag ik deze week publiek klagen over het gebruik van generatieve AI door nichemedia die ze volgen. In de Telegram-community van de podcast POM van Alexander Klöpping en Ernst-Jan Pfauth, die ook de nieuwsbrief AI Report uitgeven, schreef iemand:

Totaal random onderwerp, maar ben ik de enige die zich begint te ergeren aan de AI-gegenereerde teksten in AI Report mail? Of moet ik er juist mee leren leven omdat het AI Report is? 😁 Die eerste, korte zinnetjes onder een kopje als start van een nieuwe alinea zijn echt soms tenenkrommend.  "Gaat er wel genoeg geld om? Ja, en dat is precies wat dit soort plannen aanwakkert." Of "Hoeveel zou het opleveren? Even rekenen." of "En in Nederland? Hier komt het venijn voor ons." Vooral die laatste. Niemand schrijft zo

Hij kreeg veel bijval van andere abonnees van de betaalde AI-nieuwsbrief. "Het voelt zo levenloos, al die AI teksten in de nieuwsbrief. Alsof je op doorgekookte pasta kauwt. Wel jammer, want het gerecht zelf is lekker", schreef iemand bijvoorbeeld.

In de online community voor donerende luisteraars van Disney-podcast D-Tales schreef iemand:

Hebben we het hier eigenlijk al gehad over de nieuwe YouTube thumbnails? Van mij hoeft dit namelijk niet 😂  Het voegt imo niets toe en vind t een beetje cringe om heel eerlijk te zijn.  Wellicht denken jullie 'waar maak je je druk om' of 'jij ook altijd met je anti-AI' 😇, maar ik voel me toch zo vrij om het even in de groep te gooien.

Eerder had ook al iemand gezegd dat hij het idee had dat de YouTube-thumbnails met AI waren gemaakt en dat hij dat jammer zou vinden. Als reacties op deze berichten kwamen meer negatieve reacties en eigenlijk was er niemand die aangaf het leuk/mooi/prima te vinden.

Ik heb het zelf eerder gemerkt bij Trust Nobody, de podcast over Wie is de Mol? die ik samen met Mark Versteden en Nelleke Poorthuis maak. Eind vorig jaar gebruikten we ChatGPT om van een foto om te toveren in een afbeelding in azulejo-stijl, zo'n klassiek Portugees tegeltje. We kregen verschillende reacties van luisteraars die teleurgesteld waren dat we generatieve AI gebruikten als fotofilter.

Bij zelfstandige makers en nichemedia die een heel directe band hebben met hun publiek kleeft hier volgens mij best een groot afbreukrisico aan. Potentieel vervreemd je een deel van je publiek of daal je in hun achting, omdat je op een efficiënte manier plaatjes of teksten wilt maken. En dat is gevaarlijk, want de relatie met je publiek is de kern van je verdienmodel.

Ik denk echter dat het voor meer traditionele media niet anders is, alleen hoor je het minder snel. Bij makers reageert het publiek veel en direct of zijn er communities van het trouwste publiek, waar ik bovenstaande quotes vandaan heb. Dat betekent niet dat dezelfde ideeën en houding niet leven bij media waar het publiek minder vocaal is.

Het experiment van RTV Oost, waarbij een avatar wordt gebruikt bij online video's, waar ik woensdag al over schreef, is mede daardoor extreem risicovol. Sterker nog: hier gaat het om journalistieke producties, waarbij je nog honderd keer voorzichtiger moet zijn dan bij een plaatje ter promotie. Volgens mij beseffen ze dat onvoldoende bij de regionale omroep.

Zelf merk ik het bij vaksite Spreekbuis. Ik was altijd al vrij kritisch op deze site, omdat ik het idee krijg dat de site regelmatig gebruikt wordt in het belang van andere werkzaamheden van eigenaar Tens Media. Zo worden er bovenmatig veel geschreven over betalende partners en zijn er bijzonder veel lobby-achtige artikelen gepubliceerd over NLZiet, waarvoor het bedrijf - in ieder geval in het verleden - marketingactiviteiten deed. Los daarvan las ik de site trouw, want er staan regelmatig interessante artikelen op over dingen die ik nergens anders lees.

De laatste tijd merk ik dat ik compleet afhaak als lezer van de site. De intens lelijke AI-afbeeldingen vol fouten vond ik de afgelopen jaren al storend, maar tegenwoordig wordt volgens mij een groot deel van de artikelen met behulp van een taalmodel geschreven. Ik kan mijn aandacht niet goed bij de teksten houden, merk ik. En ik vind het kwalijk dat er onvoldoende transparantie is over het gebruik van generatieve AI.

De weerstand tegen AI nam de afgelopen twee jaar toe, maar het probleem is groter dan dat. De kwaliteit van alle genoemde voorbeelden is een probleem. YouTube-covers waarbij de personen in de afbeeldingen helemaal niet meer lijken op de mensen in kwestie, teksten die meer moeite kosten om te lezen, video's waarbij de onnatuurlijke avatar niet lipsync praat afleidt van het nieuws... Het gaat ten koste van je reputatie onder (een deel van je) publiek.

Het argument "het is een experiment" is niet voldoende. Ik moedig experimenteren aan, maar het simpelweg toepassen van de techniek omdat hij bestaat en het vervolgens gewoon maar publiceren van het resultaat is geen experimenteren. Bij experimenteren onderzoek je eerst de wenselijkheid bij je publiek en daarna kijk je of wat je voor ogen hebt ook echt haalbaar is (en goed genoeg is). Wat ik vooral zie gebeuren is ondoordacht handelen. En of je nu maker bent of een grotere redactie, je moet generatieve AI veel doordachter en bewuster uitproberen.

Kort

• Omroep Zwart, BNNVARA en de Universiteit van Amsterdam hebben een AI-tool ontwikkeld die redacties moet helpen om hun producties inclusiever te maken. Het gaat om een soort dashboard dat feedback geeft op producties vanuit het perspectief van groepen die ondervertegenwoordigd zijn in de media. Voor een goede werking van de tool zijn echter 8000 mensen nodig die helpen om trainingsdata te genereren en daarvoor zijn nog niet genoeg vrijwilligers gevonden.
• Trouw schreef een artikel over accounts op Instagram en TikTok die worden gevuld met AI-gegenereerde afbeeldingen van sexy vrouwen die een beroep in uniform, zoals in het leger, hebben. Vaak gaat het om zogenaamde Amerikaanse vrouwen, maar het is een fenomeen dat zich in elk land voordoet, ook in Nederland. Regelmatig delen deze accounts desinformatie of racistische en transfobe content.
• Facebook en Instagram zijn zo ontworpen dat ze verslavend zijn voor gebruikers en dat is een potentieel gezondheidsrisico. Meta doet te weinig om gebruikers daartegen te beschermen. Dat is de voorlopige conclusie van een onderzoek van de Europese Commissie. Meta mag nu reageren op de onderzoeksresultaten en zijn apps aanpassen. Daarna kan de Europese Commissie eventueel een boete van een paar miljard euro opleggen.
  • Meer nieuws uit Brussel: techbedrijven mogen chatberichten van Europese gebruikers weer scannen op beelden van kindermisbruik. Dit was geregeld via een uitzondering op de Europese privacywetgeving GDPR, maar die liep in april af. Het Europees parlement heeft die uitzondering nu weer verlengd tot 2028. Er is geen wettelijke verplichting om berichten te controleren op beelden van kindermisbruik, techbedrijven doen dit op eigen initiatief.
• Het socialmediaverbod voor kinderen in Australië werkt in de praktijk niet, omdat de platforms de leeftijd van gebruikers niet goed controleren.
• Meta heeft een nieuwe functionaliteit ontwikkeld om AI-plaatjes te maken, waarin je de gezichten van andere gebruikers kunt gebruiken. Vooraf toestemming geven is niet nodig, maar Instagram-gebruikers kunnen de mogelijkheid wel handmatig uitzetten. Gratis tip: doe dat.
• Google gaat een label tonen bij advertenties die zijn gemaakt met Google's eigen generatieve AI-tools.
• Met een klein beetje vertraging dankzij de Amerikaanse overheid heeft OpenAI GPT-5.6 beschikbaar gemaakt.
• Netflix heeft een deal gesloten met een aantal Amerikaanse uitgevers om video's op de streamingdienst te gaan plaatsen. Het gaat onder meer om video's van BuzzFeed en Condé Nast. Ze zullen in een aantal landen te zien zijn op Netflix, maar niet in Nederland.