Media moeten sinds deze maand AI-gegenereerde content labellen, maar wanneer?

Voor de laatste nieuwsbrief van deze maand (en in mijn geval ook meteen van de zomervakantie) heb ik zowaar een juridisch onderwerp uitgekozen.

De Europese AI Act verplicht je tot transparantie over AI-gebruik, maar er blijkt toch enige onduidelijkheid over wanneer dat precies moet

Begin deze maand trad de volgende fase van de Europese AI Act in werking (hij wordt stapsgewijs ingevoerd, maar daar zal ik je niet te veel mee vermoeien). Deze wetgeving raakt ook het werk van de media. Tenminste: zodra er gebruik wordt gemaakt van wat in de wet "AI-systemen" wordt genoemd. Uiteraard is er een juridische definitie van wat een AI-systeem is, maar het komt erop neer dat een computerprogramma dat zelf bepaalt wat het moet doen, in plaats van dat het simpelweg regels volgt die vooraf door een mens zijn bepaald. Dat gaat dus over generatieve AI, maar niet alleen daarover: ook traditionele machine-learning-toepassingen vallen eronder.

In de AI Act staat waar je de technologie voor mag inzetten (of eigenlijk vooral waar niet voor) en onder welke voorwaarden. Misschien wel het meest relevante onderdeel van de regelgeving is artikel 50, dat gaat over transparantie. Daarbij gaat het om transparantie over het gebruik AI-systemen aan de kant van de leverancier van de techniek, als bij degene die de technologie inzet. Als je als omroep, uitgever of maker dus AI-systemen gebruikt, raakt deze regelgeving je.

Een kleine rondvraag leerde mij dat de gevolgen van deze Europese wetgeving bij kleinere partijen helemaal niet leven, maar ook dat grote partijen elk voor zich bepalen wat artikel 50 van de AI Act nu precies voor hen betekent. Je zou denken dat de regelgeving duidelijk is over wanneer je transparant moet zijn over AI-gebruik en wanneer niet, maar dat blijkt toch niet zo helder.

In de basis lijkt het vrij simpel als je artikel 50 leest. Je moet transparant zijn over AI-gebruik als:

1. De gebruiker zelf interactie heeft met het AI-systeem, dus bijvoorbeeld een chatbot of een zoekmachine die antwoorden genereert.
2. Deepfakes (gegenereerde afbeeldingen, video en audio) moeten worden gelabeld als gegenereerd door kunstmatige intelligentie. Daarbij is de vraag natuurlijk wat de definitie van een 'deepfake' is. Dat komt neer op alles wat lijkt op bestaande personen, objecten, plaatsen, entiteiten of gebeurtenissen en die iemand voor waar zou kunnen aannemen. Voor artistiek of satirisch werk zijn de regels iets minder streng, maar geldt de verplichting onder de streep nog steeds.
3. Als het gaat om geschreven teksten, dan moet bij teksten over 'zaken van publiek belang' een AI-label staan, tenzij er menselijke redactionele controle is en iemand redactionele verantwoordelijkheid draagt.

Eigenlijk komt het er dus op neer dat als je beelden genereert met kunstmatige intelligentie, je een label moet tonen en dat als je nieuwsberichten (deels) laat schrijven door AI een label alleen nodig is als er geen menselijke controle is. Het is juridisch dus heel makkelijk om te voorkomen dat je verplicht bent om bij een tekst toe te geven dat een taalmodel hem heeft geschreven.

De onduidelijkheid zit hem vooral in het bewerken van media. Wanneer wordt een bewerking een deepfake en moet je dus transparant zijn over deze bewerking?

Ik merkte dat ik hier geen volledig eenduidig beeld kreeg toen ik verschillende redacties hiernaar vroeg. En dus besloot ik jurist Charlotte Meindersma om naar haar kijk hierop te vragen. Zij heeft zich gespecialiseerd op het gebied van content en makers, dus ze leek me de aangewezen persoon om duidelijkheid te krijgen. Haar advies is simpel: bij twijfel moet je gewoon labellen. En voor de duidelijkheid: dat moet je bij de content zelf doen en dus niet ergens weggestopt in de footer. "Het mag al met klein, maar duidelijk leesbaar 'AI' in de hoek. Dat is in principe al genoeg", legt ze uit.

"Ik heb zelf wel de indruk dat we het allemaal groter en moeilijker maken dan het is", zegt ze over de vraag wanneer je nu wel of niet moet labellen.

Uiteindelijk is het advies om bij twijfel gewoon te labellen natuurlijk het beste. Het draait er voor media niet om dat je precies aan de letter van de wet moet voldoen of hoe je moet opereren in een eventueel grijs gebied. Het gaat erom dat je transparant bent; daar zou in de ideale wereld helemaal geen AI Act voor nodig hoeven zijn.

Als het gaat om het bewerken van beeld en geluid, moet je jezelf volgens mij gewoon de vraag stellen: had ik zelf willen weten dat hierbij kunstmatige intelligentie is gebruikt? Is het antwoord ja, dan moet je het dus vermelden. Zo simpel is het.

Kort

• Meta heeft in de VS een schikking getroffen in een grote zaak die tegen het bedrijf liep omdat het te weinig zou doen om minderjarige gebruikers te beschermen. De schikking, waarmee ook meteen een aantal toekomstige rechtszaken wordt voorkomen, bestaat uit een betaling van zo'n 12 miljard dollar. Daarnaast voert Meta in de VS een aantal veranderingen door om minderjarige gebruikers beter te beschermen.
  • De maatregelen die Meta in de VS doorvoert zijn onder meer een dagelijkse gebruikslimiet van twee uur (misschien geen gek idee om die ook voor meerderjarigen door te voeren, maar dat terzijde), het stoppen met het versturen van pushberichten onder schooltijd en betere controles om accounts van kinderen onder de 13 te verwijderen.
  • Mocht je nu denken: dat zijn allemaal logische maatregelen die wereldwijd zouden moeten worden ingevoerd: dat klopt, maar dat gaat Meta niet doen.
  • De schikking bevat trouwens nog een opvallend detail. Meta betaalt nog miljarden meer op het moment dat TikTok en YouTube eenzelfde soort deal sluiten met justitie in de VS. Dat wil zeggen: het doorvoeren van maatregelen die minderjarige gebruikers beschermen en het betalen van een schikkingsbedrag.
• Kamerleden van PRO, CDA en D66 willen dat Ongehoord Nederland verdwijnt uit het publieke bestel. De druppel die de emmer deed overlopen, is de Hitlerverheerlijking van hoofdredacteur Joost Niemöller eerder deze zomer.
  • Ondertussen zijn ook leden van Ongehoord Nederland boos, vanwege wanbestuur. De vereniging zou de regels niet nakomen, waardoor de leden te weinig inspraak zouden hebben.
• Het FD schrijft over hoe men binnen de publieke omroep worstelt met het feit dat algoritmes op platforms bepalen wat je zou moeten maken, omdat je content anders geen publiek bereikt. Dit is iets wat natuurlijk niet alleen een probleem is binnen de publieke omroep, maar wat juist omdat het om de publieke omroep gaat extra twijfelachtig is.
• Google heeft een nieuw AI-model voor het transcriberen van audio beschikbaar gemaakt dat automatisch eeh-tjes wegfiltert. Daarnaast kun je het model een woordenboek met vakjargon of unieke spelling meegeven, waarvan het vervolgens gebruikmaak.
• Bluesky geeft gebruikers de mogelijkheid om posts uit te sluiten van het algoritme. Hierdoor zijn deze berichten alleen zichtbaar in de tijdlijn van gebruikers die de auteur volgen, maar worden ze niet aan anderen voorgeschoteld.