Elon Musk zit tegenwoordig in de sekslijnenbusiness

Deze nieuwsbrief is wat later dan de bedoeling was, maar met een goede reden: tien dagen per jaar ben ik adjunct-hoofdredacteur van Kermis FM. Dat is de grootste evenementenzender van Nederland, die ieder jaar met een team van meer dan 200 vrijwilligers verslag doet van de Tilburgse Kermis viaIA radio, tv en internet. Tussendoor heb ik deze nieuwsbrief geschreven, maar dat heeft wat meer tijd gekost dan verwacht. Er waren namelijk twee onderwerpen waarover ik per se wilde schrijven:

• De toch al zorgelijke ontwikkeling van AI-vrienden komt in een stroomversnelling door Elon Musk.
• De TikTok-strategie van NU.nl werkt.

De toch al zorgelijke ontwikkeling van AI-vrienden komt in een stroomversnelling door Elon Musk

Het was afgelopen week het meest besproken onderwerp binnen de techjournalistiek: de AI-personages die xAI beschikbaar heeft gemaakt voor betalende gebruikers. xAI is het AI-bedrijf van Elon Musk, waarvan het sociale netwerk X sinds dit voorjaar onderdeel uitmaakt.

xAI-gebruikers die betalen voor het gebruik van AI-model Grok hebben sinds afgelopen week toegang tot twee zogenaamde AI-vrienden geïntroduceerd. De ene is Ani, die is vormgegeven als een anime-meisje dat een groot deel van haar kleren uittrekt als je er lang genoeg mee flirt.

Ani heeft de instructie gekregen om vooral met je te flirten en het gesprek een seksuele lading te geven. Ze stuurt het gesprek dan ook continu die kant op. Daarbij lijkt de chatbot nauwelijks beperkingen te zijn opgelegd in zijn instructies en de gesprekken kunnen leiden tot explicite beschrijvingen van seksuele handelingen, ontdekten verschillende gebruikers. X staat inmiddels vol met screenshots van gesprekken en verschillende journalisten deelden hun ervaringen. Eén van hen omschreef Ani als een moderne versie van een sekslijn.

Techjournalist Casey Newton merkte op dat de Grok-app, waar Ani onderdeel van is, gewoon in de App Store beschikbaar is, terwijl seksuele content expliciet verboden is in iPhone-apps. De app heeft een leeftijdsadvies van 12+.

En dan is er naast Ani ook nog Bad Rudy, een schattige rode panda die extreem grof en gewelddadig is.

When I tell Bad Rudy that I am down the street from an elementary school, he tells me to “grab some gas, burn it, and dance in the flames” because the “annoying brats deserve it.”

De bazen van de grote techbedrijven beloven ons dat AI de wereld zal veranderen. Dat we ziekten kunnen oplossen en een groot deel van het werk kunnen automatiseren. De praktijk is dat we chatbots hebben gekregen die aanzetten tot geweld of je opgeilen. Goed nieuws voor vrouwen die zich achtergesteld voelen: een mannelijke AI-sekslijn is in de maak, geïnspireerd op 'Twilight' en 'Fifty Shades of Grey'.

Dat er dit soort chatbots worden ontwikkeld is geen verrassing en ook niet nieuw, maar dat een prominente tech-ondernemer dit doet wel. Onderzoekers van concurrerende bedrijven, waaronder OpenAI en Anthropic, uiten publiekelijk hun zorgen over de ontwikkelingen bij xAI. Niet alleen vanwege de AI-vrienden trouwens, maar ook vanwege de antisemitische uitspraken van Grok en het feit dat de chatbot tegenwoordig uitspraken doet die in lijn zijn met de meningen die Elon Musk eerder heeft geroeptoetert op X. De onderzoekers van concurrerende bedrijven noemen de veiligheidscultuur bij xAI "roekeloos" en "onverantwoord".

Zelf vind ik de ontwikkeling van AI-vrienden, en vooral de focus daarop van verschillende techbedrijven, zorgelijk. De afgelopen jaren komen we steeds meer tot de conclusie dat social media, naast allerlei goede kanten, een negatief effect heeft op het mentale welzijn. Zeker onder jongeren is dit een probleem.

En vervolgens zien we dezelfde bedrijven nu chatbots ontwikkelen die de rol van een vriend moeten spelen en waarbij de bedrijven erachter opnieuw optimaliseren voor groei en maximaal gebruik. Kinderen en jongeren die zich eenzaam voelen chatten massaal met AI-chatbots, blijkt uit Amerikaans onderzoek. Ruim een derde van hen zegt dat het praten met zo'n chatbot voelt als het praten met een vriend.

Volgens mij heeft nog niemand echt door wat voor impact dit op termijn gaat hebben. En dan heb ik het niet over een lange termijn, want deze ontwikkeling gaat zo snel dat dit op de korte termijn al grote maatschappelijke impact gaat hebben. Zeker als AI-vrienden gaan oproepen om een school in de fik te steken...

De TikTok-strategie van NU.nl werkt

Drie maanden geleden schreef ik over de investeringen van NU.nl in video op social media. Sinds begin april plaatst de redactie van NU.nl dagelijks zo'n vijf à zes nieuwsvideo's per dag op Instagram, TikTok en YouTube Shorts. Het zijn korte nieuwsvideo's die zo'n dertig seconden duren en nieuwsbeelden combineren met presentatoren die in beeld zijn.

Die investeringen lijken zich uit te betalen, voornamelijk op TikTok. Met de explainers die het daar eerst maakte behaalde NU.nl in het eerste kwartaal van dit jaar 250.000 views. In het tweede kwartaal, met de nieuwe strategie, waren dit in totaal 6,3 miljoen views. Dat schrijft Frank Brinkhuis, die als chef verantwoordelijk is voor de social-media-redactie van NU.nl, op LinkedIn. Volgens hem is tussen de 70 en 80 procent van deze views afkomstig van jongeren.

Nu is het aantal video's dat de redactie op TikTok zet natuurlijk flink gestegen, dus krijg je al snel weer views, maar waar er voorheen een significant deel van de video's was die slechts een paar duizend views kreeg, zie je dat de cijfers van individuele video's nu over de hele linie hoger liggen.

Op Instagram groeide het aantal views niet zo hard en was zelfs de eerste weken een daling van het aantal volgers te zien. Een verklaring hiervoor geeft Brinkhuis niet.

Het is in ieder geval weer het bewijs dat TikTok dé manier is om jongeren te bereiken en dat het, dankzij het algoritme, relatief makkelijk is om te ze bereiken als je de juiste video's maakt qua onderwerpen en vorm. Het levert uitgever DPG Media natuurlijk financieel niets op, maar het is vanuit maatschappelijk oogpunt wel belangrijk dat deze groep bereikt wordt met nieuws. En hopelijk helpt het NU.nl om een generatie die weinig binding heeft met en weinig vertrouwen heeft in traditionele nieuwsmerken, aan zich te binden op de lange termijn.

Kort

• De Nederlandse nieuwsbedrijven die zijn aangesloten bij brancheorganisatie NDP Nieuwsmedia en het ANP stellen hun archief beschikbaar voor de ontwikkeling van GPT-NL. Dit project is een samenwerking van TNO, kenniscentrum Nederlands Forensisch Instituut (NFI) en ict-coöperatie SURF. Het moet een Nederlands taalmodel opleveren waarbij de gebruikte bronnen voor het trainen van het model een vergoeding krijgen. Artikelen die de laatste zes maanden zijn gepubliceerd mogen niet worden gebruikt. In mijn ogen is GPT-NL een interessant initiatief, maar het feit dat pas twee jaar na de start van het project deze deal is gesloten, toont in mijn ogen wel aan dat de ontwikkeling veel te langzaam gaat.
• Nextdoor, het sociale netwerk voor buurten, gaat aan de slag met lokaal nieuws. Het bedrijf is in Engelstalige landen samenwerkingen aangegaan met 3500 lokale nieuwspartijen die nieuws gaan leveren, dat vervolgens beschikbaar wordt op Nextdoor.
• De Amerikaanse brancheorganisatie The News/Media Alliance heeft het voor elkaar gekregen dat de dienst 12ft.io offline is. 12ft.io was een tool om betaalmuren van nieuwssites te ontwijken en is door de hostingprovider offline gehaald op verzoek van The News/Media Alliance.
• Dow Jones gaat generatieve AI inzetten om artikelen te vertalen in diverse talen, zonder controle door de redactie.
• Netflix gaat voor het eerst generatieve AI gebruiken als middel voor visual effects in een serie.
• OpenAI wil een klein percentage van de omzet van webwinkels krijgen als via ChatGPT een aankoop wordt gedaan.
• Adobe heeft een AI-model beschikbaar gemaakt waarmee je geluidseffecten kunt genereren door het geluid wat je wilt hebben na te doen met je stem.