Sign in Subscribe
7 min read

RTV Noord bouwt interne tools met behulp van AI, maar daar komt meer bij kijken dan je denkt

Het klinkt zo makkelijk: "even iets vibecoden", maar bij het zelf bouwen van interne tools komt heel veel ander werk kijken.
RTV Noord bouwt interne tools met behulp van AI, maar daar komt meer bij kijken dan je denkt
Foto: RTV Noord

Het als redactie vibecoden van een interne tool, kost meer werk dan vaak wordt gedacht

Een eigen transcriptiedienst, een tool om clipjes uit de webcambeelden van de radio-uitzendingen te halen en een afbeeldingengenerator om een dagelijkse cartoon te maken. Het zijn drie voorbeelden van interne tools die RTV Noord heeft ontwikkeld. De mogelijkheid om generatieve AI code te laten genereren, brengt de kosten van het ontwikkelen van interne tools zo ver omlaag dat er allerlei dingen haalbaar worden die dat vroeger niet waren.

Een plek waar men enthousiast gebruik is gaan maken van die mogelijkheden is RTV Noord. Ik sprak Jaap Elzes, Digitale Media Strateeg bij de regionale omroep, over hoe ze precies te werk gaan. Hij legt uit waarom men zelf tools is gaan bouwen:

Het begon met een paar concrete werkzaamheden die te lang duurden, steeds terugkwamen of veel geld kostten. Zelf bouwen is daarbij niet ons startpunt, we kijken eerst wat er al is. Maar bij een externe dienst gaat je materiaal de deur uit, vaak naar een partij buiten de EU, en kun je weinig aanpassen aan hoe je zelf werkt. Zelf maken bleek sneller, goedkoper en beter afgeschermd. Inmiddels gaat het om meer dan die paar klussen. AI raakt steeds meer van ons werk, en dan wil je zelf kunnen bepalen waar je materiaal blijft, welk model eronder zit en hoe het aansluit op wat je al hebt. Dat lukt alleen als je een deel zelf bouwt.

Een concreet voorbeeld is de transcriptietool. Een groot bezwaar tegen het gebruik van bestaande online transcriptietools was voor de omroep de verwerking van persoonsgegevens. Vaak vat het materiaal dat je wilt laten uitschrijven gevoelige informatie, zoals persoonsgegevens. Je moet er dan op vertrouwen dat dat materiaal veilig is en dat het bijvoorbeeld niet stiekem wordt gebruikt voor het trainen van AI-modellen. Juist de speech-to-text-modellen die worden gebruikt voor transcriptie kun je qua vereiste rekenkracht makkelijk zelf draaien en er zijn goede open soucemodellen beschikbaar. Vandaar dat RTV Noord besloot een transcriptietool te bouwen voor de redactie die ze zelf hosten.

Screenshot: RTV Noord

Het zelf bouwen van tools levert echter meer op dan dat je meer controle hebt over wat er met de data gebeurt. Je kunt een tool veel meer vormgeven naar de specifieke wensen die de redactie heeft. En dat is een belangrijk punt: ik weet uit ervaring hoe de tools die je als media-organisatie afneemt bij grote leveranciers net niet kunnen wat je wilt. Verzoeken voor aanpassingen, als deze al mogelijk zijn, laten vaak ontzettend lang op zich wachten.

Een eerste versie van zo'n tool is met behulp van diensten als Claude Code van Anthropic of Codex van OpenAI in een paar dagen werk gebouwd, maar toch kost het uiteindelijk meer tijd dan je zou verwachten, legt Elzes uit:

Het werk zit in veilig en verantwoord werken. Voordat een tool naar de redactie gaat, moeten vragen beantwoord zijn die met de code weinig te maken hebben. Welke gegevens gaan erin, en van wie? Waar staan die? Wie mag erbij? Wat gebeurt er als het model een fout maakt? Voor transcriptie betekent dat een privacytoets, afspraken over bewaartermijnen en documentatie over hoe het model werkt. Daarna laten we de code nakijken op fouten en beveiliging. En na livegang het onderhoud: updates bijhouden en fouten oplossen.

Dit is een belangrijk punt dat vaak wordt vergeten. Ik hoor regelmatig mensen die enthousiast zeggen hoe je in een middag een tool in elkaar vibecodet en dat ze niet snappen dat bedrijven niet massaal van alles zelf bouwen. Het schrijven van code is echter slechts een klein onderdeel van het ontwikkelen van software. En op dat punt behaal je winst, maar bij al het werk dat er nog meer bij komt kijken niet zozeer.

Bij RTV Noord wordt bij elk idee dat er is voor een tool gekeken naar zeven factoren: kosten, tijd, afhankelijkheden, beheer, beveiliging, ethiek en wet- en regelgeving.

Daar komt een risiconiveau uit, van 1 (minimaal) tot 3 (hoog), en dat bepaalt hoeveel we vooraf regelen. Niveau 1 is vaak laaghangend fruit dat soms binnen een dag staat. Voor niveau 3 maken we eerst een ontwikkelplan dat onze Data Compliance Officer toetst en aftekent.

Er zit dus veel werk aan de voorkant, maar ook als je tool klaar is, ben je niet klaar. Het beheren van een tool kost serieus werk, zeker als je een heel pakket aan tools hebt draaien als organisatie. "Zelf bouwen is makkelijk geworden; zelf onderhouden niet", zegt Elzes daarover. RTV Noord heeft één beheeromgeving gebouwd voor alle tools. Hierin kan worden gecontroleerd of de tool (goed) draait, komen foutmeldingen binnen en kan een tool worden uitgeschakeld. Er is ook bewust voor gekozen om geen tools te bouwen waar het werkproces van de organisatie van afhangt. De redactie moet gewoon door kunnen blijven werken als een tool uitvalt. "Wat wij maken is gereedschap dat het werk makkelijker maakt, geen fundament waar alles op rust."

En dan is er nog een complicerende factor: veel tools die RTV Noord ontwikkelt maken gebruik van AI-modellen om te kunnen doen wat ze doen. De transcriptietool gebruikt bijvoorbeeld een zelf gehost speech-to-text-model. Dat levert extra werk op:

Van elke tool met AI erin willen we het verbruik kunnen volgen en zelf bepalen welk model eronder zit. Je wilt kunnen wisselen als er een goedkoper model beschikbaar komt, of een open sourcemodel dat dezelfde kwaliteit levert voor minder kosten. Wat je voor de toekomst wilt voorkomen, is een vendorlock-in: vastzitten aan één leverancier. De huidige abonnementsprijzen van AI zijn lager dan wat je zou betalen per miljoen verwerkte tokens. Heb je straks een infrastructuur die vastzit aan één AI-leverancier, dan ben je op langere termijn duurder uit.

Als je ook nog netjes aan de Europese AI-verordening wilt voldoen, komt er nog meer extra werk bij kijken:

De Europese AI-wet maakt onderscheid tussen wie een AI-systeem van een ander gebruikt ('deployer') en wie een systeem onder eigen naam in gebruik stelt ('provider'). Voor de meeste van onze tools zijn wij gebruiker. Voor de transcriptietool zijn wij aanbieder, ook al gebruiken we hem alleen intern: de wet kijkt naar wie het systeem in gebruik stelt, niet naar wie het te zien krijgt. Omdat transcriptie een ondersteunende functie is, blijven de verplichtingen beperkt tot documentatie over het model, kennis bij de gebruikers en zorg voor de privacy van de audio. Die verplichtingen horen bij zelf aanbieden en daar kiezen we dus bewust voor.

Onder de streep is het door alles wat erbij komt kijken maar de vraag of het goedkoper is om een tool zelf te bouwen dan een bestaande dienst af te nemen. Bij RTV Noord is dat, in ieder geval op korte termijn, niet de reden om zelf dingen te bouwen.

Omdat bouwen zo snel gaat, maken we nu tools waarvan we anders hadden besloten ze niet te maken of aan te schaffen. Daarnaast geven leveranciers nu AI-diensten in hun producten, maar die losse AI-functionaliteiten wil je vroeg of laat toch aan elkaar knopen. Dat kost ook tijd, en het breekt zodra een leverancier iets verandert. Bouw je zelf, dan zorg je voor een raamwerk waarbij de tools al op elkaar zijn ingespeeld. De echte besparing zit in de toekomst, waarin AI verweven is met de techniek en de werkwijze van je organisatie. Dan bespaar je doordat je niet vastzit aan leveranciers en hun functionaliteiten en prijzen. En de rekening verschuift van licenties naar eigen tijd voor controle en onderhoud.

Mocht je het werk waar Jaap Elzes bij RTV Noord mee bezig is interessant vinden: hij schrijft er op onregelmatige basis over op Substack.

Kort