Wat is er deze zomer veranderd?
Een deel van de AI Act is uitgesteld.
Dat gaat onder andere om verplichtingen voor bepaalde hoog-risico-AI-systemen. Voor systemen die onder bijlage III vallen, schuift een belangrijk deel van die verplichtingen door naar 2 december 2027. Voor hoog-risico-AI die onderdeel is van producten uit bijlage I geldt 2 augustus 2028.
Dat is relevant voor het onderwijs. Bijlage III bevat verschillende toepassingen binnen onderwijs en opleiding. Denk aan AI die wordt gebruikt om leerresultaten te beoordelen, te bepalen tot welk onderwijsniveau iemand toegang krijgt of verboden gedrag tijdens toetsen te detecteren.
Artikel 4 heeft een andere planning. De verplichting rond AI-geletterdheid geldt al sinds februari 2025 en is deze zomer aangepast.
Een schoolbestuur kan het uitstel van de hoog-risicoregels daarom niet lezen als algemeen uitstel van de AI Act.
Wat vraagt artikel 4 van een schoolbestuur?
De huidige tekst van artikel 4 vraagt organisaties maatregelen te nemen die de ontwikkeling van AI-geletterdheid ondersteunen.
Daarbij moet rekening worden gehouden met de kennis en ervaring van medewerkers, hun opleiding en de context waarin zij AI gebruiken. Ook het doel waarvoor een AI-systeem wordt ingezet en de mensen op wie het systeem invloed heeft, spelen mee.
De nieuwe tekst maakt daarnaast expliciet dat een organisatie geen specifiek niveau van AI-geletterdheid bij iedere individuele medewerker hoeft te garanderen.
Daarmee wordt ook duidelijker wat artikel 4 van organisaties verwacht.
Iedere medewerker hoeft niet hetzelfde programma te volgen. Er is geen verplicht AI-certificaat. Ook schrijft de AI Act geen vaste training of toets voor. De Europese Commissie geeft juist aan dat de aanpak mag verschillen per doelgroep, systeem en gebruikssituatie.
Een leerkracht die af en toe Copilot gebruikt voor een eerste opzet van een les heeft andere kennis nodig dan iemand die AI-toepassingen inkoopt voor meerdere scholen. Voor een medewerker die met leerlinggegevens werkt, spelen weer andere risico’s.
Artikel 4 vraagt dus om een aanpak die past bij wat er binnen de organisatie daadwerkelijk gebeurt.
AI Act artikel 4 in het onderwijs
Een schoolbestuur dat AI-systemen onder eigen verantwoordelijkheid gebruikt, is binnen de AI Act een gebruiksverantwoordelijke. SIVON en Kennisnet gebruiken die rol ook als uitgangspunt voor schoolbesturen in hun toetsingskader.
Dat hoeft niet over ingewikkelde AI-systemen te gaan. De Europese Commissie noemt zelf het voorbeeld van medewerkers die ChatGPT gebruiken voor het schrijven of vertalen van teksten. Ook dan speelt artikel 4 en moeten medewerkers bijvoorbeeld weten dat een model onjuiste informatie kan produceren.
Voor schoolbesturen betekent dat dat de inventarisatie breder moet zijn dan de centrale lijst met ingekochte software.
Medewerkers kunnen zelf accounts hebben aangemaakt. AI-functies kunnen onderdeel zijn geworden van software die al langer wordt gebruikt. Binnen verschillende scholen kunnen weer andere toepassingen zijn ontstaan.
Een compleet technisch overzicht op dag één is niet nodig. Het bestuur moet wel serieus onderzoeken waar AI wordt gebruikt en welke kennis daarbij nodig is.
Wat moet je kunnen laten zien?
Artikel 4 schrijft geen verplicht dossier, format of certificaat voor. De Europese Commissie noemt een intern overzicht van trainingen en andere begeleidende maatregelen als een manier om de aanpak vast te leggen.
Voor een schoolbestuur betekent dat vooral dat de gekozen aanpak uitlegbaar moet zijn.
Welke AI wordt binnen de organisatie gebruikt? Welke medewerkers werken ermee? Welke kennis hebben zij nodig? Welke afspraken en scholing zijn daarvoor georganiseerd?
Een deelnemerslijst van een losse AI-training vertelt maar een deel van dat verhaal. Interessanter is de onderbouwing erachter: waarom heeft het bestuur voor deze maatregelen gekozen en hoe sluiten die aan op het gebruik binnen de organisatie?
Dat hoeft geen omvangrijk beleidsdocument te worden. Een actueel overzicht van het gebruik, de gemaakte afspraken, de genomen maatregelen en de verantwoordelijkheden kan al veel duidelijk maken.
Maak duidelijk wie verantwoordelijk is voor AI
In gesprekken met schoolbesturen zien we regelmatig hetzelfde organisatorische probleem: AI raakt meerdere portefeuilles tegelijk.
ICT kijkt naar systemen en accounts. De functionaris gegevensbescherming kijkt naar persoonsgegevens. HR houdt zich bezig met medewerkers en scholing. Vanuit onderwijs wordt vooral gekeken naar wat AI betekent voor lesgeven en leren.
Als niemand verantwoordelijk is voor het geheel, blijven losse initiatieven naast elkaar bestaan.
De AI Act verplicht organisaties niet om hiervoor een aparte AI-functionaris of AI-board aan te stellen.
Het helpt wel om intern één eigenaar aan te wijzen. Iemand die het overzicht bewaakt, ontwikkelingen volgt en zorgt dat het onderwerp periodiek terugkomt. Dat kan prima binnen een bestaande functie.
Het gaat vooral om duidelijkheid: wie houdt dit binnen onze organisatie bij?
Waar begin je als er nog weinig geregeld is?
Voor een bestuur dat hier dit najaar mee begint, zouden wij deze volgorde aanhouden:
- Wijs een eigenaar aan.
Leg vast wie verantwoordelijk is voor het overzicht en wie periodiek rapporteert aan het bestuur. - Breng het huidige gebruik in beeld.
Vraag medewerkers welke AI-tools zij gebruiken en waarvoor. Kijk daarbij verder dan centraal ingekochte software. Juist het gebruik in teams en op individuele accounts geeft inzicht in de dagelijkse praktijk. - Bepaal welke afspraken en kennis nodig zijn.
Maak duidelijk welke toepassingen binnen de organisatie passen, hoe medewerkers met gegevens omgaan en wanneer extra controle nodig is. Stem scholing vervolgens af op verschillende rollen en werkzaamheden. - Leg de aanpak vast en houd hem bij.
Noteer welke maatregelen zijn genomen, welke groepen zijn bereikt en welke afspraken gelden. Plan ook een moment waarop je opnieuw naar het gebruik kijkt. AI-toepassingen en het gebruik ervan veranderen snel.
Daarna kun je scholing veel gerichter inzetten.
Een algemene training over wat AI is kan een basis leggen. Meer effect ontstaat wanneer medewerkers de voorbeelden, risico’s en afspraken uit hun eigen werk herkennen.
AI-geletterdheid is breder dan leren prompten
Bij AI-geletterdheid gaat veel aandacht naar het gebruik van tools. Begrijpen hoe je een goede prompt schrijft hoort daarbij, alleen artikel 4 kijkt breder.
Een medewerker moet ook kunnen inschatten wat een AI-systeem doet, welke beperkingen het heeft en welke risico’s horen bij het eigen gebruik. De Europese Commissie noemt daarbij zowel technische als juridische en ethische aspecten.
Binnen een school kan dat heel praktisch worden.
Mag ik deze informatie invoeren? Kan ik deze uitkomst vertrouwen? Moet iemand dit controleren voordat ik ermee verderga? Past deze toepassing binnen de afspraken van onze organisatie?
Dat soort afwegingen maken AI-geletterdheid relevant voor het dagelijkse werk.
En hoe zit het met leerlingen?
Artikel 4 richt zich op personeel en andere personen die namens de organisatie met AI-systemen werken. AI-geletterdheid van leerlingen is daarmee een ander onderwerp.
Scholen hebben daar vanzelfsprekend wel mee te maken. Leerlingen gebruiken generatieve AI, krijgen te maken met AI in digitale leermiddelen en moeten leren hoe zij informatie beoordelen.
Dat gesprek hoort onder andere bij digitale geletterdheid, onderwijsinhoud en de eigen visie van de school op AI. Het verdient dus aandacht, alleen vanuit een andere verantwoordelijkheid dan artikel 4.
Wie houdt hier in Nederland toezicht op?
Volgens de AI Act ligt toezicht op artikel 4 bij de nationale markttoezichtautoriteiten. De Nederlandse inrichting daarvan is op dit moment nog in ontwikkeling. Het kabinet heeft een toezichtstructuur voorgesteld waarin bestaande toezichthouders samenwerken, met een coördinerende rol voor de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur. De nationale toezichthouders worden volgens het overheidsbrede Algoritmekader nog ingericht.
Voor een schoolbestuur verandert dat weinig aan wat er nu moet gebeuren.
Artikel 4 geldt. Het bestuur moet maatregelen nemen die passen bij het AI-gebruik binnen de organisatie.
Daar hoef je geen uitgebreid complianceprogramma voor op te tuigen. Begin met zicht op het gebruik, maak verantwoordelijkheden duidelijk en zorg dat medewerkers weten welke afspraken voor hun werk gelden.
Wat betekent dit voor schoolbesturen?
De AI Act vraagt bij AI-geletterdheid vooral om een bewuste aanpak die aansluit op de organisatie.
Voor veel schoolbesturen ligt de eerste winst daarom dicht bij huis. Kijk wat medewerkers al doen. Bepaal waar extra kennis nodig is. Leg vast welke keuzes je als organisatie maakt en zorg dat iemand het overzicht bewaakt.
Daarmee ontstaat ook een betere basis voor het bredere gesprek over AI binnen het onderwijs. Over toepassingen die je wilt gebruiken, toepassingen waar je voorlopig vanaf blijft en de rol die je als school wilt innemen.
Weten waar jullie nu staan?
Wil je weten waar AI binnen jullie organisatie al wordt gebruikt en welke afspraken en kennis daarbij passen?
In een AI-kansengesprek van een uur brengen we het huidige gebruik en de belangrijkste aandachtspunten samen in kaart. Daarna ontvang je een korte analyse waarmee je intern verder kunt.
Transparantie over deze blog
Deze blog is deels met hulp van AI opgesteld. De inhoud is vervolgens door NOBRAINERS beoordeeld, herschreven en redactioneel gecontroleerd. AI is gebruikt als ondersteuning bij onderzoek, structuur en SEO. De inhoudelijke keuzes, duiding en eindredactie liggen bij NOBRAINERS.