Meer documentenCommissie handhaaft regels AI-verordening en nieuwe transparantievereisten op 2 augustus
Vanaf 2 augustus 2026 zal het AI-bureau van de Europese Commissie samen met de nationale autoriteiten beginnen met de handhaving van de wet inzake artificiële intelligentie (AI). Op dezelfde datum zullen nieuwe transparantieregels van toepassing worden, op grond waarvan bepaalde AI-systemen gebruikers moeten vertellen wanneer zij met AI interageren en wanneer er inhoud door is gegenereerd of gewijzigd.
Volgens de nieuwe regels moeten chatbots en andere interactieve AI-systemen gebruikers vertellen dat ze met AI te maken hebben, niet met een mens. Deepfakes (afbeeldingen, video's of audio die zijn bewerkt of gegenereerd met behulp van AI) moeten worden geëtiketteerd. AI-gegenereerde of gewijzigde inhoud moet ook machineleesbare markeringen bevatten, zodat deze gemakkelijker kan worden gedetecteerd.
De maatregelen zijn bedoeld om bedrog en manipulatie te verminderen en mensen te helpen weloverwogen keuzes te maken. Ze geven bedrijven ook duidelijkere verplichtingen en een praktische manier om naleving aan te tonen. De Commissie heeft vandaag een eerste lijst gepubliceerd van meer dan 180 organisaties die de praktijkcode inzake transparantie van door AI gegenereerde inhoud hebben ondertekend, waarmee de regels inzake transparantie van door AI gegenereerde inhoud operationeel worden gemaakt.
Aangezien AI steeds capabeler wordt en steeds meer wordt geïntegreerd in het dagelijks leven, helpt de AI-verordening ervoor te zorgen dat AI veilig wordt ontwikkeld, uitgerold en gebruikt, waardoor mensen en bedrijven in de hele EU meer vertrouwen krijgen in de technologie.
Handhaving van de AI-verordening
Het AI-bureau kan nu de regels van de AI-verordening handhaven voor aanbieders van AI-modellen voor algemene doeleinden (GPAI). Deze modellen kunnen veel verschillende taken uitvoeren en kunnen worden gebruikt in een breed scala aan tools en diensten, waaronder AI-agenten.
De regels hebben ook betrekking op de meest geavanceerde GPAI-modellen die systeemrisico's kunnen opleveren. Hun aanbieders moeten voldoen aan aanvullende verplichtingen om risico's op grootschalige schade aan te pakken, zoals risico's in verband met chemische, biologische, radiologische en nucleaire incidenten, verlies van controle, cyberdelicten, schadelijke manipulatie en bedreigingen voor de grondrechten. Ze pakken ook risico's aan die onlangs de aandacht van het publiek hebben getrokken, waaronder risico's voor de Europese cyberbeveiliging en voor AI die buiten menselijke controle handelt.
Alle aanbieders van GPAI-modellen moeten bepaalde informatie documenteren en aan bevoegde autoriteiten of downstreamaanbieders verstrekken. Ze moeten ook een auteursrechtenbeleid invoeren en een voldoende gedetailleerde samenvatting publiceren van de inhoud die wordt gebruikt om hun modellen te trainen.
De handhaving begint ook voor transparantieverplichtingen en verboden AI-praktijken. Deze verbieden bijzonder schadelijke systemen, waaronder systemen die mensen manipuleren, kwetsbaarheden op schadelijke manieren uitbuiten of mensen oneerlijk scoren op manieren die hun rechten bedreigen.
De verantwoordelijkheid voor de handhaving van de transparantieregels en verboden praktijken wordt gedeeld door drie instanties. Het AI-bureau handhaaft de regels voor AI-systemen die door dezelfde aanbieder worden aangeboden als het onderliggende AI-model voor algemene doeleinden. Het heeft ook betrekking op systemen die zijn geïntegreerd in zeer grote onlineplatforms of zeer grote onlinezoekmachines die in het kader van de wet inzake digitale diensten zijn aangewezen.
De nationale bevoegde autoriteiten handhaven de regels voor andere AI-systemen. De Europese Toezichthouder voor gegevensbescherming handhaaft de regels voor AI-systemen die door de instellingen, organen en instanties van de Europese Unie worden gebruikt.
Doeltreffende handhaving zal ook afhangen van de vraag of de lidstaten ervoor zorgen dat de nationale bevoegde autoriteiten naar behoren worden aangewezen en over voldoende middelen beschikken.
Wetenschappelijke ondersteuning
Het AI-bureau en de nationale bevoegde autoriteiten zullen bij hun handhavingswerkzaamheden worden ondersteund door het wetenschappelijk panel, een adviesorgaan van deskundigen dat bestaat uit 60 onafhankelijke AI-deskundigen. Het panel heeft onlangs zijn eerste vergadering gehouden.
Het AI Office heeft ook professor Alessandro Abate van het Department of Computer Science van de Universiteit van Oxford benoemd tot Lead Scientific Adviser. Hij zal de wetenschappelijke werkzaamheden van het Bureau op het gebied van AI-modellen voor algemene doeleinden ondersteunen, met inbegrip van innovatie en adoptie, alsook modeltests en -evaluaties.
Instrumenten voor toezicht
Om de handhaving te ondersteunen, heeft het AI-bureau verschillende instrumenten voor particulieren en bedrijven gelanceerd. Natuurlijke en rechtspersonen kunnen het klachteninstrument gebruiken om vermeende inbreuken op de AI-verordening door aanbieders van AI-systemen onder toezicht van het AI-bureau te melden. Mensen die werken met aanbieders van AI-systemen of AI-modellen voor algemene doeleinden kunnen de klokkenluidertool gebruiken om mogelijke schendingen van de wet veilig te melden. Er is ook een speciaal kanaal beschikbaar voor downstreamaanbieders die AI-systemen op basis van modellen voor algemene doeleinden bouwen en vermeende inbreuken door de aanbieders van die modellen willen melden.
Het AI-bureau zal de via deze instrumenten ontvangen informatie vertrouwelijk behandelen.
Achtergrond
Professor Abate sluit zich aan bij het AI Office van het Department of Computer Science van de Universiteit van Oxford. Hij deed eerder onderzoek aan Stanford University en SRI International, een toonaangevend Amerikaans onderzoeksinstituut, en was universitair docent aan de TU Delft. Hij wordt internationaal erkend voor zijn werk op het gebied van de veiligheid, verificatie en controle van AI-systemen, gebieden die centraal staan in het mandaat van het AI-bureau. Professor Abate heeft een MS (2004) en een PhD (2007) in Electrical Engineering and Computer Sciences van de Universiteit van Californië, Berkeley.
Volgende stappen
De AI-omnibus heeft de toepassing van de regels inzake AI-systemen met een hoog risico uitgesteld tot 2 december 2027. Ook werden de regels voor AI-systemen met een hoog risico die in gereguleerde producten zijn geïntegreerd, uitgesteld tot 2 augustus 2028.
De AI-omnibus introduceert nieuwe verbodsbepalingen voor AI-systemen die niet-consensuele seksueel expliciete inhoud en materiaal van seksueel misbruik van kinderen genereren. Deze regels zijn van toepassing vanaf 2 december 2026.
Voor meer informatie
Handhaving op grond van de AI-verordening
Richtsnoeren inzake verboden AI-praktijken
Richtlijnen voor aanbieders van GPAI-modellen
Praktijkcode inzake transparantie van door AI gegenereerde inhoud
Ontwerprichtsnoeren inzake de transparantieverplichtingen voor bepaalde AI-systemen
Ontwerprichtsnoeren voor de classificatie van AI-systemen met een hoog risico
