Kunstmatige intelligentie (AI) is niet meer weg te denken uit de creatieve sector. AI verricht (creatief en ander) werk dat voorheen alleen door mensen werd gedaan, maar worden er ook teksten, beelden en geluid mee gemaakt waarvan het publiek niet herkent dat dit met behulp van AI is gemaakt.
Hierdoor kan onterecht het beeld ontstaan dat foto’s, video’s of geluidsopnames ‘echt’ zijn. Denk aan de ‘foto’s’ die PVV-Kamerleden maakten van Frans Timmermans ogenschijnlijk die door de politie werd gearresteerd of aan de AI foto van een blond meisje dat op het strand werd lastiggevallen door een groep mannen met een Noord-Afrikaans uiterlijk.
Het ongecontroleerd inzetten van AI kan daardoor leiden to desinformatie, manipulatie en fraude, en de misleiding van consumenten. Een ander risico is dat het publiek daardoor het vertrouwen in media en informatie verliest.
De AI Act: welke regels zullen gelden voor professionele gebruikers?
Om deze risico’s te beperken, zijn in de AI-Act maatregelen genomen. Deze Europese verordening legt “transparantie”-verplichtingen op aan aanbieders van AI-systemen (zoals Anthropic en Midjourney), maar ook aan de professionele gebruikers ervan. In de wet worden die gebruikers “deployers” of “gebruiksverantwoordelijken” genoemd. Denk hierbij onder meer aan uitgeverijen, kranten, filmproducenten en reclamebureaus.
Vanaf 2 augustus 2026 moeten deze professionele gebruikers verplicht bekendmaken wanneer zij AI gebruiken.
Wanneer is labelen verplicht?
‘Deep fakes’
Als professionele gebruiker van een AI-systeem ben je vanaf 2 augustus 2026 verplicht om aan te geven dat je met behulp van AI ‘deep fakes’ hebt gegenereerd of bewerkt.
Met ‘deep fakes’ wordt bedoeld: beeld-, audio- of videocontent dat een gelijkenis vertoont met bestaande personen, voorwerpen, plaatsen, entiteiten of gebeurtenissen, en dat ten onrechte als ‘echt’ zou kunnen worden aangezien.
Content waarvan het duidelijk is dat het niet echt is, worden niet als ‘deep fake’ aangemerkt. Daar gelden de transparantieverplichtingen dus niet voor. Dat geldt ook voor opnames waarvan de kwaliteit alleen met behulp van AI worden verbeterd, zoals door het gelijktrekken van het volume en het onderdrukken van ruis in geluidsopnames, als daarbij de oorspronkelijk uitgesproken tekst van de sprekers of hun manier van spreken niet wordt gewijzigd.
- Wel deepfake, en dus melden: Een realistische stemkloon van een bekende persoon, een AI-commercial waarin een BN’er schijnbaar meespeelt, of een gemanipuleerde video van een politicus.
- Geen deepfake, en dus niet melden: Content waarvan direct duidelijk is dat het fictie is, zoals een vliegende olifant of een cartoon van een historische gebeurtenis. Ook puur technische AI-verbeteringen (zoals ruisonderdrukking of volumegeneratie bij audio) hoef je niet te labelen, mits de inhoud en de stemkarakteristieken intact blijven.
“Aangelegenheden van algemeen belang”
Publiceer je teksten die bedoeld zijn om het publiek te informeren over zaken van algemeen belang (zoals nieuws, wetenschap of bedrijfsverslagen)? Als deze teksten door AI zijn gegenereerd of bewerkt zonder menselijke toetsing of redactionele verantwoordelijkheid, moet dit expliciet worden vermeld.
De uitzondering voor artistieke, creatieve, satirische, fictieve of daarmee vergelijkbare werken of programma’s
Maakt de AI-content deel uit van een duidelijk artistiek, creatief, satirisch of fictief werk (of een analoog programma)? Dan mag de AI-melding beperkt blijven tot een kennisgeving op een “passende” manier die het genot van het werk niet belemmert.
- Wat valt onder de uitzondering? Onder meer door AI gegenereerde speciale effecten in filmscènes, zoals het jonger maken van bestaande acteurs en het maken van digitale replica’s van overleden personen, AI-muziek in de stijl van een bekende artiest en beelden van een politicus die overduidelijk bedoeld zijn om op hem of haar kritiek te leveren.
- Wat valt hier niet onder? Bijvoorbeeld door AI gemanipuleerde beelden van mensen in een commercial die reclame maken voor een product en door AI gegenereerde beelden van beroemdheden die suggereren dat zij ergens bij betrokken zijn, zonder dat dit een fictief, satirisch of een vergelijkbaar doel heeft.
- Wat is een “passende” manier? Passende manieren om in zulke gevallen te melden dat het met AI is gemaakt, zijn bijvoorbeeld pre-rolls of aftitelingen bij video-beelden of vermeldingen in colofons of in voetteksten van fysieke werken.
Hoe moet je AI-content concreet labelen?
De AI Act schrijft niet voor op welke exacte manier aan deze verplichtingen moet worden voldaan. Wel is er op dit moment een Code of Practice on marking and labelling of AI-generated content in de maak dat daarvoor handvatten moet bieden.
- Visuele content: Voor content die zichtbaar wordt gemaakt (in afbeeldingen of video’s) geeft de Code of Practice verschillende gestandaardiseerde, minimalistische AI- ‘iconen’ , waarmee kan worden aangegeven of dat beeld met AI is gemaakt of bewerkt.
- Audio-content: Bij geluidsopnames, kan de mededeling worden gedaan door middel van een (korte en duidelijke) disclaimer aan het begin van de ‘deep fake’ (zoals een ‘earcon’).
De Code of Practice bevat daarnaast verdere voorschriften over de manier waarop de iconen precies moeten worden geplaatst.
Hoewel de Code of Practice alleen bindend is voor AI-aanbieders en -gebruikers die het ondertekenen, zal het ook een richtlijn opleveren voor de manier waarop de AI Act ook door anderen kan worden nagekomen.
Gevolgen niet-naleving
Aanbieders en gebruikers die niet voldoen aan de transparantieverplichtingen riskeren een boete die kan oplopen tot 15 miljoen euro of, als dat meer is, drie procent van haar totale wereldwijde jaaromzet.
Heb je vragen over de verplichtingen uit de AI Act, of andere vragen over bijvoorbeeld AI en auteursrecht, neem dan contact met ons op.
Door Benjamin van Werven