In diverse media is te lezen dat grote Europese bedrijven zoals Airbus en Siemens de noodklok luiden over de aankomende AI Act. Ze voorzien dat innovatie in Europa nodeloos zou worden afgeremd door de nieuwe wet en hopen dat in de laatste fase de wet wordt afgezwakt. Is de te verwachten Verordening nou echt zo’n draak van een wet?
De zorgen van de grote bedrijven lijken voornamelijk inzet van foundation models te betreffen, basismodellen met enorme hoeveelheden data die ingezet kunnen worden om eigen applicaties mee te bouwen. Denk aan een klantenservice-chatbot op basis van ChatGPT en eigen chatlogs of een interieurontwerptool die met Midjourney en het eigen archief kamers inricht. Onlangs heeft het Europees Parlement namelijk besloten dat ook deze onder de AI Act moeten vallen1.
Europese bedrijven die met AI aan de slag gaan en willen voortbouwen op zo’n foundation model, krijgen dan transparantieverplichtingen over zich heen: is die data uit dat model wel divers en gebalanceerd genoeg, is er rekening gehouden met auteursrechten en wordt wel aan de AVG voldaan? Zij kunnen hier alleen aan voldoen als de aanbieders van die modellen ze de informatie leveren, maar dat zal niet snel gaan lukken2.
De zorg is begrijpelijk maar tegelijkertijd voelt het wel raar; het bezwaar komt neer op “we willen ongecontroleerde en mogelijk vervelend uitpakkende AI inzetten en dat mag niet meer”, en dat is vanuit juridisch en ethisch perspectief niet direct sympathiek te noemen. Ik had dan ook liever gezien dat men druk had uitgeoefend op partijen zoals OpenAI om zo snel mogelijk aan de Europese wet te voldoen.
Wilt u meer weten over wat de AI Act voor u gaat betekenen? Meld u dan aan voor onze speciale thema-nieuwsbrief AI. U krijgt dan als eerste de nieuwe ontwikkelingen en praktische tips.
1 De AI Act door het parlement: welke regels gaan er gelden voor AI en algoritmes?
2 Oh jee, geen enkel LLM foundation model voldoet aan de AI Act, wat nu?
https://www.ictrecht.nl/blog/hoe-bezorgd-moeten-europese-bedrijven-zijn-over-de-ai-act