Sinds ChatGPT van OpenAI eind november beschikbaar werd voor het grote publiek, raakt men er niet over uitgesproken. Binnen een week telde de chatbot al een miljoen gebruikers. De chatbot van OpenAI is een AI-model waar gebruikers vragen aan kunnen stellen. Het model is zo getraind dat het de context van een gesprek kan begrijpen en daar inhoudelijk op kan reageren. Verschillende vragen doemen op: Wat betekent dit voor onze dagelijkse werkzaamheden? Hoe zit het met het auteursrecht? Maar ook op het gebied van privacy zorgt de AI-toepassing voor interessante vraagstukken.
Ik vroeg de chatbot zelf een blog te schrijven waarin het zijn eigen privacyrechtelijke knelpunten belicht. Het resultaat: een redelijke juridische kijk op de toepassing van OpenAI in het licht van de Algemene Verordening Gegevensbescherming (AVG). Het antwoord is weliswaar juridisch niet helemaal compleet – zo wordt bijvoorbeeld het transparantiebeginsel en het uitvoeren van DPIA’s niet besproken – maar de onderwerpen die de chatbot aankaart zijn absoluut relevant.
ChatGPT schreef onderstaand blog op basis van de volgende opdrachten:
1. “Schrijf een blog over de juridische knelpunten van het gebruik van OpenAI. Focus op de privacywetgeving die geldt in Europa. Gebruik de vorm van de blogs op ictrecht.nl.”
2. “Voeg een conclusie toe.”
[De onderstaande tekst tussen aanhalingstekens is volledig gegenereerd door AI.]
“Juridische knelpunten van OpenAI: wat zegt de Europese privacywetgeving?
De introductie van OpenAI, een kunstmatige intelligentie (AI) om technologische innovatie te versnellen, heeft een enorme impact gehad op vele industrieën. Het is echter ook een bron van verschillende juridische knelpunten. De Europese privacywetgeving is hierin van cruciaal belang.
OpenAI is een AI-systeem dat gebruikmaakt van grote hoeveelheden gegevens om resultaten te produceren. Dit betekent dat de gegevens die zijn opgeslagen in OpenAI, persoonsgegevens kunnen bevatten. Volgens de Algemene Verordening Gegevensbescherming (AVG) is elke verwerking van persoonsgegevens die onder de AVG valt, verboden, tenzij die verwerking voldoet aan een van de in de AVG genoemde grondslagen.
Een van de relevante grondslagen voor OpenAI is de grondslag van het ‘gerechtvaardigd belang’. Deze grondslag staat organisaties toe persoonsgegevens te verwerken in bepaalde situaties, mits er een evenwichtige afweging wordt gemaakt tussen de belangen van de verwerker en de persoon op wie de gegevens betrekking hebben. Als de verwerker aantoont dat zijn belangen zwaarder wegen dan het belang van de persoon aan wie de gegevens betrekking hebben, mag hij de gegevens verwerken.
Bovendien is het belangrijk dat OpenAI in overeenstemming is met de principes van privacy by design en privacy by default. Hierbij moet de verwerker technische en organisatorische maatregelen nemen om de verwerking van persoonsgegevens in OpenAI te beveiligen. Uitdagingen kunnen zijn het gebrek aan bewustzijn van de gevaren van AI, het gebrek aan kennis over de technische en organisatorische maatregelen die nodig zijn om de privacy van gebruikers te beschermen, of het ontbreken van een juiste afweging van de belangen.
In het licht van de AVG is het dus belangrijk dat OpenAI voldoet aan de voorschriften voor de verwerking van persoonsgegevens. Als een bedrijf of organisatie OpenAI gebruikt, moet het aan de relevante voorschriften voldoen. Dit betekent dat de verwerker de verplichting heeft om een evenwichtige afweging te maken tussen de belangen van de verwerker en de persoon op wie de gegevens betrekking hebben, en technische en organisatorische maatregelen moet nemen om de verwerking van persoonsgegevens in OpenAI te beveiligen.
Het is belangrijk dat bedrijven en organisaties zich bewust zijn van de juridische knelpunten die OpenAI met zich meebrengt en de AVG-voorschriften naleven. Het niet naleven van de AVG kan leiden tot boetes en andere sancties. Daarom moeten bedrijven en organisaties voorzichtig zijn met het gebruik van OpenAI.
Voeg een conclusie toe.
Kortom, OpenAI is een krachtige tool om technologische innovatie te versnellen, maar het brengt ook juridische knelpunten met zich mee. Bedrijven en organisaties die OpenAI gebruiken, moeten zich bewust zijn van de AVG-voorschriften en deze naleven. Alleen op deze manier kunnen ze de risico’s minimaliseren die gepaard gaan met het gebruik van OpenAI.”
[Disclaimer: ChatGPT heeft beperkingen. Zo heeft ChatGPT beperkte kennis van gebeurtenissen na 2021 en kan het geen juiste informatie verstrekken over personen. Trainingsgegevens kunnen daarnaast ook last hebben van algoritmische vooringenomenheid.]
Ondanks de beperkingen van OpenAI, is het wel duidelijk dat dit systeem – dat nog in de kinderschoenen staat – een heel eind komt. De chatbot wordt dan ook al door een groeiende groep ondernemers en bedrijven als hulpmiddel bij het dagelijks werk gebruikt. Bij de huidige versie is het nog wel belangrijk om kritisch naar de inhoud van de tekst te kijken. Zo zouden in bovenstaand blog bijvoorbeeld aanvullingen over de informatieplicht tegenover betrokkenen en de eventueel noodzakelijke DPIA’s en DTIA’s voor het gebruik van AI op zijn plaats zijn. Gelukkig hebben we voldoende juristen om naar dat soort punten en komma’s te kijken.
Ervan uitgaande dat deze toepassing zich razendsnel zal ontwikkelen, is het voor iedere organisatie van belang de ontwikkelingen in de gaten te houden. Als je vragen hebt over wat de toepassing van OpenAI voor jouw organisatie betekent, neem dan contact met ons op.
Meer weten over artificial intelligence? Lees verder:
https://www.ictrecht.nl/blog/openai-houdt-zichzelf-een-avg-spiegel-voor