← Alle microblogberichten
· ·3 min lezen

Welke impact hebben AI‑watermerken van OpenAI en Anthropic op jouw AI‑tool?

Staat watermerken aan?

Stel: je bouwt een chat-app en gebruikt daarvoor modellen van OpenAI of Anthropic, voldoe je dan al aan de transparantieverplichtingen in de AI-act? Die vraag stelt de Universiteit van Amsterdam zich momenteel voor de UvA AI Chat, zo valt te lezen in een stuk van Daniël Hemmer in het universiteitsblad Folia.

Watermerken op AI-gegenereerde inhoud dragen bij aan hun herkenbaarheid. Het is dan ook sinds augustus dit jaar verplicht dat AI-systemen "machineleesbare markering" toevoegen aan gegenereerde inhoud, zoals een watermerk (art. 50 lid 2 AI act). Afbeeldingen die je genereert met bijvoorbeeld ChatGPT (zoals de afbeelding hierboven) kregen al langere tijd kenmerken mee zodat bijvoorbeeld platformen als LinkedIn kunnen zien dat de inhoud door AI is gemaakt. AI-giganten OpenAI, Anthropic en Google hebben inmiddels ook een manier gevonden om AI-tekst te markeren. Het gaat dan om de woorden die het model kiest, waarin een patroon te herkennen is. Deze markeringen worden al gebruikt in de chatapps zoals ChatGPT en Claude.

Maar watermerken worden ook toegevoegd aan via API’s gegenereerde inhoud. En dat is belangrijk als je een AI-app bouwt op de modellen van bijvoorbeeld Anthropic of OpenAI. Mogelijk krijg je dan de AI-markering van je modelaanbieder al cadeau. Anthropic markeert teksten in veel van hun modellen en geeft die kenmerken ook mee in de teksten die via de API worden geleverd aan bijvoorbeeld de chatbots van anderen. Anthropic zegt dat ook wereldwijd toe te passen. Bij OpenAI kun je sinds twee weken ook gebruik maken van 'textGrain-watermerken', maar dat moet je dan wél zelf aanzetten. Gebruik je de modellen via een cloudplatform zoals AWS, bijvoorbeeld om gebruik van gegevens binnen de EER te houden, dan kan het weer anders zijn. De Anthropic-modellen die op andermans cloud draaien geven veelal ook een tekstwatermerk mee. OpenAI werkt eraan, maar geeft geen overzicht van het gebruik van watermerken via cloudpartners: "De beschikbaarheid kan per uitvoer en per partner verschillen."

De modellen van Anthropic die watermarking ondersteunen
De modellen van Anthropic die watermarking ondersteunen

Folia schrijft dat de UvA onderzoekt "of die watermerken van AI-leveranciers ook intact blijven ‘bij verwerking door de UvA AI Chat software’". Dat is een terechte vraag. Als de AI-chatapp de tekst van het model ongewijzigd doorgeeft, dan blijft het watermerk behouden. Maar als de app de inhoud nog op enige manier bewerkt, of bijvoorbeeld door een ander model haalt, dan kan het watermerk verloren gaan. Een systeemprompt of het aanpassen van de prompts aan het model, doen er niet toe: het gaat om wat er ná de generatie door het model met de output gebeurt.

Verder komt in Folia: "Daarnaast buigt de universiteit zich over een juridische vraag: geldt de UvA met haar eigen chatomgeving wettelijk gezien als ‘AI-aanbieder’ of slechts als ‘AI-gebruiker’?" Dat is cruciaal, want als de UvA geen aanbieder is, dan heeft de UvA geen markeringsverplichting. Zo op het eerste gezicht lijkt mij overigens wel dat de UvA zelf de aanbieder is van het systeem (niet te verwarren met het model) omdat de UvA het systeem in gebruik stelt en dat doet onder eigen naam (art. 3 lid 3 AI act en EC-richtsnoeren). De UvA lijkt me dus meer dan alleen de AI-gebruiker, of "gebruiksverantwoordelijke" in AI-act-taal.

Kortom, bij de implementatie van AI-systemen die gegenereerde inhoud van bijvoorbeeld OpenAI, Google of Anthropic 'uitspugen' is het goed om scherp te hebben welke rol je eigenlijk hebt onder de AI-verordening. Maar ook de specifieke configuratie is van belang: welk model gebruik je en hoe gebruik je dat? Mogelijk krijg je al een watermerk cadeau en kun je daarvan gebruik maken. Het is dan wel zaak dat goed te documenteren en te testen, voor zover dat gaat nu de grote AI-aanbieders hun detectietools nog maar beperkt openstellen. Als je AI-systeem voortborduurt op de ontvangen AI-inhoud, dan moet je er natuurlijk ook voor zorgen dat het watermerk niet verloren gaat, anders zul je toch zelf een oplossing moeten vinden om aan de transparantieverplichtingen te voldoen.