Dat kan het volgende omvatten:

schetsen,
rauwe generaties,
tussenliggende bestanden,
Photoshop-versies,
en gedocumenteerde goedkeuringsprocessen.

Dat verandert de vraag volledig.
In plaats van te vragen:

Kunnen we op basis van het uiteindelijke beeld bewijzen dat AI is gebruikt?

Misschien moeten organisaties zich afvragen:

Kunnen we bewijzen hoe het beeld tot stand is gekomen?

Dat zijn twee heel verschillende normen.

Van Pixel Forensics tot procesbewijs
Een professionele creatieve productieketen zou er ongeveer zo uit kunnen zien:

Originele bron
→ Referentiemateriaal
→ Prompt / AI-model
→ Rauwe generatie
→ Menselijke selectie
→ Photoshop/Illustrator
→ Kleurcorrectie
→ Merkrecensie
→ Rechtencontrole
→ Menselijke goedkeuring
→ Publicatie

Plotseling Mens in de lus is niet langer een modieuze uitdrukking.

Het wordt onderdeel van het bewijsspoor.

Mijn eerdere onderzoek kwam al uit op een simpele regel:
AI creëert mensen, controleer of het bedrijf beslist.
Dat klinkt bijna bureaucratisch.

Maar zodra de oorsprong later moeilijker te reconstrueren is, wordt documentatie onderdeel van de creatieve verantwoordelijkheid.
Human in the Loop klikt niet op ‘Goedkeuren’
Menselijk toezicht is alleen van belang als de mens daadwerkelijk begrijpt wat er wordt gecontroleerd.

Voor een modebedrijf kan dat betekenen dat het volgende moet worden geverifieerd:

productkleur;
materiaal;
logo's;
stiksels;
vorm;
anatomie;
rechten;
bronmateriaal;
misleidende beweringen;
synthetische identiteiten;
vereisten inzake definitieve openbaarmaking.

Interessant genoeg bevatten de huidige partnerrichtlijnen van Zalando nu precies dit soort zorgen.

Door AI gegenereerde middelen kunnen worden afgewezen als ze producten vervormen, onwaarschijnlijke omgevingen creëren, inconsistente modellen produceren of kledingstukken niet nauwkeurig weergeven.

De huidige videorichtlijnen vereisen eveneens realistische stoffen, kleuren, texturen, verhoudingen en modelconsistentie.

Dat maakt het oorspronkelijke onderzoek bijna vreemd profetisch.

De theoretische zorg werd een operationele standaard.
Auteurschap maakt alles nog rommeliger

Stel je nu voor:

AI genereert het eerste beeld.
Dan ben ik vier uur bezig met het verschonen van:
compositie,
verlichting,
kleur,
typografie,
structuur,
gezichtsdetails,
achtergrondelementen,
indeling,
en verhalend.
Het uiteindelijke werk lijkt misschien in niets op de oorspronkelijke generatie.

Waar bevindt het auteurschap zich precies?
In de prompt?
In de eerste uitvoer?
Bij de selectie?
In de handmatige wijzigingen?
In het concept?
Of in de combinatie van allemaal?

Het tweede WBS-examen vraagt studenten expliciet om de confrontatie aan te gaan met het niveau van menselijke creatieve bijdrage dat nodig is voor auteursrechtelijke bescherming.

Technologie geeft de voorkeur aan eenvoudige knoppen:

Genereer.
Bewerken.
Exporteren.

Het recht geeft de voorkeur aan definities.

Creatief werk leeft steeds vaker ergens ongemakkelijk tussen hen in.

C2PA en de droom van perfecte herkomst
Een voorgesteld antwoord is herkomst.

In plaats van achteraf een beeld te analyseren en te vragen:

Ziet dit er kunstmatig uit?

we voegen informatie toe over de geschiedenis ervan.

Welke tool heeft het gemaakt?
Is het aangepast?
Wat was de bron?
Welke transformaties vonden plaats?

Dat is een veel verfijnder idee.
En de huidige richtlijnen van Zalando gaan al in deze richting.

De partnerdocumentatie beveelt vormen van onzichtbare markering en AI-tags aan of vereist deze voor verschillende AI-productieworkflows, waarbij onderscheid wordt gemaakt tussen hybride beelden, achtergrondvervanging, face-swaps en AI-modellen.

Maar de herkomst heeft één duidelijke vijand:

de normale creatieve workflow.
Bestanden zijn:
gekopieerd,
bijgesneden,
schermopname,
gecomprimeerd,
hernoemd,
opnieuw geëxporteerd,
gedownload,
gecombineerd,
geüpload,
en opnieuw bewerkt.
Technologie kan de herkomst behouden.

Het kan niet garanderen dat mensen de keten in stand zullen houden.
Schaduw-AI kan het grotere bedrijfsrisico zijn
Het WBS-onderzoek brengt ook iets veel minder visueel spannends naar voren:

Schaduw-AI.

Een werknemer kan stilletjes een ongeautoriseerde openbare AI-dienst gebruiken omdat dit handig is.

In die dienst kunnen ze het volgende plakken:
klantinformatie,
commerciële plannen,
campagneconcepten,
vertrouwelijke documenten,
broncode,
of interne strategie.

Het onderzoek vraagt bedrijven daarom na te denken over whitelists, goedgekeurde bedrijfstools, training en IT-beveiligingscontroles.

Dit kan uiteindelijk een groter bedrijfsrisico zijn dan een verkeerd gelabelde Instagram-foto.

Er is een ontbrekend AI-label zichtbaar.

Een vertrouwelijke strategie die in het verkeerde AI-systeem is geplakt, is dat misschien niet.

Minder glamoureus.
Veel gevaarlijker.
Zalando is nu het echte laboratorium
Wat dit allemaal bijzonder interessant maakt, is dat Zalando niet langer slechts een academisch voorbeeld is.

Het bouwt actief aan de omgeving die deze onderzoeken beschrijven.

Door AI gegenereerde marketinginhoud.
Door AI gegenereerde productvideo.
Hybride fotografie.
Digitale tweelingen.
AI-ondersteunde product-onboarding.
Personalisatie.
Geautomatiseerde beeldverwerking.
En strenge eisen over productrealisme en AI-workflows.

Dus de oorspronkelijke vraag:

Moet Zalando AI gebruiken?
is achterhaald geworden.

De betere vraag is:

Hoe bestuur je AI als AI een gewone infrastructuur wordt?

Misschien stellen we de verkeerde vraag
Misschien zal de toekomst geen perfecte detector bevatten die naar elk creatief werk kijkt en verklaart:

MENS
of
AI

Daarvoor wordt de creatieve productie te hybride.
Fotografie maakt al gebruik van computationele verwerking.
Photoshop bevat generatieve hulpmiddelen.

Illustrator combineert handmatige en geautomatiseerde creatie.
Videobewerking maakt gebruik van AI-maskering, restauratie, tracking en generatie.

Ontwerpers genereren concepten en bouwen deze met de hand opnieuw op.
Fotografen passen AI-denoise toe op echte beelden.

Merken maken AI-video van echte productfotografie.
Digitale tweelingen zijn afkomstig van echte mensen.

Op een gegeven moment wordt de binaire classificatie bijna absurd.

Betere vragen

In plaats van alleen te vragen:

Werd AI gebruikt

Misschien moeten professionals zich afvragen:

Welke rol speelde AI?
Wat is werkelijk door een persoon gefotografeerd of gemaakt?
Wat is er gegenereerd?
Werd het publiek materieel misleid?
Werd het daadwerkelijke product waarheidsgetrouw weergegeven?
Was het bronmateriaal juridisch bruikbaar?
Waren privé- en vertrouwelijke gegevens beschermd?
Heeft er een zinvolle menselijke beoordeling plaatsgevonden?
Kan het productieproces worden gereconstrueerd?
Wie heeft uiteindelijk de verantwoordelijkheid aanvaard?

Die vragen zijn moeilijker, ze zijn ook veel nuttiger. Tenslotte hebben we ons jarenlang afgevraagd of AI overtuigende inhoud kon creëren.

Die vraag is beantwoord.

Zalando laat zien dat hybride AI-productie niet langer experimenteel is.

Raad eens en Mode laten zien wat er gebeurt als een synthetisch model niet meer te onderscheiden is van conventionele modereclame.

De Brad Pitt-fraude laat zien wat er gebeurt als synthetische identiteit een instrument voor manipulatie wordt.

En moderne generatieve video laat zien dat zelfs een gebeurtenis waarbij enkele van de meest herkenbare gezichten ter wereld betrokken zijn, niet langer hoeft te hebben plaatsgevonden om het te kunnen zien.

De volgende vraag is daarom veel moeilijker:

Wanneer menselijke creativiteit en kunstmatige generatie onderdeel worden van dezelfde productieketen, wie kan dan nog bewijzen waar het ene eindigde en het andere begon?

Misschien zal de toekomst van AI-beheer minder afhangen van het inspecteren van de laatste pixels.

En nog veel meer over het bewijzen van de reis die hen heeft gecreëerd.

Omdat pixels kunnen worden bewerkt, kunnen metadata verdwijnen en kunnen detectoren ongelijk hebben.

Maar een professionele organisatie moet toch kunnen uitleggen:

wat het maakte,
hoe het is gelukt,
en wie verantwoordelijk was.

De echte uitdaging is niet alleen het detecteren van AI.

Het bewijst het verhaal achter wat we creëren.

Diana Trichinet