DAIMX Journal Parte 02

Esame due: Bene, usiamo l'intelligenza artificiale. Ma che dire della legge?

Idee, moda e intelligenza artificiale

Bene, usiamo l'intelligenza artificiale. Ma che dire della legge?

Il primo esame riguardava in gran parte la possibilità.

L’intelligenza artificiale può generare modelli?
Può modificare le fotografie reali?
Può accelerare le campagne?
Può abbassare la complessità produttiva preservando il prodotto?
Il secondo esame pone una domanda molto meno affascinante:

Bene. Ora chi è il responsabile?

All'improvviso l'argomento non è più solo la creatività.

È:
diritto d'autore,
privacy,
la legge dell’UE sull’IA,
deepfake,
responsabilità,
segreti aziendali,
IA ombra,
documentazione,
e supervisione umana.
Il compito della WBS chiede esplicitamente agli studenti di identificare tali rischi legali e quindi di creare tutele sia legali che organizzative.
E questo porta a un problema che trovo molto più interessante che chiedere semplicemente se è presente un'etichetta AI.

Il problema di Photoshop
Immagina di creare un'immagine completamente con l'intelligenza artificiale generativa.
Quindi lo apro in Photoshop.
Lo ritaglio.

Correggi i colori.
Ritoccare il viso manualmente.
Sostituisci parte dello sfondo.
Dipingi sui dettagli.

Passa a Illustrator e ricostruisci gli elementi grafici.

Poi lo esporto.
Comprimilo.
Magari combinalo con altro materiale.
Ed esportarlo di nuovo per i social media.
Cos'è esattamente quell'immagine adesso?
100% IA?
80% IA?
Assistito dall'intelligenza artificiale?
IA modificata dall’uomo?
Opera d'arte digitale?
E cosa ancora più importante:

Chi può ricostruire in modo affidabile la storia completa della produzione solo dal JPEG finale?

È qui che la discussione legale diventa molto più complicata rispetto al posizionamento di una piccola etichetta generata dall'intelligenza artificiale sotto un'immagine.
L'obbligo di divulgazione è una cosa.
La rilevabilità tecnica è un'altra.
Il rilevamento non è una prova
I rilevatori di intelligenza artificiale sono allettanti perché sembrano promettere certezza.
Carica.
Aspetta.
Risultato:
92% GENERATO DA IA
Caso chiuso.
Solo che la produzione creativa non funziona così.
Una fotografia reale può essere pesantemente ritoccata.
Un'immagine AI può essere ampiamente ricostruita a mano.
Un'illustrazione umana può contenere un elemento generato.
Un modello reale può stare in un ambiente generato dall'intelligenza artificiale.
Un modello sintetico può indossare un prodotto ricreato dalla fotografia del prodotto autentico.
Un video può combinare fotogrammi generati, editing convenzionale, compositing, color grading e grafica manuale.
Dove inizia esattamente l’IA?
E dove finisce?
I pixel finali non contengono necessariamente la risposta.
Quando la moda non può più dirti chi è reale


La campagna Guess pubblicata in Voga ha reso quel problema visibile nella moda.
La pubblicità mostrava una donna fotorealistica che in realtà non esisteva.

Il modello è stato creato utilizzando l'intelligenza artificiale.
L'annuncio conteneva una dichiarazione secondo cui l'immagine era stata prodotta con l'intelligenza artificiale da Seraphinne Vallora, ma le critiche si concentravano in parte su quanto fosse facile trascurare quell'informazione.

Questa è una distinzione importante.

C'è una differenza tra:

le informazioni siano tecnicamente presenti

e

il pubblico capisce davvero cosa sta guardando.

La fotografia di moda tradizionale ha sempre manipolato la realtà.

La pelle viene ritoccata.
I corpi vengono adattati.
Gli sfondi vengono sostituiti.
I colori vengono corretti.
Ma un modello completamente sintetico introduce una possibilità fondamentalmente diversa:
potrebbe non esserci mai stato un essere umano fotografato sotto l'immagine.

Questo ci riporta direttamente a:

AI modificata

contro

Generato dall'intelligenza artificiale.

Con AI Modified, la realtà fornisce ancora un’ancora.

Con AI Generated, l'ancora può scomparire.

E cosa succede dopo Photoshop?

Ora prendiamo quel modello completamente sintetico.

Ritoccalo manualmente.
Cambia i capelli.
Modificare il vestito.
Ricostruisci parte del viso.
Sostituire l'ambiente.
Aggiungi la tipografia in Illustrator.
Esporta di nuovo.
Cosa dovrebbe trovare esattamente un rilevatore esterno?

L'immagine potrebbe ancora provenire dall'intelligenza artificiale, ma le caratteristiche visibili e tecniche della generazione originale potrebbero essere cambiate sostanzialmente.

Ciò non elimina alcun obbligo giuridico di trasparenza.

Significa semplicemente che:

la responsabilità legale non può dipendere interamente dal fatto che un osservatore esterno possa successivamente rilevare l’IA.
Quando l'identità sintetica smette di essere intrattenimento

Ciò diventa ancora più grave quando l’identità sintetica viene utilizzata per ingannare piuttosto che per pubblicizzare.

In Francia, una donna si è trasferita approssimativamente €830,000 ai truffatori che l'hanno convinta di avere una relazione con Brad Pitt.

I truffatori hanno inviato selfie falsi, documenti e video falsificati utilizzando l’intelligenza artificiale.

A quel punto il problema non è più:
Questa campagna ha messo in risalto il suo modello di intelligenza artificiale in modo sufficientemente evidente?

Diventa:

frode d'identità,
manipolazione emotiva,
criminalità finanziaria,
e danno reputazionale.

L’intelligenza artificiale non ha bisogno di ingannare tutti.
Basta ingannare la persona giusta al momento giusto.

Il video di Tom Cruise e Brad Pitt

Il recente esempio di Tom Cruise e Brad Pitt generato dall’intelligenza artificiale sottolinea un punto diverso.

In questo caso, è stata creata una scena di celebrità altamente convincente utilizzando la tecnologia prompt-to-video di ByteDance anziché una tradizionale ripresa cinematografica che coinvolge i due attori.
Ciò è importante perché lo spettatore vede personaggi pubblici riconoscibili eseguire qualcosa che non è mai realmente accaduto.
La domanda diventa:

Come può il pubblico sapere che l'evento stesso è sintetico?

E quando un video di questo tipo viene successivamente modificato, sottoposto a color grading, compresso, ripubblicato o combinato con la post-produzione convenzionale, la cronologia della produzione diventa ancora più difficile da dedurre dal file finale.
La lezione non è che il rilevamento sia impossibile.

La lezione è questa Il solo rilevamento è una strategia di governance inadeguata.

Quindi esiste una polizia AI?

Non in senso cinematografico.
Non c’è nessun funzionario europeo che scannerizzi ogni immagine di Instagram e bussi alla porta perché qualcuno ha usato il riempimento generativo. 😄
Ma c'è l'applicazione.

Ai sensi della legge UE sull’IA, le responsabilità sono distribuite tra le autorità nazionali di vigilanza del mercato, l’Ufficio europeo sull’IA per i sistemi pertinenti e altri organismi di vigilanza competenti.

Gli obblighi di trasparenza di cui all'articolo 50 sono diventati applicabili dal 2 agosto 2026, e alcune violazioni possono portare a sanzioni pecuniarie significative.

Ma i regolatori non possiedono una magica macchina forense in grado di aprire un JPEG e annunciare:

Pista: lunedì 11:34
Photoshop: lunedì 12:07
Illustratore: lunedì 12:42
suggerimento originale: …

La reale applicazione delle norme dipende anche dalla documentazione, dagli audit, dai registri interni, dal materiale originale, dalle prove tecniche e dai processi aziendali.

E questo porta a quella che penso possa essere l’idea più forte nell’esame WBS.