Jump to content
Sign in to follow this  
Manifredde

Deepfake: opportunitá o minaccia?

Recommended Posts

Ne avevo sentito parlare, ma solo di recente ho avuto modo di vedere gli incredibili risultati che si possono ottenere anche con progetti opensource. Da un lato provo una meraviglia e ammirazione enormi per quello che questi algoritmi di intelligenza artificiale riescono a fare, dall'altro é preoccupante: ci si allarmava 20 anni fa quando in Forrest Gump si fece vedere Tom Hanks che interagiva con vari personaggi storici, video creati da un team di esperti in effetti speciali, usando tecnologia all'avanguardia, centinaia di migliaia di euro e settimane se non mesi di lavoro. Cosa dobbiamo attenderci da un software che riesce a fare cose simili usando solo qualche decina di immagini di riferimento per imparare?

 

E se quelli che vediamo oggi, giá risultati di tutto rispetto (https://www.youtube.com/watch?v=3vHvOyZ0GbY) sono solo l'inizio, cosa possiamo aspettarci da un campo, quello dell'intelligenza artificiale, che mai come oggi é stata oggetto di tanto impegno, interesse e ricerca?

 

É vero che contemporaneamente si stanno studiando intelligenze artificiali in grado di smascherare video falsificati tramite altre intelligenze artificiali, ma solo io trovo inquietante uno scenario simile? 

Sto riflettendo sulla analogia della firma digitale: se io accedo ad un sito, non posso essere certo che sia quello che dice di essere. Per assicurarmene devo verificare il suo certificato e accedere in https, cosí che un altro sito, che fa da garante, possa certificarne l'autenticitá.

Forse é proprio questo il segreto: considerare falso tutto ció che viene fornito su internet a meno che l'autenticitá non sia garantita da un garante di cui mi fido. Tramite blockchain, magari, o in modi piú tradizionali.

 

Voi che ne pensate?

 

Share this post


Link to post
Share on other sites

Che la cosa mi spaventa molto, per due motivi.

 

Il primo è che nell'immaginario collettivo il video è oggi il solo strumento di comunicazione "sicuro": che testi e immagini possano essere manipolati è ormai cosa comunemente accettata, ma che lo stesso possa accadere ad un video non è ancora entrato nel pensiero comune. Quindi implicitamente sarà più facile cadere in una fake news propagata attraverso questo strumento.

Ad oggi il deepfake è usato principalmente nel porno, giusto per consentire a qualcuno di vedere la celebrità dei suoi sogni realisticamente impegnata in performance erotiche di vario genere, ma se qualcuno montasse un video del genere basandosi su una vostra foto? Su quella di vostra figlia? Sapendo quanto tutti ritengono affidabili i video, e quanto possa essere difficile dimostrare che si tratta di fake, che riscatto paghereste se foste minacciati di diffusione di un video porno che vi rappresenta?

E se oggi abbiamo i meme di fake news in cui - per fare un esempio - sotto alla foto di Juncker vengono messe frasi che non ha mai detto, tipo "dobbiamo affamare gli italiani", domani avremo dei video deepfake in cui quelle cose le dirà "davvero". E anche qui, quante carriere saranno annientate prima che la verità possa essere ristabilita?

 

E gli strumenti di difesa sono pochissimi. Le certificazioni potrebbero essere una buona soluzione, ma ad oggi c'è il far west.

 

 

Il secondo motivo è che c'è un'entusiasmante (tecnicamente parlando) ma allarmante (socialmente parlando) progressiva semplificazione dell'accessibilità degli di deepfake. Proprio ai primi di giugno è uscito un paper in cui si spiega come ormai sia possibile - avendo a disposizione anche solo un'ora di video originale del personaggio da colpire in modo da cogliere tutte le possibili espressioni facciali del parlato - montare un video semplicemente andando a scrivere in un editor di testo quello che si vuole che il personaggio del video dica. Ad avere i programmi giusti, chiunque può far dire quello che vuole praticamente a qualsiasi personaggio pubblico.

 

Non siamo pronti per un mondo del genere.

Share this post


Link to post
Share on other sites
31 minutes fa, Lord Beric dice:

ma se qualcuno montasse un video del genere basandosi su una vostra foto? Su quella di vostra figlia?

 Questo é davvero allarmante, considerando quante "nostre" immagini ci sono sui vari social. E sono davvero tentato di chiedere a mia moglie di non postarne piú e di cancellarle da facebook/instagram o qualsiasi cosa ancora frequenti. Non sono di indole paranoica, ma mi ci fanno diventare.

 

32 minutes fa, Lord Beric dice:

montare un video semplicemente andando a scrivere in un editor di testo quello che si vuole che il personaggio del video dica

Ho visto in parte quella presentazione, ed é la ciliegina sulla torta. La tecnologia di Adobe (mi pare che fosse) ha giá un paio di anni, ma non solo avremo i politici che diranno cose strane, ma che le diranno con la propria voce.

 

Una soluzione al momento é proprio quella di allegare un certificato digitale ad ogni immagine. Se l'immagine ne possiede uno ed é riconosciuto, chi la posto é anche responsabile del contenuto e lo dichiara vero. Ma in realtá no: l'immagine isolata dal contesto non significa nulla, il fatto che io la firmi non significa che io possa garantirne l'autenticitá, quando magari ho proprio prodotto l'immagine per dimostrare quanto fosse facile falsificarle e, nel contesto in cui era stata in origine proposta, il suo significato era chiaro.

Inoltre questo approccio aprirebbe un nuovo problema: una immagine firmata, presa e trasferita in un contesto diverso, rischierebbe di attribuire a qualcuno un messaggio che non ha mai espresso.

 

Internet é certamente il piú grosso mezzo di produzione e fornitura di informazioni e sará quello che probabilmente risentirá anche di piú di questi problemi di fiducia. Ma si puó immaginare che Google, Ms, Facebook, Apple, Vimeo e compagnia saranno anche in prima fila per la lotta ai fake, in modo da mantenere la fiducia degli utenti di cui tanto hanno bisogno. Inoltre molti sono anche interessati alle AI, quindi c'é da sperare che avranno i mezzi per fare la loro parte...

 

Share this post


Link to post
Share on other sites

Terzo motivo - speculare - di allarme: quando (non se) questi video saranno diffusi, i video stessi in generale, quelli veri non contraffatti,  non saranno più una prova attendibile per niente. Un effetto amplificato e più pericoloso dello scetticismo che si vede oggi sulle notizie vere trovate sul web, visto che la maggioranza ormai si è vaccinata contro le bufale e però a volte cade nel baratro opposto :unsure:.

Comunque un modo (tecnico) per certificare l'autenticità di un video si troverà sicuramente...ma ad un passo molto più lento della diffusione dei fake, come al solito. Ci sarà un fastidioso intermezzo, diciamo di una decina d'anni?

Share this post


Link to post
Share on other sites
8 hours fa, Neshira dice:

Ci sarà un fastidioso intermezzo, diciamo di una decina d'anni?

 

Per non parlare del cyberbullismo, quando questa tecnologia sará abbastanza buona e abbastanza diffusa...

Share this post


Link to post
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

Sign in to follow this  

×
×
  • Create New...