I deepfake sono meraviglie della tecnologia che consentono a personaggi del cinema come Luke Skywalker di apparire giovane nella serie Boba Fett. Possiamo mettere qualsiasi faccia sul corpo di qualsiasi persona e farla muovere in modo naturale. Il problema è che permette anche di soppiantare l’identità digitale delle persone senza il loro permesso, che è terreno fertile per le Fake News.

Il punto è che Google ha ora vietato la formazione di sistemi di intelligenza artificiale che possono essere utilizzati per generare deepfake sulla sua piattaforma Google Collaboratory. D’ora in poi, nell’elenco dei progetti non consentiti, abbiamo i deepfake, poiché a quanto pare venivano usati per scopi differenti.

Google Collaboratory, chiamato anche Colab, nasce nel 2017 come progetto interno di Google Research, e permette a chiunque di scrivere ed eseguire codice Python dal browser, per il machine learning, la didattica e l’analisi dei dati. In questo modo chiunque può avere accesso a GPU e unità di elaborazione ideali per progetti legati all’Intelligenza Artificiale.

C’è un generatore di deepfake open source chiamato DeepFaceLab e prima si poteva usare con Colab per realizzare i progetti. Ora appare il messaggio:

“È possibile che tu stia eseguendo codice non consentito e ciò potrebbe limitare la tua capacità di utilizzare Colab in futuro. Si prega di notare le azioni vietate specificate nelle nostre FAQ”.

Google ha detto a TC che il blocco è dovuto a regolari revisioni abusive dei pattern che fanno di tanto in tanto, blocchi che si aggiungono all’esecuzione di attacchi denial-of-service, al crack di password e al download di torrent.

La decisione non è definitiva, poiché Google riconosce che i deepfake possono essere molto utili, ma hanno un grande potenziale per andare contro i principi dell’IA di Google. Se vuoi usarlo (per scopi benevoli) dovrai parlare con un rappresentante di Google Cloud per esaminare ogni caso d’uso.