Skyrim è nella bufera a causa della controversia sul porno deepfake, sono numerose le mod pornografiche presenti su NexusMods che utilizzano la tecnologia di clonazione vocale tramite l’uso dell’Intelligenza Artificiale.

La comunità di modding di Skyrim è attualmente coinvolta in una controversia sul porno, con il popolare sito di modding NexusMods e la tecnologia di clonazione vocale tramite l’uso dell’intelligenza artificiale al centro dell’attenzione. In vista dell’uscita dell’epico gioco spaziale di Bethesda, Starfield, in molti sono convinti che il gioco sarà una sorta di Eden per la comunità di modding, in molti però sono contrari alla creazione di mod pornografiche generate dall’IA, sottolineano l’importanza di monitorare questo tipo di contenuti, soprattutto per quanto riguarda il consenso di chiunque abbia fornito la propria voce che l’intelligenza artificiale usa per creare il modello vocale che poi finisce nelle mod.

L’inserimento di personaggi, l’aggiunta di nuove linee vocali o il cambio dell’aspetto attraverso il modding sono stati possibili fin dal rilascio di Skyrim nel 2011. L’RPG open world di Bethesda è già famoso per essere pieno di contenuti erotici che permettono ai giocatori di cambiare e vestire gli NPC come meglio credono.

Tuttavia, i progressi nella tecnologia dell’intelligenza artificiale ha ampliato moltissimo ciò che i giocatori possono inserire nei loro giochi tramite l’utilizzo di mod. Le mod recenti (di cui ce ne sono a decine) utilizzano una tecnologia di clonazione vocale che è possibile trovare in aziende come la ElevenLabs, tramite l’utilizzo di questa tecnologia e possibile clonare la voce di una persona (non sempre consapevole) e poi inserirla nel gioco per cambiare le voci dei personaggi di Skyrim e fargli recitare delle parole scritte dai modders, rendendo personaggi come Frea partecipe e consenziente a una varietà di incontri sessuali. Naturalmente, sebbene si tratti di personaggi immaginari, sono doppiati da persone reali, ed è qui che sta il problema.

Robbie, l’utente di Reddit che ha attirato l’attenzione su queste mod (lui stesso un modder di Skyrim), afferma che gli inconsapevoli doppiatori una volta scoperta l’esistenza della mod si sono rivolti a NexusMods per chiederne la rimozione, NexusMods ha poi accettato di rimuovere la mod.

La mod rimossa originariamente affermava che “Attualmente tutti i contenuti sono doppiati utilizzando software AI, e ho molto rispetto per i doppiatori. Se mi contatteranno e vorranno che venga rimossa poiché utilizza le loro voci come base, lo farò e caricherò una versione non doppiata o che utilizza un campione vocale di suono simile”. Il modder ha poi affermato: “A causa delle azioni della comunità di Reddit, ho purtroppo dovuto rimuovere le versioni doppiate di questa mod per consentire alla mod di restare su Nexus”.

Robbie afferma di essersi rivolto anche alla doppiatrice di Valerica, Cindy Robinson, per attirare la sua attenzione sulla mod, e che lei ha dichiarato che avrebbe chiesto di farla rimuovere.

NexusMods, ha dichiarato in un comunicato dell’aprile 2023 “I contenuti mod generati dall’IA non violano le nostre regole, ma potrebbero essere rimossi se riceviamo una lamentela credibile da parte di un creatore/titolare dei diritti.” La posizione ha poi suscitato ulteriori polemiche, perché le mod generate dall’IA sono ancora molte e attive sul sito.