Tra opportunità e pericoli il software Prime Voice AI di sintesi vocale per la creazione di audio di alta qualità

I programmi di sintesi vocale basati sull’intelligenza artificiale stanno diventando sempre più popolari un esempio è Prime Voice AI che genera anche preoccupazione per usi illeciti.

Un esempio è u video manipolato che mostra il presidente Joe Biden che attacca le persone transgender è stato creato con una nuova generazione di strumenti di intelligenza artificiale “New AI voice-cloning tools ‘add fuel’ to misinformation fire”. Gli esperti di informatica affermano che il video è stato creato utilizzando una nuova generazione di strumenti di intelligenza artificiale, che consentono a chiunque di generare rapidamente un audio che simula la voce di una persona con pochi clic di un pulsante. Questo video dimostra quanto sia facile ora per le persone generare video “deepfake” pieni di odio e disinformazione che potrebbero causare danni reali nel mondo reale. Ad esempio la tecnologia Prime Voice AI è stata sviluppata per doppiare l’audio in diverse lingue per film, audiolibri e giochi per conservare la voce e le emozioni del speaker. Tuttavia, gli esperti avvertono che anche la capacità di tracciare i creatori non mitigherà il danno causato dagli strumenti. Questo è solo uno dei tanti modi in cui la disinformazione generata dall’IA rappresenta una minaccia.

Prime Voice AI, un software di sintesi vocale basato su intelligenza artificiale, che offre le voci più realistiche e versatili per i creatori e per i publisher che cercano strumenti di racconto di alta qualità. Con questo strumento, è possibile generare audio parlato di alta qualità in qualsiasi voce e stile. Il modello di apprendimento profondo di Prime Voice AI rende possibile la resa di intonazioni e inflessioni umane con una fedeltà senza precedenti e regola la consegna in base al contesto. Il software è adatto per i creatori di contenuti, gli scrittori di racconti brevi e i sviluppatori di videogiochi, aprendo nuove opportunità di progettazione audio. Prime Voice AI è anche in grado di ridere e raccontare storie con emozioni, automatizzare la strategia audio per le notizie e trasformare le newsletter in podcast. Il modello AI è costruito per comprendere la logica e le emozioni dietro le parole, intonare i frammenti più lungamente con convinzione e proposito. La sintesi vocale di Prime Voice AI permette di convertire qualsiasi scrittura in audio professionale di alta qualità, velocemente e a un costo inferiore rispetto ai metodi tradizionali di registrazione. Con Voice Lab, è possibile clonare voci da campioni o da se stessi, o creare nuove voci sintetiche da zero. Projects, in arrivo nel tardo Q1 2023, sarà la postazione di lavoro per la direzione e la modifica della narrazione, offrendo un controllo completo sul processo creativo.

Ci sono anche alcune problematiche che vanno considerate.

Vantaggi:

1. Accessibilità: I programmi di sintesi vocale basati sull’AI possono rendere più accessibili i contenuti audio e testuali a persone con disabilità uditive o altre difficoltà nella comprensione della voce umana.
2. Velocità: La capacità di generare rapidamente una voce sintetica consente di creare contenuti audio più velocemente rispetto all’utilizzo di attori o speaker umani.
3. Costo: La sintesi vocale basata sull’AI è generalmente più conveniente rispetto all’utilizzo di speaker umani o attori, poiché non sono necessari costi per l’ingaggio o la registrazione.

Problemi:

1. Notizie false: I programmi di sintesi vocale basati sull’AI possono essere utilizzati per creare notizie false che sembrano provenire da fonti affidabili. Questo può creare confusione e disinformazione nella società.
2. Impersonazioni: I programmi di sintesi vocale basati sull’AI possono essere utilizzati per impersonare altre persone, ad esempio creando un messaggio audio che sembra provenire da un politico o da un personaggio pubblico.

In generale, i programmi di sintesi vocale basati sull’AI hanno molte potenzialità positive, ma è importante essere consapevoli dei loro limiti e delle problematiche legate alla qualità e all’affidabilità dei risultati. È fondamentale verificare sempre la fonte e la credibilità di qualsiasi informazione.

Nel suo ultimo discorso, Barack Obama ha messo in guardia sui pericoli dei video falsi che possono essere utilizzati per diffondere disinformazione. Secondo l’ex presidente degli Stati Uniti, le tecnologie di intelligenza artificiale stanno rendendo sempre più facile creare video che sembrano autentici ma che in realtà contengono informazioni false. Obama ha esortato i cittadini a essere critici e a verificare sempre le informazioni che vedono in questi video prima di diffonderle ulteriormente. Ha anche sottolineato l’importanza della responsabilità dei social media nel prevenire la diffusione di disinformazione e di video falsi e un esempio è il video fake realizzato da BuzzFeed e l’attore/sceneggiatore/regista premio Oscar Jordan Peele “Video Fake News, il pericolo illustrato da un Obama virtuale (e sboccato)“.

Alcuni esempi di Fakenews a cui le Video Fake News daranno sicuramente nuova linfa.

• “Il presidente Obama ha proibito la preghiera negli Stati Uniti”: Questa notizia è stata diffusa in un video su YouTube che ha accumulato milioni di visualizzazioni. Tuttavia, questa affermazione è completamente falsa e non c’è alcun provvedimento del genere da parte del presidente Obama
• “Barack Obama è un musulmano clandestino”: Questa notizia è stata diffusa in molte forme, compresi i video su YouTube, e ha continuato a circolare nonostante sia stata smentita ripetutamente. Tuttavia, Barack Obama è cristiano e non musulmano.
• “Joe Biden ha il morbo di Alzheimer”: Questa è un’altra notizia falsa che è stata diffusa in video su internet e attraverso i social media. Tuttavia, non c’è alcuna prova che Joe Biden abbia il morbo di Alzheimer e le sue capacità mentali sono state valutate regolarmente da professionisti medici.
• “Barack Obama ha truffato le elezioni presidenziali del 2012”: Questa è un’altra notizia falsa che è stata diffusa attraverso i video su internet e i social media. Tuttavia, non c’è alcuna prova che Barack Obama abbia truffato le elezioni presidenziali del 2012 e le sue vittorie sono state confermate da numerose verifiche elettorali indipendenti.
• “Donald Trump ha vinto le elezioni presidenziali del 2020”: Questa è una delle notizie false più diffuse della recente storia politica americana. Nonostante le affermazioni di Trump e alcuni dei suoi sostenitori che le elezioni erano state truccate, non c’è alcuna prova che le elezioni presidenziali del 2020 siano state manipolate e la vittoria di Joe Biden è stata confermata da numerose verifiche elettorali indipendenti.
• “Il partito Democratico è un partito comunista”: Questa è un’altra notizia falsa che è stata diffusa in video su internet e attraverso i social media. Tuttavia, il Partito Democratico non è un partito comunista e sostiene principalmente posizioni politiche di centro-sinistra.

_______

“New AI voice-cloning tools ‘add fuel’ to misinformation fire“
“Fact check: Video altered to show Joe Biden making transphobic remarks“
“Fact check: Video altered to show White House Press Secretary Karine Jean-Pierre avoiding question“
“Artificial intelligence makes voice cloning easy and ‘the monster is already on the loose’“

Foto di Welcome to All ! ツ da Pixabay