OpenAI: presenta in anteprima Voice Engine, il Generatore Vocale basato sull’IA.

Venerdì scorso, OpenAI, la celebre startup di intelligenza artificiale, ha presentato in anteprima Voice Engine, un innovativo generatore vocale digitale in grado di produrre discorsi dal suono sorprendentemente naturale partendo da un singolo campione audio di soli 15 secondi. Questo nuovo strumento rappresenta un ulteriore passo avanti nel mondo dell’intelligenza artificiale, dopo il successo di altre tecnologie di punta della stessa azienda, come ChatGPT e il generatore di immagini DALL-E.

Le potenzialità di Voice Engine

Voice Engine è stato sviluppato con l’obiettivo di fornire supporto in una vasta gamma di applicazioni, come ha spiegato OpenAI in un post sul blog ufficiale.

Le possibili applicazioni di questa tecnologia spaziano dall’assistenza alla lettura per i bambini, alla traduzione linguistica, fino al ripristino della voce per pazienti oncologici che hanno perso la capacità di parlare a causa di trattamenti invasivi.

L’idea di poter restituire la voce a chi l’ha persa o di migliorare l’accesso all’educazione e alla comunicazione per milioni di persone ha suscitato grande interesse e aspettative.

Tuttavia, l’introduzione di Voice Engine non è esente da preoccupazioni, soprattutto per quanto riguarda i possibili usi impropri della tecnologia.

Rischi e Preoccupazioni

Non appena è stata annunciata l’anteprima di Voice Engine, i social media sono stati inondati di reazioni contrastanti. Se da un lato molti utenti hanno accolto con entusiasmo le potenzialità del nuovo strumento, dall’altro sono emerse serie preoccupazioni riguardo al possibile uso improprio, in particolare per la creazione di deepfake vocali.

Il rischio di frodi assistite da imitazioni vocali non autorizzate ha spinto OpenAI a ritardare la distribuzione su larga scala di Voice Engine. L’azienda ha sottolineato di essere consapevole dei rischi associati alla generazione di discorsi che imitano le voci di persone reali, e ha dichiarato di voler adottare un approccio cauto e responsabile.

OpenAI ha chiarito che la distribuzione della tecnologia sarà preceduta da un dialogo approfondito con partner provenienti da diversi settori, tra cui governo, media, intrattenimento, istruzione e società civile, con l’obiettivo di sviluppare linee guida e soluzioni che possano mitigare i rischi.

Misure di sicurezza proposte da Open AI

Tra le misure proposte da OpenAI per prevenire l’uso improprio di Voice Engine, vi sono politiche di utilizzo che proibiscono l’impersonificazione senza consenso o diritto legale.

Inoltre, l’azienda sta pensando alla possibilità di accompagnare un’eventuale distribuzione su larga scala con strumenti di autenticazione vocale, che potrebbero verificare che l’oratore originale abbia consapevolmente aggiunto la propria voce al servizio.

Una delle sfide principali nel contrastare l’uso improprio delle voci sintetiche riguarda la difficoltà nel rilevare ed etichettare i contenuti generati dall’intelligenza artificiale.

Sebbene siano state proposte soluzioni come la filigrana digitale, queste si sono spesso rivelate facilmente aggirabili o rimuovibili, sollevando interrogativi sulla loro efficacia.

La preoccupazione per l’impatto sociale

L’introduzione di Voice Engine avviene in un contesto sociale e politico già segnato da preoccupazioni riguardo all’uso dell’intelligenza artificiale per scopi malevoli.

Ad esempio, durante una chiamata automatica nel New Hampshire a gennaio 2024, è stata utilizzata una voce falsa che imitava il presidente Joe Biden, creando allarme su come tali tecnologie possano essere sfruttate per manipolare l’opinione pubblica o per scopi fraudolenti.

A seguito di questo episodio, la Federal Communications Commission (FCC) degli Stati Uniti ha votato all’unanimità per vietare le chiamate automatiche generate dall’IA non richieste, evidenziando l’urgenza di regolamentare l’uso di queste tecnologie.

Geoffrey Miller, professore associato di psicologia presso l’Università del New Mexico, ha espresso le sue preoccupazioni su piattaforme social come X (precedentemente Twitter), chiedendo cosa intenda fare OpenAI per prevenire l’uso improprio di Voice Engine da parte di criminali. Miller ha sollevato il timore che questa tecnologia possa essere utilizzata per truffare milioni di anziani, con conseguenze potenzialmente disastrose.

Nel frattempo, il mondo dell’intelligenza artificiale attende con interesse e cautela gli sviluppi futuri di Voice Engine, consapevole che le decisioni prese oggi potrebbero avere ripercussioni significative sul modo in cui la società utilizzerà e percepirà queste tecnologie negli anni a venire.