Perché Geoffrey Hinton ha deciso che avrebbe dovuto “fischiare” sulla tecnologia

New York (CNN) Geoffrey Hinton, noto anche come “Il padrino dell’intelligenza artificialeHa deciso che doveva “fischiare” la tecnologia che ha contribuito a sviluppare dopo essersi preoccupato di quanto fosse intelligente, ha detto alla CNN martedì.

“Sono solo uno scienziato che improvvisamente si rende conto che queste cose stanno diventando più intelligenti di noi”, ha detto martedì Hinton al corrispondente della CNN Jake Tapper in un’intervista. “Voglio fare una specie di fischio e dire che dovremmo essere seriamente preoccupati di come impedire a queste cose di prendere il sopravvento su di noi”.

Il lavoro pionieristico di Hinton sulle reti neurali dà forma ai sistemi di intelligenza artificiale che alimentano molti dei prodotti odierni. Lunedì ha fatto notizia per aver lasciato la sua posizione in Google, dove ha lavorato per un decennio, per parlare apertamente delle sue crescenti preoccupazioni sulla tecnologia.

In un’intervista di lunedì con Il New York TimesHinton, che è stato il primo a denunciare la sua mossa, ha affermato di essere preoccupato per la capacità dell’IA di eliminare posti di lavoro e creare un mondo in cui “molti non saranno più in grado di dire cosa è giusto”. Ha anche notato il ritmo sorprendente del progresso, che è molto al di là di quanto lui e altri avevano previsto.

“Se diventasse più intelligente di noi, sarebbe molto bravo nella manipolazione perché lo avrebbe imparato da noi, e ci sono pochissimi esempi di qualcosa di più intelligente controllato da qualcosa di meno intelligente”, ha detto Hinton a Tapper. Martedì.

“Sa come codificare, quindi scoprirà come aggirare le restrizioni che le abbiamo imposto. Scoprirà come manipolare le persone affinché facciano ciò che vogliono.”

Hinton non è l’unico leader tecnologico che ha espresso apertamente le sue preoccupazioni sull’IA. Un certo numero di membri della comunità ha firmato a messaggio di marzo Chiedere ai laboratori di intelligenza artificiale di interrompere l’addestramento dei sistemi di intelligenza artificiale più potenti per almeno sei mesi, citando “profondi rischi per la società e l’umanità”.

il messaggio, pubblicato Dal Future of Life Institute, un’organizzazione senza scopo di lucro Supportato Di Elon Musk, appena due settimane dopo OpenAI annunciare GPT-4, una versione più potente della tecnologia di chatbot virale che supporta ChatGPT. Nei primi test e nella demo dell’azienda, GPT-4 è stato utilizzato per redigere azioni legali, superare test standardizzati e creare un sito Web funzionante da uno schizzo disegnato a mano.

Il co-fondatore di Apple Steve Wozniak, che è stato uno dei firmatari della lettera, è apparso su “CNN This Morning” martedì, facendo eco alle preoccupazioni sulla sua capacità di diffondere disinformazione.

“L’inganno sarà molto più facile per coloro che vogliono ingannarti”, ha detto Wozniak alla CNN. “Non stiamo apportando modifiche al riguardo, presumiamo solo che le leggi che abbiamo se ne occuperanno”.

Wozniak ha anche affermato che potrebbe essere necessaria “una sorta di organizzazione”.

Da parte sua, Hinton ha detto alla CNN di non aver firmato la petizione. “Non credo che possiamo fermare il progresso”, ha detto. “Non ho firmato la petizione che diceva che dovremmo smettere di lavorare sull’intelligenza artificiale perché se le persone in America si fermano, le persone in Cina non lo faranno”.

Ma ha ammesso che non c’era una risposta chiara su cosa fare invece.

“Non mi è chiaro se possiamo risolvere questo problema”, ha detto Hinton a Tapper. “Penso che dobbiamo impegnarci molto per pensare a come risolvere il problema. Al momento non ho una soluzione”.