Il Future of Life Institute, un'organizzazione di volontari che sostiene la ricerca per la salvaguardia della vita e lo sviluppo di visioni ottimistiche per il futuro, ha presentato una lettera aperta sui rischi e sulle potenzialità dell'intelligenza artificiale (IA) che è stata firmata anche da grandi esperti, come Stephen Hawking, Elon Musk e Nick Bostrom. Altri firmatari sono professionisti del settore delle nuove tecnologie che lavorano per grandi aziende come Google, Microsoft, Facebook, IBM e tante altre. Tutti loro non chiedono il divieto della ricerca e dello sviluppo dell'IA, ma una supervisione responsabile che assicuri il funzionamento di tali sistemi per scopi benefici.
La lettera
Con questa lettera aperta sull'intelligenza artificiale, gli esperti si impegnano a coordinare in modo sicuro e con molta attenzione i progressi della tecnologia. Lo scopo è quello di assicurare che il controllo sulle tecnologie verrà mantenuto sempre dall'uomo. Ecco cosa dice la lettera:
Priorità di ricerca per un’intelligenza artificiale robusta e benefica
"La ricerca sull'intelligenza artificiale (IA) ha esplorato una varietà di problemi e di approcci sin dalla sua nascita, ma per gli ultimi 20 anni o giù di lì si è concentrata sui problemi che circondano la costruzione di agenti intelligenti - sistemi che percepiscono e agiscono in un certo ambiente. In questo contesto, l'"intelligenza" è collegata alle nozioni statistiche ed economiche di razionalità - colloquialmente, l'abilità di formulare buone decisioni, piani e deduzioni. L'adozione di rappresentazioni probabilistiche e teorico-decisionali e i metodi di apprendimento statistico hanno portato ad un elevato grado di integrazione e di fertilizzazione-incrociata tra IA, apprendimento automatico, teoria del controllo, neuroscienze e altri campi. La creazione di quadri teorici condivisi, unita alla disponibilità di dati e di potenza di elaborazione, ha fruttato notevoli successi in vari compiti come il riconoscimento vocale, la classificazione di immagini, veicoli autonomi, traduzione automatica, locomozione su gambe e sistemi di risposta-alla-domanda.
Poiché le capacità di questi e altri settori attraversano il limite dalla ricerca di laboratorio alle tecnologie economicamente preziose, prende piede un circolo vizioso per mezzo del quale anche piccoli miglioramenti in performance sono valide enormi somme di denaro, che incoraggiano investimenti nella ricerca più grandi. Vi è ora un ampio consenso sul fatto che la ricerca sull'IA stia progredendo costantemente e che il suo impatto sulla società è destinato ad aumentare. I benefici potenziali sono enormi, in quanto tutto ciò che la civiltà ha da offrire è un prodotto dell'intelligenza umana; non possiamo prevedere quello che potremmo ottenere quando questa intelligenza sarà amplificata dagli strumenti che l'IA potrà fornire, ma l'eradicazione della malattia e della povertà non è insondabile. A causa del grande potenziale dell'intelligenza artificiale, è importante per la ricerca sapere come raccogliere i benefici evitando potenziali insidie.
Il progresso della ricerca sull'IA rende opportuno concentrare non solo sul rendere l'IA più capace, ma anche sul massimizzare il beneficio sociale dell'IA. Tali considerazioni hanno motivato l'AAAI 2008-09 Presidential Panel on Long-Term AI Futures e altri progetti sugli impatti dell'IA, e hanno costituito un'espansione significativa dello stesso campo dell'IA, che fino ad oggi si è concentrata in gran parte su tecniche che sono neutrali rispetto allo scopo. Suggeriamo una ricerca ampliata volta a garantire che i sistemi di IA sempre più capaci diventino robusti e benefici: i nostri sistemi di IA devono fare ciò che vogliamo che facciano. L'allegato documento di ricerca sulle priorità fornisce molti esempi di tali direzioni di ricerca che possono aiutare a massimizzare il beneficio sociale dell'IA. Questa ricerca è necessariamente interdisciplinare, perché coinvolge sia la società sia l'IA. Si va dall'economia, il diritto, la filosofia fino alla sicurezza informatica, i metodi formali e, ovviamente, i vari rami della stessa IA.
In sintesi, riteniamo che la ricerca su come rendere i sistemi di IA robusti e benefici è importante e opportuno, e che ci sono direzioni concrete di ricerca che possono essere seguite oggi.
Elenco dei firmatari"
La risposta che aspettavamo
Questa lettera aperta dimostra come ci siano scienziati, esperti e studiosi che si preoccupano davvero del futuro dell'intelligenza artificiale. Tra questi, vi sono anche coloro che prospettavano il peggio, ovvero la fine del genere umano. Questo significa che le buone intenzioni ci sono e che le previsioni di scenari apocalittici non sono sempre frutto di interpretazioni fantascientifiche o di semplice pessimismo cronico. Provare a immaginare un futuro indesiderabile, soprattutto nell'ottica dell'intelligenza artificiale, ci può aiutare a capire quale direzione stiamo prendendo.
La lettera sembra essere stata una risposta alle recenti dichiarazioni di diversi scienziati ed esperti che hanno evidenziato la possibilità di conseguenze negative legate allo sviluppo dell'intelligenza artificiale. Di recente ho scritto un post sulla previsione di Ray Kurzweil: entro il 2029 l'intelligenza artificiale raggiungerà quella umana. E Kurzweil ne è entusiasta, perché pensa ai numerosi vantaggi che potrà ottenere l'uomo; ma, allo stesso tempo, è attento e ricorda che "la tecnologia è sempre stata un'arma a doppio taglio".
Credo che questa lettera lanci un messaggio molto importante: ci sono enormi potenzialità nello sviluppo dell'IA, ma anche dei rischi evidenti. Ne sono consapevoli gli esperti e ora ne siamo più consapevoli anche noi. Con questa lettera aperta sono stati eliminati i dubbi circa i livelli raggiungibili dall'intelligenza artificiale. O almeno gran parte di essi.
E allora dove si va?
Ok, ci sono i buoni propositi di molte grandi personalità. Ma ciò mica significa che il pericolo è scampato? No, non credo. Ci potrà essere sempre qualcuno che fa di testa sua, ci potrà essere sempre una variabile non ben calcolata o addirittura un imprevisto. La storia è ricca di questo genere di episodi. Tuttavia, questo è un passaggio significativo perché, come è stato scritto anche nella lettera aperta, l'intelligenza artificiale ricopre un ambito interdisciplinare. Dovremo tutti misurarci con essa, prima o poi.
Porsi delle domande sul futuro dell'intelligenza artificiale è giusto. Immaginare sin dove possiamo arrivare, nel bene e nel male, è giusto. Perciò dico: viva la tecnologia, la scienza e la fantascienza. E viva l'immaginazione, perché a volte anche quella, paradossalmente, ci può aiutare a comprendere meglio il nostro futuro.
Sei d'accordo?
Fonti:
futureoflife
cnet
io9
wired.itEtichette: Intelligenza Artificiale, Robot, Società, Tecnologia
