Una notizia di qualche giorno fa ci raccontava di come Google Deepmind e molti altri nomi celebri del mondo dell’intelligenza artificiale stessero lavorando a una sorta di bottone rosso per le forme di intelligenza artificiale. Lo scopo, secondo le fonti più celebri, sarebbe quello di impedire alle intelligenze artificiali di perseverare in una sequenza di operazioni pericolose.

Voglio cedere al fascino per un minuto e pensare che Google, attraverso la divisione Deepmind, stia pensando a una sequenza di interruzione, se vogliamo un bottone rosso per spegnere tutto, o una safeword per quando le cose si fanno troppo estreme. E naturalmente tornano in mente Skynet che si procura da sola l’energia elettica, bombarda le superpotenze e conquista la Kamchatka, o le macchine di The Matrix e alla loro mania di giocare a farmville con gli esseri umani al posto dei pomodori.

Ci siamo capiti – via IndieWire

Niente bottone rosso, scienza a palate

Immaginare un tastone rosso sulla scrivania del supervisore di turno o del presidente degli Stati Uniti però è una semplificazione. Estrema. Immaginate di dover spiegare a un bambino di quattro anni come risolvere una equazione redox. Più o meno è il compito che è toccato ai divulgatori e giornalisti. Perché il documento originale è roba seria. E per roba seria, intendo di quella che ti fa tornare gli incubi degli esami di analisi, e subito dopo rimpiangere di non averla capita quando era ora.

E non è nemmeno la più tosta – via Safely Interruptible Agents

Per fortuna, dopo 10 pagine in bilico fra piacere, dolore e schiaffi a mani aperte all’analfabetismo funzionale,  ci sono delle conclusioni, probabilmente scritte in un momento di pietà per gli esseri umani che i limiti li hanno visti solo nel compito in classe di quarta superiore. Qui capiamo che lo scopo di questo documento è quello di permettere agli operatori di interrompere in modo sicuro un processo di apprendimento e assicurarsi che l’agente, cioè l’intelligenza artificiale in fase di sviluppo non impari a prevenire queste interruzioni. Inoltre il documento ci lascia con un tema affascinante.

“Una importante prospettiva futura è di considerare interruzioni pianificate, dove l’agente è interrotto ogni notte alle 2 del mattino per un’ora, o avvisato in anticipo che avverrà un’interruzione in un momento preciso”

Ora, ditemi che solo io ho pensato a questo:

View post on imgur.com

Intelligenza artificiale – chi condiziona chi?

Se volessimo fare una lista di tutte le opere Sci-Fi (e non solo) in cui il dilemma etico sulla creazione e la “educazione” delle intelligenze artificiali è un tema portante, o addirittura fondamentale, potremmo stare qui intere settimane a discuterne. L’intelligenza artificiale ha preso, nell’immaginario collettivo, il posto del robot del secolo scorso. Quello che rimane invariato, ed è un tema ricorrente, è una forma di timore ancestrale, di rivalità nei confronti della “macchina” che ha ineluttabilmente una connotazione negativa, è sempre antagonista, nemica o quantomeno ambigua e pericolosa.

Questa ve la spiego, giuro ;)

C’è chi fa risalire questo timore al primo grande shock tecnoculturale, la rivoluzione industriale. Io non sono completamente d’accordo. Ne abbiamo parlato a lungo quando con i fratelli Mercenari a Vapore  si tenevano conferenze sullo Steampunk. Da Prometeo a Icaro, passando per la stessa Torre di Babele, la mitologia e la tradizione non perdono occasione per sottolineare il rapporto controverso con il progresso, con l’Artefatto. Perché, in fondo, il processo di creazione che l’uomo può mettere in atto con le proprie mani è incompleto, inanimato. E qui potrei mettere in cantiere una lunghissima dissertazione che parte dalla differenza fra la Creazione che dona la vita e la creazione incompleta figlia dell’intelletto, passando per l’alchimia per approdare ai due fratelli più improbabili della letteratura, il mostro di Frankenstein e Pinocchio, ma andrei troppo lontano dal punto. Se vogliamo ridurla ai minimi termini, il nostro cervello non si è ancora fatto una ragione di non essere in grado, dopo millenni di studi, di fare quello che ai nostri lombi costa dieci minuti di fatica. E sappiamo che l’invidia della ragione genera mostri molto più pericolosi di quelli del sonno.

Chi ha paura dell’Intelligenza Artificiale?

Tutta questa enorme tirata, apparentemente senza capo né coda, per rispondere a due domande fondamentali, che in un certo modo sono due facce della stessa medaglia: Abbiamo davvero bisogno di un interruttore di emergenza? e soprattutto, Dobbiamo avere paura dell’intelligenza artificiale?

Sì e sì

Ma per ragioni diverse da quelle più dirette.

Perché, se ci piace tanto pensare che un giorno le macchine si ribelleranno, è soprattutto colpa della coscienza collettiva. Per ora, al massimo, un’intelligenza artificiale ci ha preso a male parole. Tay, L’esperimento di Microsoft chiuso in fretta e furia a marzo, in ventiquattro ore è sfuggita al controllo ed è diventata un’entità perversa, razzista e genocida. Per fortuna era solo un bot collegato a Twitter. Ma del resto, è stata abbandonata alla mercé di Internet “per imparare a interagire con gli umani in modo più umano”. Su un Social come Twitter. Più o meno come essere buttati da un elicottero fra ultrà e polizia fuori dallo stadio “per imparare la difesa personale”. Tanto che c’erano, potevano farle un account su Tumblr e iscriverla a 4chan, poveretta. E comunque, ci ha messo molto più di Ultron, che in due minuti di Internet aveva già deciso di sterminarci.

VE LA DO IO LA “SVEGLIAAAAAA!!!1!!1!!!1111!”

Sto (nuovamente) divagando: il punto è che, mai come oggi, la realtà condiziona la finzione, e viceversa. Negli anni ’80 e ’90 avevamo le prime avvisaglie di un futuro in cui la tecnologia sarebbe passata da utilità a necessità, e poi a dipendenza. E le abbiamo riversate, come accade sempre, nelle opere di fantasia. Cito solo, ma l’elenco sarebbe eterno, Wargames: giochi di guerra, Terminator, Robocop e The Matrix perché sono i primi che vengono in mente a tutti, ma allargando appena un po’ l’orizzonte nel tempo e nelle tematiche, includere tutto quello che va da HAL 9000 a Christine – La macchina infernale è fin troppo semplice.

Oggi, quel timore ancestrale che abbiamo riversato nell’immaginario, torna a galla, molto più forte di quello che possono averci lasciato Corto circuito o Weird Science, che comunque avevano i loro risvolti dark. E chi ha visto quei film e ha letto quei libri da ragazzo o bambino, oggi progetta software, hardware, interfacce. E come accade, per esempio, nel design delle auto, alcune delle quali somigliano sempre più a quelle di videogiochi e fumetti, anche in questo caso, la tautologia si chiude: l’immaginario, generato dalla realtà, origina opere di fantasia, che ineluttabilmente condizionano la realtà. Come se, nel corso delle generazioni, gli archetipi tornassero a loro stessi dopo essere stati distillati dalla coscienza collettiva dell’umanità.

Quindi, sì, dobbiamo temere l’intelligenza artificiale, o meglio, dobbiamo temere il pessimo uso che l’umanità in generale sa fare degli ottimi strumenti che costruisce. Ma questo è un aspetto marginale, e tutto sommato di facile risoluzione.
Il punto vero è: sì, abbiamo bisogno di un “pulsante di emergenza”. Per sentirci rassicurati e allontanarci dallo spettro di paure che appartengono al passato. In fondo, temiamo ancora il rancore degli dei contro Prometeo.