Nessuna sorpresa, Uber stessa se lo aspettava: «Sarebbe ingenuo pensare che non ci saranno incidenti» aveva detto poche settimane fa a PanoramaRaquel Urtasun, la scienziata che sta scrivendo il software dell’auto che si guida da sola per la società di ride sharing. E non era una previsione lugubre di quanto successo in Arizona, dove un pedone, una donna di 49 anni, è stata travolta e uccisa. Semplicemente, quelle parole erano una contestazione dell’ovvio: le strade sono un luogo imprevedibile per chiunque. Persino per un computer. Persino se a governarlo c’è un uomo, chiamato a intervenire in una manciata di attimi. Troppo poco per essere efficace, come ha confermato l’episodio in Arizona, per il quale Uber sarebbe incolpevole: la donna è spuntata dalle tenebre all'ultimo momento. Nessuno, né un robot, né un conducente in carne e ossa, sarebbe stato in grado di schivarla. Parola della polizia. Di più: «Nel complesso» aveva aggiunto Urtasun «gli incidenti diminuiranno tanto. Il problema è che gli uomini non sono bravi a trarre conclusioni a partire dai dati, in questo i computer sono molto meglio».
Questione di controllo
Traducendo, l’invito della scienziata era quello di non farsi travolgere dall’emotività di fronte a casi del genere, di mantenere freddezza e distacco considerando un calcolo: a regime, le vetture senza pilota cancelleranno fino al 90 per cento delle vittime dell’asfalto, oggi intorno a 1,3 milioni l’anno. Salveranno, come minimo, oltre 1 milione di persone ogni dodici mesi. Eppure, non è così semplice. Non così automatico. Non è solo questione di consegnarsi alle promesse della matematica, di capacità di sopportare un costo di fronte alla rassicurazione di un beneficio: «Questo incidente è la prova che la tecnologia di cui stiamo parlando è in evoluzione e non è necessariamente pronta per la strada» ha detto Bryan Reimer del MIT di Boston. Né è detto che pedoni e altri automobilisti siano disposti a fare inconsapevolmente da cavie da laboratorio, da bersagli mobili, mentre costruttori e colossi dell’hi-tech perfezionano i neuroni dei velivoli robot.
Come l'auto di Uber percepisce i dintorniUber
Maturità cercasi
Innegabile è che siamo di fronte a una tecnologia giovane, che alle spalle, a voler includere i prodromi più rozzi, ha sì e no dieci anni. Troppo poco per essere considerata solida: «Deve fare ancora molta strada per essere reputata davvero sicura per passeggeri, pedoni e guidatori» ha tuonato sul New York Times il senatore democratico Richard Blumenthal. E il suo, in fondo, non è solo un discorso di facile presa sulle masse. I pc vanno in crash, gli smartphone si bloccano, gli automi si confondono, le auto senza pilota sbagliano a pilotare. La fallibilità è nella nostra natura ed è in quella delle macchine. La domanda è se sia giusto che, per ora, non operino in atmosfere chiuse, circondate da manichini e non esseri umani. Se Arizona, California e dintorni non siano stati troppo pionieri, troppo libertari a dare il via libera alla sperimentazione quando ancora lo storico di chilometri è lieve, quando manca ancora quel 5G che dovrebbe dopare i neuroni dei computer di bordo rendendoli iperconnessi e dunque meglio performanti.
Cosa vede l'auto è mostrato da Uber su un iPad posto sul retroUber
L’errore in agguato
Non c’è una risposta giusta (se non di pancia), soprattutto se si guarda una tabella pubblicata da Bloomberg. Che avalla il contrario. Su 353 miglia guidate in automatico da Waymo (società di Google), l’uomo che sorvegliava dietro il volante è dovuto intervenire 63 volte; sulle 131 mila di GM Cruise, per 105; su 5 mila di Nissan, già 24. È puro machine learning. «The further driverless cars travel, the better they get» ripetono gli esperti. Più chilometri le macchine percorrono e soprattutto più casi impensabili accumulano – Urtasun ci raccontava l’incontro a un incrocio con un uomo vestito da Spider-Man che sfrecciava a bordo di uno skaterboard – più imparano a conoscere la nostra imprevedibilità. E a regolarsi di conseguenza. Se li lasciamo chiuse in un recinto clinicamente controllato, se le vacciniamo dalla realtà, non ne svilupperanno mai gli anticorpi.
Il dilemma dell’auto killer prigioniera
L'episodio in Arizona alimenta una certezza: «Le macchine robot non possono predire accuratamente il comportamento umano» ribadisce John Simpson, responsabile dell’organizzazione dei consumatori americana Consumer Watchdog. «La tecnologia non è pronta per questo». Siamo davanti a un mix fatale, a un incrocio intricatissimo: la scarsa maturità del cervello di chip e le derive irrazionali, impronosticabili del nostro. È questo il vero, primario lato oscuro dell’auto che si guida da sola. L’ostacolo principale alla sua diffusione. Il dubbio è cosa fare: fermare tutto, imprigionando per chissà quanto i veicoli in aree sterili ma privi delle variabili della vita quotidiana (di fatto rimandando il problema) o proseguire, accettando l’ovvietà, l’inevitabilità di altri episodi come quello in Arizona. Sacrificando una fetta di sicurezza oggi, in vista di una più grande domani. Il grande fisico e premio Nobel Max Planck non avrebbe avuto dubbi: «La scienza» scriveva «avanza un funerale alla volta». Noi riusciremo a essere d’accordo con lui?
