Non è insolito che un nuovo prodotto tecnologico venga richiamato. I nuovi gadget promettenti non sempre funzionano perfettamente fin dall’inizio. Ma di solito ciò non accade dopo che la tecnologia in questione si è appena scontrata con un pedone e lo ha trascinato per 20 piedi dall’altra parte della strada.
Il disastroso incidente che ha bloccato le attività di Cruise, la divisione di auto senza conducente della General Motors, è il tipo di battuta d’arresto che i sostenitori dei veicoli autonomi temono da tempo. Ha il potenziale per indebolire la fiducia nella tecnologia e provocare un duro intervento normativo, ma non è necessario che riporti indietro di anni la causa dei robotaxi, a patto che Cruise e i suoi rivali agiscano rapidamente e dimostrino di aver veramente preso a cuore la lezione.
All’inizio di ottobre, una delle auto dell’azienda ha investito un pedone che era stato sbattuto sulla sua traiettoria dopo essere stato investito da un altro veicolo. L’auto della Cruise si è fermata, ma poi si è spostata di altri 20 piedi in quella che la compagnia ha descritto come una manovra di sicurezza per assicurarsi che non causasse pericoli, sempre con il pedone gravemente ferito intrappolato sotto. Le autorità della California, che hanno sospeso le licenze per operare della compagnia due settimane fa, hanno anche affermato che i dirigenti di Cruise inizialmente non avevano rivelato la seconda manovra dell’auto alle autorità di regolamentazione, anche se la compagnia lo ha negato.
Il caos ha messo in luce una serie di verità scomode sui veicoli autonomi e, per estensione, su gran parte del settore dell’intelligenza artificiale. Il primo è che il tipo di gare che scoppiano intorno alle nuove tecnologie potenzialmente in grado di cambiare il mondo creano una tensione inevitabile. Da un lato c’è la cultura della Silicon Valley di rapida implementazione di nuove tecnologie, e dall’altro il tipo di culture e processi di sicurezza che impiegano anni per evolversi nei mercati più maturi.
Negli Stati Uniti, Cruise ha gareggiato contro Tesla e Waymo, parte di Alphabet, per sviluppare servizi di robotaxi, e la società madre GM ha fissato un ambizioso obiettivo di fatturato di 1 miliardo di dollari entro il 2025. Ora ha sospeso volontariamente tutte le sue operazioni e ha promesso una revisione completa dei suoi processi di sicurezza e delle disposizioni di governance. Ciò potrebbe essere gradito, ma è avvenuto dopo che le autorità di regolamentazione della California hanno vietato alla società di operare. Cruise e i suoi rivali devono dimostrare di poter anticipare le aspettative del pubblico in materia di sicurezza, anziché semplicemente essere reattivi.
Una seconda scomoda verità è che il deep learning, la tecnologia alla base dei sistemi di intelligenza artificiale più avanzati di oggi, non è ancora abbastanza avanzato per anticipare incidenti come quello di Cruise. Potrebbe non esserlo mai. L’incidente ci ricorda che i sistemi di apprendimento supervisionato sono validi quanto lo sono i dati che sono stati inseriti in essi. E non importa quanti dati ci siano, è semplicemente impossibile addestrarli su tutto ciò che il mondo può riservargli.
Almeno Cruise è in grado di farlo usa questo incidente nella formazione futura: tutti i suoi veicoli d’ora in poi impareranno dall’esperienza. Si stima inoltre che questo particolare incidente potrebbe verificarsi solo ogni 10-100 milioni di miglia di guida. Eppure ci saranno sempre nuove situazioni mai incontrate prima.
Per riconquistare la fiducia del pubblico, Cruise e i suoi rivali dovranno dimostrare non solo che le loro auto fanno meno incidenti degli esseri umani, ma che a volte non commettono il tipo di errori gravi che un essere umano avrebbe potuto facilmente evitare. Questo è ancora un livello troppo alto per la tecnologia odierna.
Una terza questione sollevata dall’incidente riguarda la regolamentazione. Sebbene si sia discusso molto su come dovrebbe essere regolamentata l’intelligenza artificiale, si è discusso meno su chi dovrebbe effettivamente regolamentarla e su cosa dovrebbero dire i cittadini comuni e i loro rappresentanti eletti ai diversi livelli di governo su una tecnologia che potrebbe influenzare profondamente le loro vite. .
Nel caso di Cruise, l’approvazione delle autorità di regolamentazione a livello statale della California è stata sufficiente per dare ai suoi robotaxi libero accesso alle strade di San Francisco, nonostante le proteste delle autorità di trasporto pubblico, dell’ufficio del sindaco e dei gruppi che rappresentano i cittadini secondo cui i veicoli non erano stati completamente testati.
Consentire una maggiore supervisione a livello cittadino creerebbe una serie di regolamenti che renderebbero difficile la crescita delle aziende automobilistiche senza conducente. Tuttavia, le conseguenze dell’incidente della Cruise suggeriscono che l’equilibrio raggiunto in California è inadeguato.
La situazione non è persa. La risposta di Cruise è uscito direttamente dal manuale di gestione delle crisi, dalle indagini esterne che ha avviato sulla sua tecnologia e sulla gestione dell’incidente al ritiro volontario delle sue auto. Piuttosto che limitarsi a limitare i danni, è necessario convincere il mondo che si tratta di un vero punto di svolta.