Recentemente, Bloomberg ha organizzato un incontro molto importante sull’AI che ha visto la partecipazione di figure di spicco ed esperti del settore. Tra questi vi erano Meredith Whittaker di Signal, Navrina Singh di Credo AI e Alex Hanna dell’Istituto di Ricerca sull’Intelligenza Artificiale Distribuita. Durante una tavola rotonda, i tre sono stati concordi su un punto fondamentale: non lasciarsi distrarre dalle promesse e dalle minacce legate al futuro dell’AI. L’AI non è magia, non è completamente automatizzata e, secondo Whittaker, è già invasiva più di quanto la maggior parte delle persone possa comprendere.
Aggiungo inoltre che probabilmente la situazione è la stessa anche per i cittadini di altre nazioni. In qualche modo, sembra che le persone che controllano gli algoritmi stiano già plasmando un mondo distopico, che assomiglia più al “Mondo Nuovo” di Huxley che a “1984” di Orwell. Tuttavia, suggerisco la lettura di entrambi i testi, non fa male.
Per cominciare, dovremmo considerare il fatto che c’è un esercito di persone che addestra gli algoritmi, anche se loro stessi hanno iniziato a utilizzare strumenti AI per semplificare il loro lavoro.
Uno dei problemi è che non si parla abbastanza di queste persone. Da un lato, l’AI si è costruita una narrazione basata sulla “magia” che verrebbe messa a repentaglio se si scoprisse che ci sono persone che lavorano dietro le quinte. Dall’altro lato, spesso si tratta di un lavoro invisibile e sottopagato, e per le aziende che producono i prodotti è meglio che non sia diffuso da dove provengono.
Il tema è stato introdotto da Hanna, con il sostegno di Whittaker, che ha una lunga esperienza nel campo dell’AI. Ha messo in evidenza il pericolo più immediato quando si parla di AI: un gran potere concentrato nelle mani di pochi individui che si trovano in cima alla piramide dell’intelligenza artificiale avanzata. Tutti gli altri, per la maggior parte, sono soggetti all’AI, non utenti dell’AI. Questa frase potrebbe non essere facile da capire, ma se si parla con un servizio clienti, se si richiede un finanziamento, se si stipula un’assicurazione o se si acquista un biglietto aereo, spesso il nostro successo dipende da un algoritmo. Le informazioni che gli algoritmi hanno su di noi vengono utilizzate per prendere decisioni che influenzano direttamente la nostra vita.
In sostanza, chi controlla gli algoritmi controlla le nostre vite. Si può discutere fino a che punto si è arrivati e fino a che punto si potrebbe arrivare. C’è un film italiano che ha affrontato l’argomento, anche se non è un capolavoro, lo consiglio per il suo approccio diverso ma efficace rispetto ad altre opere famose: “E noi come stronzi rimanemmo a guardare” (disponibile su Sky e SkyNow).
In tutto ciò, i capi delle aziende AI sembrano non essere molto propensi ad affrontare queste questioni. Ormai sono numerosi i dipendenti che sono stati licenziati o si sono dimessi perché volevano affrontare questioni etiche.
Uno dei modi per comprendere cosa sia veramente l’AI è considerare una realtà concreta: oggi, i potenti algoritmi esistenti sono tecnologie di sorveglianza. Whittaker ha sottolineato che l’AI richiede una sorveglianza sotto forma di enormi set di dati che aumentano sempre di più, ampliando la necessità di una raccolta sempre più intima. Questa soluzione si basa su dati e conoscenze condivise nelle mani di queste aziende. Tuttavia, questi sistemi sono anche utilizzati come strumenti di sorveglianza. È importante riconoscere che non importa se l’output di un sistema di intelligenza artificiale è prodotto attraverso una stima statistica probabilistica o se i dati provengono da un ripetitore che triangola la nostra posizione. Questi dati si riferiscono a noi e possono influire significativamente sulla nostra vita, mettendo tutto nelle mani di queste aziende.
L’intelligenza artificiale ci sta portando verso un mondo distopico
L’incontro organizzato da Bloomberg ha coinvolto alcuni esperti di intelligenza artificiale (AI) e ha evidenziato che l’AI non è magica, completamente automatizzata e già invasiva nella vita quotidiana. Le persone che controllano gli algoritmi stanno plasmando un mondo distopico e stanno acquisendo molto potere. Ciò accade perché ci sono molte persone addestrate ad utilizzare gli algoritmi, ma le loro condizioni di lavoro sono spesso invisibili e sottopagate. I leader delle aziende di AI spesso evitano di affrontare le questioni etiche associate a questa tecnologia. Inoltre, l’AI rappresenta una forma di sorveglianza che raccolta dati sui cittadini e influenza le loro vite. L’IA sta cambiando gli equilibri di potere e rende i cittadini più vulnerabili. È importante preoccuparsi di questi temi prima che sia troppo tardi. L’IA e la crisi climatica sono le due principali sfide che dobbiamo affrontare e potrebbero essere legate in modo da risolvere reciprocamente.
