Machine learning e Intelligenza artificiale: il limite di imparare dal pensiero condiviso.

Nel corso dell’ultimo anno, il mondo è rimasto a bocca aperta davanti al progresso dell’intelligenza artificiale. Dall-e oppure Midjourney sono certamente gli esempi più famosi che possiamo citare, sistemi capaci di creare immagini realistiche originali a partire da descrizioni in linguaggio naturale. 

Tecnologie che sembrano arrivare dal futuro, ma che, allo stesso tempo, stanno involontariamente rafforzando antichi stereotipi di genere. Ma come è possibile per una macchina avere pregiudizi? 

La domanda è legittima, poiché, sebbene definiamo  questi sistemi come intelligenze, non parliamo di entità effettivamente pensanti. 

La grande difficoltà che riscontrano queste tecnologie nell’essere neutrali è principalmente riconducibile a tre fattori:

• in primo luogo, questi algoritmi non sono in grado di imparare dal mondo reale, ma assimilano dati e informazioni dalla miriade di immagini e didascalie immesse ogni giorno sul Web: per farla breve, possiamo affermare che imparano dal pensiero condiviso e dagli stereotipi che questo si porta dietro. 
• In secondo luogo, va considerato che informatici e programmatori che le creano – in qualunque posto del pianeta – sono per la maggioranza uomini. Questo significa che spesso i creatori di un prodotto hanno una visione ed esperienza similare e per questo conseguentemente non rappresentativa della totalità.
• Per ultimo, ma non ultimo, il problema deriva dal boom generato da una diffusione planetaria di questi sistemi, di gran lunga più rapida del loro controllo, con conseguenti limiti e imperfezioni tecniche ancora in via di correzione.

A partire da ciò, il processo di machine learning continua a perpetuare in maniera sistematica ciò che ha appreso, amplificando, di fatto, le diseguaglianze. 

È per questo motivo che, anche se il pregiudizio è un problema sociale e non tecnico, la visione del mondo che questi sistemi restituiscono può generare gravi conseguenze nel mondo reale.

Perché da pregiudizi rischiano di diventare regole condivise: “Il rischio è che queste dinamiche, che hanno un potere decisionale sulla vita delle persone, si automatizzino si inseriscano nell’intelligenza artificiale e dunque diventino perpetue e, nel tempo, talmente opache e potenti che risulta difficile contestarle. Anche le leggi antidiscriminatorie hanno difficoltà a individuarle e colpirle” dice Ivana Bartoletti, Visiting Policy Fellow all’Università di Oxford e autrice di An Artificial Revolution: on Power, Politics and AI. 

È questa la ragione che ha spinto una realtà come GRLS, da sempre impegnata nella lotta contro il gender gap, insieme a Havas Milan, a dare vita a dicembre a una campagna per sensibilizzare la community sui bias che si nascondono dietro ai contenuti creati dall’intelligenza artificiale.

LA CAMPAGNA

Abbiamo chiesto a questo sistema di generare foto di professionisti specializzati e ruoli di potere, riscontrando come i risultati non erano propriamente rappresentativi del mondo reale e soprattutto dell’audience di riferimento, ma, appunto, del pensiero condiviso e dei suoi stereotipi. Mostrando i limiti di un modello di machine learning “addestrato” a partire dai contenuti condivisi online. Generando immagini a partire da prompt generici quali “CEO”, “Doctor”, “Lawyer”, in oltre l’80% dei casi, l’Intelligenza Artificiale generava esclusivamente figure maschili, sebbene il comando non prevedesse alcuna specificazione di genere. 

Ciò vuol dire che se interroghiamo la nostra società sulla figura che gli viene in mente pensando alla parola CEO, la risposta condivisa è: un uomo bianco di mezza età. Ma non è vero che i CEO sono solo uomini bianchi di mezza età. Ed è pericoloso rispondere in questo modo ad una query del genere.

Alcune delle immagini così create, e i dati raccolti, hanno poi dato vita ai singoli soggetti di una campagna stampa, digital e social. Una campagna che si va a inserire nel percorso intrapreso da GRLS di usare la tecnologia per creare connessioni di valore e pari opportunità, superando i pregiudizi di genere nel mondo del lavoro. Un obiettivo che si concretizza con il lancio di un’app su cui la società lavora da tempo, che è disponibile in versione beta su grls.app.

LA RICERCA

Per ogni professione, abbiamo effettuato una ricerca su un campione di 100 immagini per riscontrare la percentuale di donne e uomini presenti. Scoprendo appunto che nella stragrande maggioranza dei casi, il sistema non contempli individui di genere femminile in queste posizioni.