Utilizziamo i cookie sui nostri siti web. Le informazioni sui cookie e su come è possibile opporsi al loro utilizzo in qualsiasi momento o terminarne l'uso sono disponibili nella nostra Informativa sulla privacy.
L'intelligenza artificiale soffre di una grossa crisi di diversità
Applicazioni AI 3 min per leggere Nessun commento

L'intelligenza artificiale soffre di una grossa crisi di diversità

AI Now, un istituto di ricerca che esamina l'impatto sociale dell'intelligenza artificiale, ha appena pubblicato uno studio in cui diagnostica una vera e propria "crisi della diversità" nell'AI. Con questa diagnosi, lo studio affronta questioni che probabilmente non ci eravamo posti prima pensando allo sviluppo di queste nuove tecnologie.

Lo studio stesso si chiama "Disciminating Systems" ed è disponibile per la lettura nella sua versione originale in inglese a questo link. Secondo i risultati ottenuti, sono state segnalate diverse lacune o carenze nel campo dell'intelligenza artificiale. Vediamo quali:

Crisi della diversità di genere e razza

"La disuguaglianza nell'industria dell'IA è estrema". L'80% di chi "addestra" l'AI sono uomini, e solo il 18% sono donne. All'interno del dipartimento di ricerca sull'intelligenza artificiale di Facebook, solo il 15% sono donne, mentre la percentuale raggiunge il 10% all'interno dello stesso settore per quanto riguarda Google. Parlando invece di colore della pelle, la situazione è ancora peggiore. Ad esempio: solo il 2,5% di chi lavora in Google non sono bianchi, mentre in Facebook e Microsoft il dato raggiunge il 4%. Nonostante si sia lavorato per decenni per invertire questo tipo di disuguaglianza, la situazione è ancora oggi allarmante.

AndroidPIT 16 9 shutterstock 622521101
L'industria dell'IA è ampiamente dominata dal maschio bianco. / © AndroidPIT

Naturalmente, la relazione formula una serie di suggerimenti per migliorare lo stato attuale. Ad esempio: le imprese potrebbero migliorare la loro trasparenza pubblicando vari rapporti sul proprio lavoro e remunerazione, suddivisa per razza e sesso.

Nonostante l'esposizione di questi suggerimenti, l'approccio rimane particolarmente astratto nonostante offra conseguenze molto chiare nella vita e nell'uso quotidiano delle varie tecnologie. Ad esempio, il dominio del maschio bianco può influenzare i risultati del riconoscimento facciale, ad esempio i software per indovinare l'orientamento sessuale delle persone, un esperimento condotto dai ricercatori della Stanford University.

Molti lavoratori dell'industria tecnologica si sono alzati per segnalare gravi problemi nello sviluppo dell'AI, spingendo le aziende in cui lavorano a sospendere o rivedere l'uso di strumenti che potrebbero danneggiare gruppi vulnerabili o minoritari. I dipendenti di Amazon hanno interrogato i manager sull'uso del riconoscimento facciale da parte dell'azienda e, più recentemente, i dipendenti Google si sono schierati contro un comitato di supervisione etica dell'AI che comprendeva il presidente della Heritage Foundation, un gruppo noto per le attività di lobbying contro i diritti delle LGBT+. In risposta, la società ha sciolto completamente il consiglio di amministrazione.

Gli autori dello studio concludono così: "La crisi della diversità nel campo dell'AI è ben documentata e di portata molto ampia", e continuano: "I sintomi possono essere visti nella disparità dei posti di lavoro nell'industria e nel mondo accademico, nella disuguaglianza delle offerte di lavoro e delle promozioni, nelle tecnologie dell'intelligenza artificiale che riflettono e diffondono stereotipi pregiudiziari e nella rinascita del determinismo biologico nei sistemi automatizzati".

Qual è la vostra opinione al riguardo? Qualcuno di voi ha vissuto o ha assistito ad un caso di discriminazione da parte di un sistema basato sull'intelligenza artificiale?

Fonte: The Verge

Nessun commento

Commenta la notizia:
Tutte le modifiche verranno salvate. Nessuna bozza verrà salvata durante la modifica
Commenta la notizia:
Tutte le modifiche verranno salvate. Nessuna bozza verrà salvata durante la modifica