Abstract
Il progetto EquAl si occupa di decisioni e previsioni algoritmiche per promuovere l'equità e contrastare la discriminazione. Il progetto mira a fornire una comprensione interdisciplinare dell'iniquità e della discriminazione algoritmica, collegando le scienze sociali, il diritto, la statistica e i concetti di intelligenza artificiale. Identificherà come l'iniquità algoritmica ha origine e si diffonde, in particolare quando conduce a discriminazioni vietate. Inoltre, EquAl analizzerà come la legge attuale affronta la discriminazione algoritmica, proporrà misure per aggiornare il quadro normativo ed esaminerà come la tecnologia possa promuovere l'equità, con specifico riferimento alla valutazione delle richieste di asilo. Identificando l'iniquità algoritmica, EquAl contribuirà a prevenire danni a individui e gruppi e a sostenere l'implementazione legale dell'IA. Il progetto si basa sulla rapida crescita dell'applicazione dell'IA per previsioni, valutazioni e processi decisionali. Sebbene gli approcci algoritmici possano aumentare l'equità e l'efficienza, possono anche portare a forme di discriminazione sottili e opache. EquAl mira a far progredire la ricerca giuridica italiana fornendo nuove intuizioni sul processo decisionale algoritmico, sviluppando nuovi metodi per rilevare l'iniquità e proteggere gli individui vulnerabili, fornendo orientamenti etici e legali e sostenendo enti pubblici e ONG, in particolare nell'esame delle domande di asilo. 1. Stato dell'Arte Con la crescita dell'uso dell'apprendimento automatico (ML) nei processi decisionali, sono aumentate anche le preoccupazioni relative all'equità. I trattamenti differenziati possono essere valutati da tre prospettive. Dal punto di vista dell'informatica, l'equità è valutata rispetto a proprietà matematiche (ad es. parità statistica, uguaglianza di opportunità). In statistica, il "bias" si riferisce a un disallineamento tra i dati di un sistema e la realtà sociale, non necessariamente a un pregiudizio. Da una prospettiva etica, le critiche riguardano la legittimità di trattare gli individui in modo diverso in ambiti come l'istruzione o la giustizia penale, nonché questioni procedurali come l'opacità e la difficoltà di contestare le decisioni. Infine, da un punto di vista legale, i risultati dell'apprendimento automatico sono valutati secondo le leggi anti-discriminazione. La discriminazione diretta è rara; il risultato di un sistema ha spesso un impatto discriminatorio sproporzionato su gruppi protetti senza una giustificazione adeguata. La triangolazione tra questi campi non è ancora adeguatamente inquadrata. È necessario un approccio interdisciplinare, poiché i fattori umani e tecnologici creano risultati iniqui. I sistemi addestrati su giudizi umani passati possono riprodurre pregiudizi esistenti, principalmente quando esiste una correlazione tra le caratteristiche discriminatorie e i predittori utilizzati. 2.1 Obiettivi EquAl mira a fornire un quadro interdisciplinare per affrontare l'iniquità e la discriminazione algoritmica. L'obiettivo socio-tecnico primario è analizzare i metodi, i contesti e le implementazioni del processo decisionale automatizzato per identificare le fonti di iniquità, raccogliendo casi di discriminazione algoritmica e identificandone la fonte, l'impatto e i rimedi. L'obiettivo concettuale è quello di collegare i concetti di equità e discriminazione provenienti da statistica, scienze sociali, diritto e IA, includendo sia l'equità sostanziale che quella procedurale. L'obiettivo legale è analizzare come la legge affronta l'iniquità algoritmica e proporre aggiornamenti attraverso un'analisi sistematica dei quadri giuridici nell'UE e in altre giurisdizioni chiave, promuovendo i valori giuridici europei. Infine, l'obiettivo giuridico- informatico è studiare e sviluppare metodi algoritmici per identificare e rimediare all'iniquità, esaminando le domande di asilo come caso di studio per determi
Project details
Unibo Team Leader: Francesca Lagioia
Unibo involved Department/s:
Dipartimento di Scienze Giuridiche
Coordinator:
ALMA MATER STUDIORUM - Università di Bologna(Italy)
Total Eu Contribution: Euro (EUR) 224.941,00
Total Unibo Contribution: Euro (EUR) 98.730,00
Project Duration in months: 24
Start Date:
28/09/2023
End Date:
28/02/2026
