Making AI fair | Osonde Osoba | TEDxManhattanBeach

così quando ero un adolescente cresciuto in
Nigeria
Non stavo dirigendo video musicali che ho fatto
lo stile però per costruire un artificiale
intelligenza so che lo so
Stavo prendendo l’informatica e la logica
corsi presso l’università locale ed io
pensato che sarebbe stato facile essere un 15 anni
vecchio per creare un’IA che potrebbe
ragione e discuto logicamente che ero
ispirato dagli stessi sogni all’inizio
pionieri dell’intelligenza artificiale avevano
che potremmo creare questo super
mente e intelligenza di pura logica e
obiettività e che questa super mente
sarebbe privo di tratti tratti umani
come la soggettività e il pregiudizio che stavo lavorando
con la nostra guida con davvero molto vecchio
computer e con elettricità irregolare
se sei stato in Nigeria potresti saperlo
di cosa si tratta?
quindi diciamo che ero meno di
ho comunque continuato a studiare
negli Stati Uniti e fai molto di più
ricerca come ingegnere su artificiale
l’intelligenza intorno al 2013 mi è stato ricordato
dei miei sogni di IA oggettiva quando io
sentito parlare di un professore di Harvard
esperimenti
Latanya Sweeney presso l’Università di
L’università di Harvard stava esplorando come
il motore di ricerca è cambiato quando guardi
su diversi tipi di nomi quando lei
cercò nomi più predittivi dell’essere
nero ha ottenuto annunci per la giustizia criminale
Servizi
quindi avrebbe cercato nomi come DeSean o
anche Latonya e lei ottiene annunci come ha
DeSean è stato arrestato non è divertente ma
è un po ‘buffo hai bisogno di una cauzione
schiavo quando cercava i nomi meno
predittivo di essere nero, quindi nomi come
Jeffrey o Emma non tanto alla fine
ha calcolato che il nero identifica i nomi
vale il 25% in più di probabilità di generare annunci
suggerimento che la persona ha avuto un arresto
registrare anche quando non lo facevano tranne questi
possono essere gli algoritmi che servono gli annunci
gli algoritmi possono essere pregiudicati possono un pezzo di
il software è razzista può essere sessista
gli algoritmi di apprendimento sono ricette per
insegnare AI come apprendere l’IA moderna
impara consumando grandi quantità di dati
imparano individuando nascosto
correlazioni e modelli che gli esseri umani
non riesco a vedere che imparano applicando
equazioni matematiche neutrali ma più
i ricercatori hanno guardato più loro
trovato esempi di artificiali
sistemi di intelligence che producono
risultati significativamente distorti e di
pregiudizio intendiamo generalmente violazioni di
norme etiche o sociali per esempio a
recente studio ha trovato che i motori di ricerca
mostra più annunci per lavori più remunerativi a
sono stati anche gli uomini che le donne
c’è stato un recente studio l’anno scorso
mostrando un ampio pregiudizio negli algoritmi
usato nel sistema di giustizia penale così
solo usando l’intelligenza artificiale non si elimina il pregiudizio
il processo decisionale ma come esattamente fanno questi
i pregiudizi entrano nei nostri algoritmi nel
primo luogo moderna intelligenza artificiale è solo buono come
i dati su cui è addestrata l’IA mangiano
e elabora i dati e usa i modelli
trova nei dati per fare futuro
le decisioni ora potrebbero essere queste decisioni
così banale come distinguere tra
gatti contro cani o potrebbero essere
estremamente importante una compagnia di assicurazioni
potrebbe usare l’intelligenza artificiale per
aiuta a decidere chi è assicurabile contro
chi non è assicurabile considera il caso
di un’intelligenza artificiale che prova a
trova le migliori infermiere se decidiamo di farlo
alimentare questo sistema di formazione stereotipata
i dati quindi sono costituiti principalmente da donne
profili infermieristici quindi le probabilità sono le
sistema giudicherebbe in modo più competente
candidati femminili futuri come accoppiamenti migliori
a meno che non sia attentamente progettato per non farlo
quindi il sistema non è intrinsecamente
sessista sta semplicemente imparando i pregiudizi
presente nei nostri dati e applicandoli
più coerentemente nel futuro ora
occasionalmente AI sviluppa un caso su cosa
potremmo chiamare il nostro intossicazione alimentare
quando IBM stava scambiando la futura IA
loro campione di Wackon che avevano
per nutrire grandi quantità di dati e Watson
poi qualcuno ha deciso che potrebbe essere un bene
idea di alimentare Watson il dizionario urbano
quindi dopo aver ingerito tutto ciò è solo un
dati colorati Watson ha sviluppato un po ‘
un po ‘di abitudine di giuramento
ha iniziato inserendo i nostri quattro ponderati
lettere nelle sue risposte ora
personalmente mi sarebbe piaciuto guardare
quella versione di Watson su Jeopardy ma
la morale qui è che dobbiamo stare attenti
ciò che alimentiamo i nostri algoritmi sulla nostra IA
e se n è IA non sta andando via
AI già stabilito è quello che si vede su
il tuo feed Twitter
cosa potresti voler vedere da solo
su Netflix che potresti voler datare
e continuerà a fare di più e
più di queste decisioni in futuro
perché la quantità di dati che abbiamo e
creiamo è vasto e mantiene semplicemente
crescente intelligenza artificiale e
gli algoritmi presentano l’ unica via percorribile
di dare un senso a tanti dati così se
vuoi una migliore diagnosi medica se tu
vuoi meno incidenti o se vuoi
migliorare la qualità della vita umana e
prevenire sofferenze inutili di più
in genere si sta andando ad avere bisogno di AI
sistemi in grado di imparare ad affrontare rapidamente
problemi complicati e fare o informare
decisioni difficili ma vogliamo anche queste
i sistemi per giocare in modo giusto è fantastico loro
iniziare a ottenere dietro o almeno scartare
questa illusione che è l’ era moderna di AI
oggettivo o infallibile soprattutto ora
come l’AI è in ascesa e tutti noi possiamo ottenere
dietro questa idea che non vogliamo l’intelligenza artificiale
prendere decisioni contrarie a
i nostri valori ma in che modo esattamente insegniamo
intelligenza artificiale per rispettare
norme sociali o etici e chi può
decidere quali norme decidere
ciò che è giusto per me questi sono affascinanti
domande e ricercatori hanno iniziato
guardando alcuni approcci per affrontare
queste domande così prima potremmo
rivelare ai consumatori quando sta facendo AI
decisioni che li riguardano
regolamento governativo dall’alto verso il basso non può
essere desiderabile o addirittura fattibile o
efficace
come un modo per affrontare in polarizzazione algoritmi
rendere i consumatori consapevoli è facile prima
questo passo ci rende anche più consapevoli di a
mille piccoli modi in cui artificiale
l’intelligenza influisce sulle nostre vite e altro ancora
consapevole delle nostre scelte in quanto consumatori di
servizi che si basano su automatizzati
decisioni seconde che potremmo creare
processi per i consumatori di fare appello
decisioni automatiche sarebbero attraenti
per gli umani, naturalmente, terzo che potremmo avere
più supervisione umana quando artificiale
l’intelligence sta prendendo decisioni in
domini ad alto rischio questo include domini
come la difesa o la giustizia criminale
sistema questi sono soluzioni politiche
finora ci sono un paio di tecnici
correzioni nei lavori, ad esempio, abbiamo
stato esplorando modi di fare modelli di intelligenza artificiale
più trasparente altro più osservabile
i ricercatori hanno esplorato
esplorare modi per creare modelli di intelligenza artificiale
spiegare ancora le decisioni l’idea dietro
questi si avvicina a questi tecnici
approcci è quello di creare una scia di
pangrattato in modo che possiamo seguire il
scia di omi chiamato intermedio
inferenze in avanti dagli ingressi tutti
la strada verso le decisioni finali
in pratica mostra il tuo lavoro o possiamo
segui le decisioni che il percorso fa all’indietro
dalle decisioni fino in fondo
cause sottostanti o motivi questi
soluzioni che ci aiutano a vedere dove è il pregiudizio di IA
esiste ma non sempre li risolvono
e più fondamentalmente non ottieni il
questione più fondamentale di cosa
si qualifica come pregiudizio in domini specifici come
un ingegnere possiedo pienamente la mia tendenza a
pensare o concentrarsi su tecnico
virtuosismo come modo di affrontare e
risolvi i problemi proprio mentre provo a fare come a
adolescente fino allora
ma non sono convinto che possiamo solo
ingegnere la nostra via d’uscita da questo particolare
problema perché il problema è meno
riguardo alla tecnologia AI, si tratta di più
tutto il contesto sociale e culturale in
che applichiamo la tecnologia al
momento in cui AI è stato applicato nei campi
tanto diverso quanto la criminologia della legge sulla medicina
e persino l’educazione in ognuno di questi campi
avere norme diverse etica diversa e
L’intelligenza artificiale è come un bambino molto intelligente che non lo è
sempre chiaro sul suo contesto
le decisioni per esempio in molti lo dicono
è perfettamente legale di discriminare su
la base delle caratteristiche demografiche
quando stai impostando i tassi di assicurazione auto
i conducenti giovani e maschi tendono ad essere
più rischioso per assicurare almeno così mi è stato detto
ma la capacità di calibrare questo tipo
del rischio è fondamentale per l’assicurazione sulla
Dall’altra parte è illegale discriminare
sulla base di dati demografici
caratteristiche quando stai emettendo
contesto di ipoteche determina il
le norme e gli ingegneri pertinenti non possono
insegnare sempre AI come dovrebbe comportarsi
in ogni singola applicazione che dobbiamo
lavorare più vicino con gli scienziati sociali così
avvocati economisti antropologi
linguista e posso dirti da
esperienza personale lavorando su questi
diversi campi è difficile ci alleniamo
in modo diverso e questo non è uno scherzo noi
parla davvero lingue diverse a
il mio giorno di lavoro presso la società di rango noi
prova ad usare come esempio che proviamo ad usare
modelli di intelligenza artificiale da studiare
comportamenti sui social network questo
include comportamenti come la radicalizzazione
polarizzazione politica e persino
cyberbullismo che cosa potresti considerare
equo o normativo in nessuno di questi
le applicazioni dipenderanno da ciò che sei
concentrato su se ti sei concentrato
radicalizzazione quindi potresti non pensare
è giusto che trattiamo tutti
opinione espressa sui social media
esattamente allo stesso modo ecco il punto cruciale del
problema che abbiamo creato artificiale
l’intelligenza nella nostra immagine e questa
non è un complimento
AI per riflettere facilmente le carenze umane
che trova nella nostra i flussi di dati che
amplifica i nostri difetti che prenderà
l’intera gamma di intelligenza umana a
correggere per questi per le carenze
ma se vuoi costruire una migliore equità
società abbiamo bisogno di sistemi IA
riflettere e amplificare le parti migliori di
la nostra natura grazie