Why We Need A New, Algorithmic Social Contract | Iyad Rahwan | TEDxCambridgeSalon

[Applausi]
oggi voglio parlare di qualcosa
è stato nelle notizie quasi tutti i giorni
probabilmente più volte ed è
intelligenza artificiale o intelligenza artificiale così sono
intenzione di usare questo piccolo cartone animato che io
ho disegnato un piccolo robot che userò
questo ragazzo per rappresentare un’IA che sarebbe
un robot o un’auto senza conducente o solo un an
algoritmo in esecuzione da qualche parte in fase di allocazione
risorse e ho intenzione di chiedere il
domanda su come gestiamo il
sfide che vengono con questo
la tecnologia così da una parte promette un AI
molti vantaggi da meglio
raccomandazioni per ristoranti e
film e anche partner romantici a
auto più sicure per un medico più accurato
diagnosi e un sacco di altri
benefici ma ne sollevo anche molti
sfide che la gente sta parlando
molto spesso nei media da
algoritmi che filtrano le notizie che ci mettono
in bolle di filtro per abbinare ingiusto
mercati alla disoccupazione di massa, naturalmente
e un sacco di altre sfide così
come bilanciamo i benefici e il
rischia ora un’idea che è comunemente
discusso è che abbiamo sempre bisogno di un essere umano
nel ciclo di questi sistemi così sarebbe
simile a questa
hai un’intelligenza artificiale che sta eseguendo a
la funzione diciamo che sta volando un aereo
hai sempre bisogno di mettere un umano in
loop come un capitano nella cabina di guida e
questa persona si assicurerebbe che il sistema
si comporta in conformità con i nostri piani e
desideri e inoltre è in grado di intervenire in
caso qualcosa va storto e forse di più
è importante avere qualcuno da incolpare
qualcosa va storto ora è interessante
cosa da notare su questa immagine è
che tutti qui hanno lo stesso obiettivo
quindi la maggior parte dei passeggeri mi piacerebbe sperare
richiede forse di andare da A a B in sicurezza
ci sono eccezioni ma in molti casi
i nostri sistemi con
eseguire funzioni in cui ci sono
più obiettivi e questi obiettivi potrebbero essere in
conflitto quindi qualcuno potrebbe essere interessato
in tutta onestà così un’altra persona se ne frega di più
sull’efficienza e ancora un’altra persona
si preoccupa di più sulla sicurezza e su questi obiettivi
potrebbe non essere simultaneamente raggiungibile per
qualunque sia la ragione ora , come possiamo essere d’accordo?
su questi obiettivi prima di dirlo al
Macchina cosa fare e avere il
l’intervento umano-in-the-loop così è
meno come un essere umano nella sfida del ciclo
e più come una società nel circuito
sfida per cui la società nel ciclo
qui intendo umano nel ciclo più a
contratto sociale tra le parti interessate
a chi importa di cose diverse e il
contratto sociale è destinato a fornire il
accordo in cui in quali persone
opterebbe per cooperare a
il loro beneficio collettivo è a
necessità e il contratto sociale no
davvero una nuova idea è stata in giro per a
mentre almeno 350 anni l’ anno prossimo questo
è il libro Leviatano di politica
filosofo ed economista Thomas Hobbes
e Thomas Hobbes è l’innovazione era a
identificare questa nozione di legittimità di
il potere sovrano che non viene
dall’alto non viene fuori
nulla, ma si esce dalla reciproca
consenso di coloro che sono governati così se
si ingrandisce questo sovrano questo
onnipotente sovrano che si affaccia sul
terra qui vedi che è fatto da
centinaia di piccole persone che hanno optato
nel contratto sociale rinunciando
alcuni dei loro diritti individuali e
libertà per mantenere questo
potere sovrano per far valere la proprietà
diritti come pure altri diritti e di
Ovviamente se queste persone decidessero di ritirarsi
questo contratto questa cosa molto potente
cesserebbe immediatamente di esistere
ora Hobbes ha reso questo sovrano molto
potente ha detto che questo sovrano
dovrebbe avere quasi tutto il potere a corto di
prendendo le vite delle persone ma poi abbiamo speso
molti decenni in realtà secoli addomesticamento
questo Leviatano e lo abbiamo fatto
introducendo molti controlli e contrappesi su
il suo potere introducendo i diritti fondamentali
che non può
violare e un sacco di altri
sviluppi politici da allora e
oggi, mentre pensiamo alla tecnologia , è così
importante rendersi conto che abbiamo creato
e ha mantenuto e domato il Leviatano
attraverso un contratto sociale così oggi come noi
costruire una tecnologia su una specie di cyborg
sovrano che si compone di esseri umani come
così come gli algoritmi che prendono le decisioni
impatto su di noi abbiamo anche bisogno di un tipo di sociale
contratto che è anche algoritmico e io
voglio parlare un po ‘ di
natura di questa cosa ora come fare e come
facciamo a domarlo così prima di discutere questo
dobbiamo parlare di quali cose
regola e non riesco a pensare a una migliore
fonte o classificazione delle cose
che regolano poi quelli di Larry Lessig
l’architettura normativa così va bene
Larry nel mezzo è regolato
ed è regolato da quattro forze principali
questo è dal suo codice libro e altro
leggi del cyberspazio che era molto
influente negli anni ’90 come internet
stava iniziando così la legge è una delle principali
regolatori questo è ciò che fanno i governi
ma anche i mercati delle norme sociali che stabiliscono
i prezzi su diversi comportamenti e
oggetti ma anche architettura e da
questo intende sia il fisico
architettura l’ architettura costruita ma
anche le cose dell’architettura dell’informazione
come il design del cyberspazio così com’è
cambiamento del contratto sociale algoritmico
questa immagine penso che da una parte sia
introducendo un nuovo tipo di attore che
richiede una regolamentazione quindi siamo umani
ancora ma stiamo regolando nuovi tipi di
attori così invece di Larry nel mezzo
qui abbiamo il nostro piccolo robot e questo
il robot è regolato da simili
forza questo potrebbe essere per esempio un mucchio
di programmi di trading in un algoritmo
mercato di negoziazione o potrebbe essere un
auto senza conducente che si sta muovendo
spazi urbani e così via ora sull’altro
mano abbiamo ora un regolamento guidato
del comportamento umano così
perché di nuovo tornando a questa immagine
e mettendo di nuovo Larry nel mezzo
la legge sta ora diventando AI aumentata
la polizia predittiva sta dicendo alla polizia
dove due giudici di polizia stanno usando
algoritmi per informare quindi tutti
le decisioni e così via sui mercati sono ora
utilizzando algoritmi per allocare acquirenti e
venditori ad esempio in peer-to-peer
mercati o mercati di condivisione del giro e il
l’ architettura dell’informazione è essere
mediato anche da algoritmi che decidono
quali informazioni vediamo dal mare
di informazioni là fuori e anche
le norme vengono modificate da questi
gli algoritmi, ad esempio, pensano alla datazione
siti Web e in che modo alterano il tipo di
le relazioni con gli umani si formano così io
pensa che sia importante pensare come noi
pensa a come questa immagine sta cambiando
è importante pensare a cosa ha
è rimasto lo stesso e cosa è cambiato
perché penso che le cose rimangano le
lo stesso mezzo significa che possiamo ancora usare
alcuni dei nostri vecchi strumenti per regolare questo
nuovo ambiente quindi una delle cose
quello che rimane lo stesso è l’opacità e
pensa di prendere in considerazione ad esempio l’insegnamento a
macchina giusta da sbagliata come cosa fare
certo che sai da una parte che abbiamo
difficoltà a articolare i nostri obiettivi
macchine ma abbiamo sempre avuto difficoltà
abbiamo anche obiettivi articolatori per gli umani
difficoltà a fidarsi degli altri umani e ora
abbiamo difficoltà a fidarci degli altri
macchine per rispettare questi obiettivi e
vincoli e, naturalmente, anche quando pari
gli obiettivi ben intenzionati possono talvolta andare
fuori controllo sai che potresti dirlo a
robot per minimizzare la miseria e uccide
tutte le persone perché questo è un modo di
raggiungere questo obiettivo ora così non c’è
qualcosa di sbagliato in questa immagine
di richiedere ai programmatori di assicurarlo
le loro macchine sono etiche prima di loro
Lasciali in libertà e penso che sia
perché questo obiettivo è in realtà piuttosto un
l’alto ordine di chiederti ai programmatori
non chiedere alle persone di aprirne altre
il cervello delle persone per verificare se lo sono
etico guardando il loro cervello
l’architettura è semplicemente irrealistica
invece quello che facciamo è noi
osservare il comportamento delle persone e poi noi
tenerlo premuto abbiamo valutato contro set
standard di condotta la seconda cosa
quello non ha davvero cambiato molto è il
presenza di dilemmi irrisolvibili così tanto
quello comune che sono stato parzialmente
responsabile della divulgazione è il
dilemma etico che un’auto autonoma
può affrontare così la storia va la macchina è
in qualche modo il controllo perduto sta per uccidere
alcuni pedoni ma è in grado di sterzare
e uccidere forse i propri passeggeri
per salvare di nuovo più pedoni
molte persone pensano di conoscere l’ intelligenza artificiale
dovrebbe risolvere questo problema ma questo
il problema è fondamentalmente irrisolvibile
questo è esattamente il motivo per cui è chiamato a
il dilemma è per definizione irrisolvibile
ed è davvero un compito arduo aspettarsi
macchine per risolvere un problema che sfidava
le migliori menti legali ed etiche
menti filosofiche per migliaia di
anni prima abbiamo aggiunto la tecnologia
ma questo non vuol dire che possiamo risolvere
questi problemi non possiamo avere una misura
o un modo ragionevole per esempio
basti pensare a questo dilemma del moose bar
a destra lo chiamerò che è questo
barra metallica che si trova nella parte anteriore
della macchina se rimuovi queste barre questo
la maggior parte delle parti ha anche chiamato la barra del canguro
o una barra regola in Australia dipende da
che tipo di animale potresti colpire e
queste cose rimuovendole si ridurrebbero
il rischio di lesioni del 21% per i pedoni
e il rischio di morte del 6% che è il motivo
sono vietati in molte parti d’ Europa
sono vietati in Australia, ma lo sono
non è vietato negli Stati Uniti, così eccoci
costantemente facendo trade-off che conosci
sui rischi che siamo disposti a fare
sopportare i rischi relativi in ​​questo caso
che sono definiti da un qualche tipo di social
contratto in modo che possiamo continuare a fare il
stesso con macchine che sono intelligenti
una terza cosa che è uguale è la nostra
proprio pregiudizio psicologico sai che siamo
siamo ancora umani
abbiamo ancora ragione per il mondo in
modi particolari e così recentemente nel nostro
ricerca con problema
ricerca che sta cercando di superare
questi tipi di dilemmi, così abbiamo mostrato
dalle persone la loro speranza di morire per sempre
essere in una macchina normale contro un
auto autonoma come sai secondo
le proiezioni dei benefici per la sicurezza
di quelle macchine e le persone dicono che va bene così
bravo III, ma quello non fa niente
per alleviare la preoccupazione delle persone riguardo
essere sacrificato dalla macchina va bene e e
queste preoccupazioni da soli nonostante
la riduzione assoluta del rischio può dissiparsi
le persone dall’adozione delle macchine e abbiamo
visto questo prima ha ragione le probabilità della vita
di morire di un incidente d’auto sono
astronomicamente superiore a morire da a
incidente aereo ancora molte persone sono
paura di volare in aereo rispetto a
salire in macchina e di nuovo abbiamo bisogno di
educare le persone sul ragionamento
rischio per superare questo tipo di
pregiudizi psicologici quindi queste sono cose
che sono simili che non sono nuovi
pensare così cosa c’è di diverso una cosa che
è diverso è la teoria della mente così dentro
nell’attuale regolamento nella corrente
contratto sociale che stiamo regolando
entità che sono esseri umani ne abbiamo alcune
una sorta di teoria della mente su come potrebbero
comportarsi a cosa sono interessati e
e cosa non amano e come e noi facciamo
la stessa cosa con chi governa ma
con le macchine abbiamo un nuovo tipo di
agente che è leggermente diverso quindi
psicologi grigi e colleghi hanno
fatto una ricerca su come percepiamo gli altri
menti incluse le menti degli umani
menti di animali domestici e le menti dei robot
e come puoi vedere qui percepiamo
gli esseri umani come essendo alto sulla agenzia del
capacità di prendere decisioni autonome come
bene come su esperienza l’ abilità
sperimentare il piacere del dolore e così via
ma puoi vedere qui che i robot sono
alto su agenzia in una certa misura e
effettivamente spostandosi ulteriormente lungo l’asse x
qui ma hanno un’esperienza molto bassa
non sappiamo come ragionare su questi
tipi di agenti come li regoliamo per
uno
non possiamo punirli perché non lo fanno
cura del dolore e penso che questo sia un
cambiamento fondamentale che dobbiamo pensare
circa mentre formiamo questo nuovo social
contratto una seconda cosa che è
diverso è l’adattamento oltre il
intento iniziale in un completamente
modo imprevedibile così per esempio il
US Securities and Exchange Commission
definisce la manipolazione del mercato come un
condotta intenzionale progettata per ingannare
investitori ma attribuiscono un intento a a
strategia sintetizzata che include
apprendimento automatico che adatta il
strategia nel tempo è estremamente
cosa difficile da fare che lo rende
molto difficile per noi indicare il
causa dietro o l’intento dietro alcuni
comportamenti una terza cosa che è
diverso è la velocità così come i sistemi diventano
sempre più veloce, per esempio
sistemi di trading algoritmici per accelerare
può generare completamente nuovo completamente nuovo
nuovi regimi comportamentali per esempio molto
più frequenti arresti anomali del flash e questo
accade precisamente nel punto in cui
questi in cui gli umani perdono la capacità di
intervenire in tempo reale in questi tipi di
sistemi che fanno emergere un sacco di
nuove sfide in modo da poter rallentare il
le macchine in qualche modo trovano i modi per mantenere
loro correndo alla velocità che possiamo
tieniti aggiornato ma ovviamente questo
tipo di soluzione significa che dobbiamo
rallentare la nostra capacità di beneficiare
anche quelle macchine e se fossimo se
abbiamo preso questo all’estremo di applicare questo
principio di precauzione sarei
seduto qui e saremo tutti cavernicoli
le donne e io essere dicendo circa il
conseguenze catastrofiche dell’uso del fuoco
tenendo in mano la civiltà della detenzione
di progredire avanti così un modo di
gestire questa sfida della velocità è quello di
usa altri programmi per usare i programmi
guarda altri programmi così ovviamente
invece di avere un umano qui nel
loop osservando l’algoritmo o l’intelligenza artificiale
può avere un’altra intelligenza artificiale
questo è quello che alcune persone hanno riferito
come programmi di supervisione che penso
sarà sempre più comune
Certo, ci sono sempre dei limiti a questo
perché poi chi guarda l’algoritmo
chi sta certificando il primo algoritmo
e ovviamente questo può andare solo così lontano
fino a quando non finisci il materiale da costruire
macchine più potenti ma penso che
ci dà spazio per muoversi in modo gentile
di avvolgere il social algoritmico
il contratto cambierà il nostro
immagine del regolamento in due modi è
andando a cambiare il tipo di attori che
regoliamo e cambieremo il
modo in cui regoliamo esseri umani così così
l’immagine ha un aspetto simile a questo
dove hai attori algoritmici
sono regolati dall’algoritmo
Forze regolatorie aumentate che tipo
di mettere porta una domanda di ciò che è rimasto
per noi di fare, ma questo è ciò che un diverso
parla ora un’altra cosa super
l’intelligenza è questa sfida che alcuni
si parla tanto di bene che cosa succede se
le macchine diventano così molto di più
intelligente che tutti gli umani hanno combinato
come gestiamo questi tipi di
sfide ed è questo il più urgente
rischio catastrofico che potrebbe porre fine al
credo che la civiltà umana
questo tipo di sfide non sono folle
sono reali ma penso che siano molto
difficile da prevedere e preparare, ma io faccio
pensa che costruendo tecnologie e
istituzioni per la creazione di un algoritmo
contratto sociale ora siamo in realtà in a
posizione migliore per essere pronti per il
sfida più ampia a lungo termine
sfida quindi grazie
tu
[Applausi]