De-Enchanting AI with the Law | Kenneth Anderson | TEDxBoston

[Musica]
dieci anni fa stavo tenendo un discorso ad un
ero una conferenza di ingegneria robotica
l’avvocato del token e il discorso era su AI
robotica e legge e alla fine del
parlare di mano va su nel Q & A e un
l’ingegnere si alza e dice che non lo so
capisci perché abbiamo bisogno di tutta questa legge
roba e in realtà intendeva dire tutto questo
avvocati e tutto ciò che dobbiamo fare è fare
sicuro che tutti i nostri robot e AIS e
tutte queste cose sono programmate con
Le tre leggi della robotica di Asimov e così
non chiederà quante persone sono qui
dove le Tre Leggi della Robotica, ma io
lo chiesi a questa conferenza e
ogni mano nella stanza sale su un robot
non può danneggiare un essere umano che un robot possa
non permettere che il danno venga a se stesso a meno che
è necessario per risparmiare il
essere umano considerazioni etiche di base
per i robot tutto bene ma la domanda
quello che veniva chiesto era il motivo per cui avevamo bisogno
qualcosa di più e in quel momento lì
non era così tanto nel modo di
tecnologie attuali che erano là fuori
l’uno poteva guardare e vedere quali erano i loro
la funzione era il loro scopo era come loro
gestito i rischi che rappresentano
i benefici che hanno guadagnato ci hanno dato e così via
quelle circostanze sarebbe stato
difficile rispondere a questa domanda dal
ingegnere ora in avanti veloce per oggi e
siamo in una situazione molto diversa noi
attualmente stanno vedendo le tecnologie AAI
le tecnologie passano dal prototipo al
laboratorio a funzioni effettive e reali
prodotti e società e come lo facciamo noi
allora le domande di legge diventano molto
più importante e incombente e reale
ma importante sottolineare è perché legge
può solo diventare reale
le tecnologie diventano effettive o sono molto
vicino ad essere reale e così siamo
raggiungere quel punto ora né raggiungere a
punto è davvero abbastanza meraviglioso
posizione in cui ci troviamo ora
abbastanza reali percorsi reali di tecnologia
che possiamo parlare in modo reale di
modo in cui la società dovrebbe regolare
loro e questa è un’opportunità entusiasmante
la regolamentazione delle tecnologie attuali
e in molti modi questo sarà
qualcosa che consente questi
tecnologie quindi ci sono enormi
opportunità qui dobbiamo essere sicuri
che prendiamo chiara consapevolezza del
vari tipi di rischi che sono posti
e i danni che vengono posti ma questo è
cosa hanno in legge la regolamentazione e la tecnologia
sempre fatto così nel mezzo di questo
conversazione eccitante ora lo troviamo
c’è una specie di estremo ed estrusione
dall’esterno che è certo
eminenti scienziati e tecnologi
ci stanno dicendo che abbiamo bisogno di farlo
regolare l’intelligenza artificiale, ma dobbiamo regolare
tecnologie di intelligenza artificiale per
una ragione molto diversa non per ragioni
sui rischi posti oggi o all’interno
il percorso immediatamente visibile di
tecnologia ma perché dobbiamo essere
preoccupato che ad un certo punto in futuro
queste tecnologie IA potrebbero diventare
progressivamente più intelligente e più intelligente per il
indicano che sfuggono al controllo umano
trascendono la loro posa di programmazione umana
una minaccia esistenziale per l’umanità e
rovina questo non sarebbe così importante
non stavamo iniziando la conversazione
sull’effettiva regolazione del reale
tecnologia ora e suggerisco questo
è un’idea straordinariamente cattiva in pubblico
politica e regolamentazione e che
minaccia di dirottare questa conversazione
di cui abbiamo disperatamente bisogno
tecnologie attuali oggi
Infatti, farei un ulteriore passo avanti e direi
che dobbiamo respingere in modo aggressivo
contro questo tipo di voce al momento
che il vero regolamento è il più
importante è necessario spingere di nuovo contro
che in gran parte solo dicendo questo
le cose non sono rischi ci sono
rischi esistenziali per l’umanità nucleare
possibilità di guerra di una bioingegneria
patogeno che potresti sapere uscire e
fai cose terribili e terribili, ma queste
avere qualche base nelle tecnologie attuali
anche se in realtà non lo sono stati
realizzato quando parliamo del super
l’intelligenza sarà anche quella
intelligente per noi e devastazioni stiamo parlando
su qualcosa di completamente diverso
questo è nel regno dell’immaginazione e io
non pensare che sia logico
possibilità in un mondo possibile come il
i filosofi potrebbero dire costituisce a
rischio e non è certamente un rischio
analisi del tipo di quella normativa
e la politica pubblica può o dovrebbe anche
prendere in considerazione e questo è in grande
parte perché abbiamo molti rischi
di cui bisogna tener conto
le tecnologie che siamo in realtà
vedere emergere ora e può prevedere molto
rapidamente nascente ma uno dei
le domande che sorgono sono: perché questo?
capita con le tecnologie IA intendo in
altre parole perché sono alcuni dei più
voci eminenti nel campo
tecnologi si conoscono grandi menti in
il campo per cui improvvisamente si capovolgono
questo tipo di modalità di apocalisse dell’IA basata
intorno a una specie di possibilità immaginarie
non lo facciamo con altre tecnologie
nessuno lo fa con i tostapane nessuno
lo fa con i tostapane che sono collegati
per l’Internet delle cose bene ciò che è
riguarda l’intelligenza artificiale che finisce per provocare
questo tipo di risposte e lasciami solo
chiama questo incantesimo AI la tecnologia
ha questa capacità di incantare il
gli inventori incantano gli utenti e siamo
chiaro ha la capacità di incantare il
tipo di regolatore legale persone
avvocati i giudici regolatori del governo
e legislatori come bene e da un canto I
significa che finisce per portare a
prospettive distorte distorte
percezioni e aspettative distorte
su ciò che la tecnologia è ciò che è
capacità e limitazioni sono e
finisce per distorcere i modi in cui noi
pensaci e questo può succedere in
due direzioni diverse può falsare
noi in una specie di versioni distopiche
che sono preferiti da Hollywood l’intelligenza artificiale
Apocalisse Apocalittica IA ma può
anche essere distorto nell’altra direzione
in una sorta di direzione utopica in
tipo di fantasie che questi
le tecnologie produrranno una sorta di
utopia in cui siamo tutti al caldo e
felici tutti i nostri bisogni materiali sono
risolto e possiamo solo dedicarci
alla consapevolezza
queste sono esagerazioni di vario tipo
e la domanda è cosa li porta
su come si presentano ora voglio
suggerisco perché l’intelligenza artificiale è speciale tra
tecnologie nel modo in cui
tende a destabilizzare le categorie mentali
abbiamo che usiamo per strutturare il nostro
mondo e destabilizzandoli all’improvviso
l’idea che ci sia una sorta di fisso
i limiti e le possibilità si concludono
anche tutto sfocato e sfocato
una di queste linee che è l’intelligenza artificiale
particolarmente rivolto a è il
differenza tra creature e cose
e destabilizzando quella linea
con la linea di esecuzione della macchina
esecuzione della sua programmazione sull’uno
mano e coscienza umana
intenzionalità scopo e volontà sul
altre linee si offuscano quali
intelligenza artificiale quasi il molto
la terminologia ci invita a fare il risultato
di ciò può finire per essere noi stessi
improvvisamente ha un’esplosione di mentale
possibilità di cose che non sono più
sembrano avere dei limiti per noi non confinati
che può essere un’ottima cosa fino a quando non ci proviamo
per attuare ciò in legge ma in questo
processo di un’esplosione di possibilità
come conduce a esagerazioni che spingono
fino a questi estremi l’ apocalisse dell’IA
da una parte e IA angelica come noi
potrebbe chiamare la possibilità utopica su
l’altro penso che siano entrambi errori
ma ora in particolare i tecnologi
tra il pubblico stanno pensando di
si, ma non ne soffro
Incantesimo di fantascienza AI sai che intendo io
attenersi al mio lavoro a maglia e fare cose che sono
non sotto questo incantesimo che voglio
suggerire tuttavia che questo è troppo veloce a
conclusione perché ci sono modi in
che puoi avere una forma di intelligenza artificiale
incantesimo che tratta molto ordinario
applicazioni delle tecnologie che
sono di fronte a noi oggi e lo sono
emergenti nei percorsi prevedibili di
la tecnologia ora non ne ha bisogno
possibilità fantascientifiche ci sono un numero
di modi in cui ciò può sorgere ma il
quello che voglio individuare oggi è uno di quelli
Penso che è trascurato almeno in parte
nel mondo oltre i tecnologi
loro stessi e questo è il fatto che il
linguaggio che usiamo per esprimere umano
l’azione risulta essere esattamente la stessa
parole che usiamo per descrivere le azioni della macchina
così diciamo per gli esseri umani
decide quando diciamo che decide
quel caso di cui parliamo decidere come
una parola che è legata e connessa a
tutto il proposito umano decide lei
perché ha intenzioni perché lei
ha uno scopo perché lei lo ha usato noi
la stessa parola quando parliamo di
computer che decide di agire come
esegue la sua programmazione
se tu e quello stai perfettamente bene così a lungo
come si tiene a mente che non lo facciamo
in realtà significa esattamente la stessa cosa e io
non so quale linguaggio alternativo
avremmo pensato che fosse molto difficile
pensa a un intero nuovo set di parole
descriverebbe cosa sta facendo la macchina
quindi usiamo le stesse parole per entrambi ma
nella misura in cui questi due si confondono
confuso e mescolato invita molto
percezioni molto distorte di ciò che il
la tecnologia potrebbe essere ora tecnologi
e la mia esperienza è in realtà molto
attento a questo problema e non tendere
di cadere in esso, ma non credo che
il mondo ordinario sarà in grado
mantenere una certa distanza stretta tra
questi e differenziazione e io posso
assicurarti che il governo degli avvocati
regolatori giudici e legislatori lo faranno
non essere in grado di mantenere alcun tipo di
distanza del genere, almeno non se loro
non sono educati e resi consapevoli del
possibilità per ordinare di
separare ciò che è la macchina e ciò che è
aspettative malriposte importate in AI
tecnologie perché abbiamo tirato dentro a
certo insieme di concetti umani ora legge
ha un ruolo da svolgere nella sola regolamentazione se
tu giochi nella società con cui ho avuto uno spettacolo
le regole della società ma rispetto a questo
la legge sull’incantesimo può avere un ruolo in
aiutando a disincantare scusate incantesimo 2d
2d incanta l’ intelligenza artificiale e in qualche modo abbatti
un po ‘di questo incantesimo che minaccia
distorcere e darci percezioni errate
e lo fa principalmente da due
meccanismi uno è che la legge che è
si sono occupati di nuove tecnologie per a
tanto tempo guarda alle tecnologie IA come
vengono online e dicono che lo faremo
metterli in categorie legali esistenti
e le categorie giuridiche che hanno fuori
ci riflettono umani di vecchia data
preoccupazioni che non stanno andando via
valori umani che abbiamo così sicurezza
ce n’è uno ma anche
uguaglianza e giustizia ed equità e
queste altre qualità che si riflettono
in categorie di legge e quelli no
intenzione di ottenere gettato fuori dalla finestra su
conto di alcune tecnologie IA ma loro
avere l’ effetto di una sorta di messa a terra il
tecnologia e dandogli un senso
limiti che sono contenuti nell’uomo
scopi il secondo modo in cui la legge può
aiutare a incantare l’intelligenza artificiale è chiamandolo siloing
tenderemo a regolare una particolare IA
tecnologie secondo la funzione
giocano e le leggi esistenti e il
regolamenti esistenti e esistenti
regolatori tecnologie di guida morbida per auto
sarà regolato dal Dipartimento di
Trasporti l’autostrada nazionale
Safety Transportation Board
Transportation Safety Board e cose del genere
relativo alle informazioni sulla privacy relative a
uso del software di riconoscimento facciale
analisi predittiva e condanna
comportamento per i criminali tutti questi
diversi tipi di cose tenderanno a
essere regolato da chi si occupa di ciò
tipo di cose già e l’effetto di
quello è di abbattere il tipo di
l’illusione associava l’incantesimo
associato all’intelligenza artificiale
considerato come una singola categoria tutto da parte
noi stessi lo scomporremo e discretamente e
forme molto più orientate all’uomo di
tecnologia e regolamentazione ora c’è
tuttavia un rischio ovviamente che la legge stessa
può diventare incantato e che tutto questo
persone che fanno parte del legale
i giocatori attori legali possono diventare
incantato e penso senza concertazione
consapevolezza e educazione diventano consapevoli
sì, penso che saranno incantati e
avranno molto distorto
impressioni su cosa sia la tecnologia
di cosa è capace
le limitazioni sono due sono di base
difese contro questo tipo di
Incantesimo di diritto uno di loro
è semplicemente le persone coinvolte in
questo deve essere molto sofisticato
sulla tecnologia stessa e io no
significa a livello del computer
scienziati e ingegneri, ma intendo
in modi per essere in grado di chiedere sofisticato
domande che mostrano una consapevolezza del
aree distinte di apprendimento automatico di intelligenza artificiale
e così via e così via a un livello che lo farà
aiutali a fare le domande
queste cose dal punto di vista del nostro
usi umani della tecnologia
e questa è la prospettiva che il
i regolatori dovrebbero averli devono essere
capace di tradurlo in qualcosa
questo è concreto il secondo modo in cui
finiamo per superare questo rischio
l’incantesimo è importante perché dice
incanteremo perché lo faremo
Insistiamo sul fatto che non trattiamo le tecnologie di IA
come tutto ciò che è tipo di fuori o
al di là dell’esperienza umana o nulla anche
al di fuori degli esseri umani ma è così
solo un altro strumento come qualsiasi tecnologia
che gli esseri umani hanno inventato sempre e
se vediamo le tecnologie IA come giuste
un altro strumento umano che tenderà di nuovo
per fonderli nella questione di come
sono bravi a realizzare le cose
ci preoccupiamo come esseri umani e al
misura tale legge e regolamento è in grado
per rendere concreto questo tipo di domanda
quanto è buono come strumento allora saremo
chiedendo l’efficacia di ciò
strumento in cui può essere migliorato
non saremo seduti in giro a preoccuparci
sulla tecnologia che ottiene tecnologia AI
diventando progressivamente più intelligente e
più intelligente e più intelligente
fino a quando non ci devasterà, ci ferirà così
domanda che si presenterà per l’IIA
non sarà mai la tecnologia
Troppo intelligente
il problema non sarà mai così
la tecnologia è troppo intelligente lo farà
sempre che è troppo stupido e anche
stupido nel senso che è umano
strumento e questo è ciò di cui abbiamo bisogno e uso
per quello significa quindi che se non lo facciamo
superare l’incantesimo di IA allora noi
corri il rischio di pensare che il problema sia
che è troppo intelligente e se lo inquadriamo
in questo modo come una questione di rischi di essere
troppo intelligente a cui dobbiamo fare i conti
allora finiremo per produrre
legge male per una buona tecnologia, se il
dall’altra parte superiamo l’intelligenza artificiale
l’incantesimo lo superiamo allora
In quel caso saremo in grado di concentrarci
la questione dell’IA come strumento che
possiamo fare meglio e lo faremo
capirli che possiamo avere di meglio
tecnologia attraverso leggi migliori grazie
[Applausi]