Making The Internet A Safer Place | Pete Burnap | TEDxCardiff

grazie mille, sì, così eravamo
parlare delle ricerche presto va bene così
rendere Internet più sicuro ti mette
sapere come bene un posto come un altro per iniziare I
pensa e quindi sì, non è permesso
fondamentalmente abbiamo provato a fare cose in giro
rischio sicurezza sicurezza cercando di fare il
internet un posto più sicuro, sto andando a
parlarti di oggi è specificamente
incitamento all’odio e cyber-odio, quindi quanti
di voi qui usate i social network online
circa il settantacinque per cento di quanti
sapresti come interagire con il cyber
odio se ti sei imbattuto in esso per provare e
tipo di porre rimedio a circa quattro persone
ottimo quindi ho trovato un lavoro che sarei stato un
parlare breve altrimenti così ho intenzione di
parlaci un po ‘ oggi di come
lo definiamo come lo misuriamo come noi
osservano poi dato che siamo voi
conosci i ricercatori e come possiamo
gestiscilo e il vero takeaway per te
ragazzi spero che sarà il
la gestione ora è la prima cosa che sto per fare
fare è distinguere tra reati di odio e
cyber-odio in cui è incastonato il crimine di odio
legge così nel Regno Unito abbiamo il pubblico
Order Act che ha fondamentalmente rigore
soglie che devono essere superate
qualcosa per essere un crimine su cui si basa
caratteristiche protette razza religione
orientamento sessuale e così via ma per
qualcosa per essere un crimine in realtà
deve avere o un incitamento
elemento ad esso o una minaccia attiva ora
che a noi non sembra tutto questo
adatto per la gestione di qualcosa come il
internet è troppo grande troppa gente su
e ci sono troppe cose là fuori
al momento sono sicuro che tu l’abbia visto
la nostra opinione è che se stiamo andando
misurare qualcosa che dobbiamo misurare
qualcosa che può essere compreso da
tutti così prendiamo la prospettiva del male
in pratica se qualcuno può essere danneggiato da
allora è il cyber odio ho visto il nostro introito
su di esso
ora queste cose tendono ad essere innescate da
cose come Brexit il Westminster
il presidente di attacco Trump ce ne stiamo andando
costruire un muro del Messico sta andando a pagare per
è giusto che queste cose tendano a portare a
reazione una reazione online e online
reazione rivolta a persone che abbiamo protetto
caratteristiche dopo l’11 settembre
attacca i crimini di odio offline registrati
Il 58 percento di questi avviene entro due
settimane quindi dobbiamo essere in grado di reagire
a questo rapidamente e questo è offline
quindi immagina online che dobbiamo essere in grado di
misurare questo rapidamente e in tempo reale
okay, quindi quello che stiamo essenzialmente cercando
per è misurare antagonista e
Linguaggio odioso online ora tutti messi
le tue mani in vista e social online
le reti che la maggior parte delle persone utilizza ora online
i social network ora quando stai usando
li per il bene che tutti ci sono dentro
oggi proprio tu stai promuovendo TEDx
e tutti gli oratori che sono qui oggi
Yep così lo si usa per il bene e
cercando di ottenere un messaggio positivo
lì ti dà questo megafono giusto
ti dà questa fase questa piattaforma per essere
in grado di raggiungere tutti ovunque nel mondo
mondo che ha accesso al social online
reti che ora è una grande proporzione
ma sfortunatamente dà anche un
piattaforma per le persone con le viste che sono
odioso
e il nostro antagonista e loro vogliono
esprimere e vogliono reagire alle cose
sai che molte persone oggi hanno
accennato a come le persone reagiscono a
cose e persone tornano le persone si
ha sottolineato cose come i cambiamenti in politica
e il governo sai che tendono a farlo
portare a quello in modo da ottenere queste reazioni
ora anche questo porta all’eco
camere e quando l’odio informatico è fuori
lì le persone tendono a unirsi a questo
e più a lungo è là fuori per e
più viene propagato attraverso
questi social network online rimane
un problema così il nostro lavoro è quello di misurare questo
meglio capire come gestirlo
tipo di problema ora tutto online social
le reti ne soffrono ma noi abbiamo
Twitter particolarmente studiato perché
è così aperto che è molto connesso
quello che abbiamo fatto è fondamentalmente raccolto
dati da Twitter dopo uno di questi
innescare eventi in particolare questo era
Woollett e l’attacco a Lee
Rigby e Willett
e sostanzialmente quello che abbiamo fatto è che abbiamo
le persone chieste sono così odiose
antagonistico semplice come quello in cui le persone
d’accordo, prendiamo quello come allora un oro
standard questo è odioso antagonista
ora uno dei problemi che affrontiamo
dopo aver saputo che gli eventi trigger sono
che c’è un tale volume di reazione
nei social media online che non potremmo dare
ogni tweet su ogni individuo
ci vorrebbe un’eternità per annotare così cosa
possiamo fare è addestrare le macchine a riconoscere
questo e riconoscere le caratteristiche del cyber
odio e questo è esattamente ciò che abbiamo
fatto ora quanti di voi sono venuti
attraverso l’apprendimento automatico prima di una manciata
in pratica è l’apprendimento automatico
riconoscendo le caratteristiche che noi come
gli umani avrebbero cercato di essere in grado di
identifica qualcosa così se ti do un
esempio di base di mele e banane
giusta caratteristica che potremmo identificare come
il colore in modo che possiamo addestrare una macchina a
dì se qualcosa è rosso o verde è un
Apple la frase gialla è una banana
ci saranno occasioni ovviamente dove
avrai banane verdi e verde
mele e poi ti confondi anche tu
Avrò forma per altre caratteristiche
esempio se è rotondo è lungo una mela
e sottile è una banana proprio così macchina
l’apprendimento è fondamentalmente identificativo
caratteristiche che una macchina può riconoscere
e classificare come qualcosa nel nostro caso
cyber-odio quindi una delle cose ovvie
avremmo potuto fare è cercare
termini spregiativi sono sicuro che puoi tutti
pensa a termini dispregiativi per due persone
potresti esibire quel grido verso
persone che esibiscono in particolato
caratteristiche protette che senza elettricità
in realtà non funziona così bene il
motivo è a ispezionare alcuni
questi tweet che avevamo annotato noi
effettivamente identificato c’era molto
più antagonismo sfumato qui sono sicuro
ti sei imbattuto in tutto questo è questo
messaggio di S & M non qui vai a casa no
ben accetto, ora, non sempre
lavorare con le parole stesse così che cosa abbiamo
effettivamente fatto è quello di iniziare a guardare
guardando i modelli linguistici probabilistici
in cui non entrerò ma essenzialmente
quello che stanno cercando è co-occorrente
termini come tornare indietro non benvenuto vai a casa s
e poi e loro cercano quelli che
probabilisticamente probabile che si verifichi
nel cyber-odio rispetto al generale
linguaggio quotidiano , quindi quello che abbiamo trovato è
quello che usando questo metodo ci permette di
avere circa l’80% di precisione a
classificare qualcosa come cyber hate heat
linguaggio pieno o antagonista che
significa che possiamo addestrare la macchina a
in sostanza fare ciò che un essere umano farebbe
perché ricordiamo che gli umani sono al 100%
preciso durante questa annotazione
l’esercizio fisico era normalmente del 75% circa
il tempo che le persone hanno deciso da
se Turman è odioso antagonista
così ora che possiamo davvero fare questo noi
potrebbe farlo su scala così seguendo un
evento possiamo prendere tutti i dati che
arriva intorno all’evento e lo studia
così seguendo l’attacco in Willets questo
è esattamente quello che abbiamo fatto quello che volevamo
sapere come era virale fa discorsi di odio
andare e abbiamo misurato statisticamente come
probabilmente diversi elementi diversi
caratteristiche dei tweets statistici
potere di questi elementi nel predire
se sarebbero stati ritwittati o meno
quindi avevamo cose come loro
contenere un hashtag se contengono a
URL con il quale sono stati twittati da noi
a diversi media media
numero di celebrità di gruppi politici di
seguaci uno degli elementi nel
modello era cyber odio un altro elemento in
il modello era sentiment positivo o
in modo imparziale negativo sai ruvido e pronto
tipo di misura il cyber odio noi
sappiamo era circa l’80% preciso noi
ipotizzato il seguente questo attacco
l’odio informatico sarebbe altamente probabile
retweeted si potrebbe immaginare che sarebbe
era in realtà il 45% meno probabilità di essere
retweeted di un tweet che non lo ha fatto
contenere l’ odio informatico quindi non lo era
diffondendosi dopo questo attacco che fu
supportato dalla misurazione del sentiment
che in realtà ci ha detto che era del 24%
più probabilità di essere ritwittato se si
conteneva un sentimento positivo questo era
messaggi di messaggi di supporto per il
leader pubblici che sono usciti e
ha denunciato l’attacco che l’odio informatico non ha fatto
diffuso seguendo questo attacco
abbiamo anche considerato la longevità per quanto tempo
fa qualcosa rimanere là fuori per il
Twittersphere è importante perché
più a lungo è fuori più a lungo è a
rischio che le persone si uniscano al
carrozzone crea queste camere dell’eco
Cyber odio è morto entro un giorno ci
misurato un periodo di due settimane è morto
molto molto rapidamente non è rimasto là fuori
per molto tempo così contrario a ciò che noi
indovina la credenza popolare sul social online
reti che sono tipo di eco
camere di odio e antagonismo noi
misurato lo abbiamo visto è lì
assolutamente è lì che possiamo costruire
reti in giro a guardare chi
si diffonde ma non si diffonde
lontano e non si sviluppa lungo che è
una buona cosa quindi questo mi porta al mio
ultimo punto immagino quale sia , è solo come
per gestire questo ora tutte le altre cose
Ho parlato a circa fino ad ora è una specie di
solido sappiamo che siamo abbastanza fiduciosi
in questo c’è questa altra roba ora
stiamo iniziando a entrare in siamo
iniziando a ottenere alcuni risultati su come
per gestirlo ora quello che abbiamo fatto è noi
guardato i thread su Twitter quindi se tu
pubblicare un tweet e la gente ha risposto ad esso
e loro rispondono e loro rispondono
e poi applicato ad esso e questi possono
ottenere abbastanza lungo così abbiamo guardato seguente a
commento di cyber-odio per quanto tempo questi thread
otterrebbe e abbiamo misurato di nuovo
statisticamente quali sono stati i fattori che
significava che sarebbero finiti come discussioni lunghe o
i fili brevi dell’idea possono essere visibili
come è nato ora quello che abbiamo trovato è stato se
vai lì e chiama qualcuno a
guerriero tastiera assolutamente luci a
accendi il calore peggiora diventa più
estremo diventa davvero molto molto
più a lungo tiriamo fuori e chiamiamo
qualcuno un razzista in realtà tendono a
smettere di convalidare hanno quello che loro
è venuto per ma quello che abbiamo visto è stato anche quello
se questo accade in piccoli numeri di tipo
crea un po ‘di gancio per la persona
chi ha pubblicato questo messaggio originale a
torna indietro, conosci qualcuno come me
forse mi ha convalidato ma qualcun altro ha
ha detto qualcun altro su cui posso aggrapparmi
davvero non molto punto di impegnarsi in questo
affatto
e il
le osservazioni più utili erano solo una causa
per ordinare non puoi farlo non lo è
prove accettabili o richiedenti e
non c’è nessuna prova ma la più
la scoperta importante è che più
persone singole persone che ottengono
coinvolto in contro-discorso in questo
thread cercando di fermarlo cercando di dare
un messaggio che dice che questo è inaccettabile
più corto è diventato il filo
essenzialmente quello che stiamo vedendo è
sensato attivismo della comunità online così
seguendo le rivolte di Londra proprio questo
è un evento offline ma la gente è uscita
con i loro pennelli e detto guardati
sappiamo che siamo ancora qui, stiamo andando
puliamo , stiamo per risolvere questo problema
sai che non ci batterai
questo è nel mondo offline ma il
online nel mondo offline non può essere
separato più giusto quando le persone lo sono
attaccato online lo sentono nel loro
persona e lo sentono solo nella loro
case che non vogliono uscire
casa lo sentono quando vanno al lavoro
si sentono come se tutti stessero guardando
li solo perché qualcosa è online
non significa che non li influenza in
il mondo offline in cui viviamo in linea
in un mondo offline la coesione sociale è un
problema molto grande al momento e cyber
odio online è lì ed è disponibile
per chiunque nel mondo per vedere il web
ci collega tutti così la mia osservazione finale lo farà
essere è tutto online sociale online
media quindi se lo vedi funziona insieme e
si può fermare vi ringrazio molto
[Applausi]