[Аплодисменты]
вы почти все были подвержены
компьютеризированный алгоритм прогнозирования
следуя форме, если вам нравится X, вы можете
как Y музыкальные потоковые видеопотоки
интернет-магазины регулярно просматривают
по вашему образцу поведения сравнивается
что предыдущим клиентам и пытается
делать прогнозы для вас иногда
работает, и иногда он не работает сейчас
вы можете быть менее осведомлены о том, что вы также
возможно, были подвергнуты
алгоритм формы, если вы похожи на X
мы не можем предоставить вам кредитные банки
финансовые учреждения регулярно используют
ваши личные атрибуты сравнивают их
предыдущим клиентам оценить риск
к учреждению с точки зрения предоставления
у вас есть кредит или ипотека, вы можете также
Недавно были подвергнуты предиктивный
алгоритм формы, если вы похожи на топора
мы не можем предоставить вам работу работодателей и
в некоторых случаях поступления в университеты
с использованием интеллектуальных алгоритмов
найма и принятия решений, и если
недавно у вас был
система уголовного правосудия
ну, извините, прежде всего, и второго
всего вы , возможно, были подвергнуты
алгоритм прогнозирования следующих
если вы похожи на X, тогда вы можете пойти
в тюрьмах суды сейчас используются
интеллектуальные алгоритмы для принятия решений
в зале суда один особенно
популярный и широко распространенный алгоритм
используется в пункте ареста для залога
решений и концептуально это довольно
простая идея обвиняемого, который был
обвиняется в совершении преступления, информация
экстрагируют из них и подается в
компьютерный алгоритм и этот компьютер
Алгоритм выдает фактор риска , и что
фактор риска предназначен для количественной оценки
вероятность того, что человек совершит
преступность в будущем
простая версия отчета о меньшинствах
без жутких людей в бассейне
и если вы считаетесь высокорискованным
то тогда судья может отказать в освобождении под залог и
вы будете в тюрьме в ожидании
и если вы считаетесь
низкий риск, тогда вы можете быть освобождены
до суда в 2016 году
журналисты из ProPublica опубликовали
тревожный доклад об особенно
популярный и широко распространенный прогноз
алгоритм, который используется в судах
вокруг этой страны и то, что они нашли
заключается в том, что этот конкретный алгоритм был
значительно невыгодный для черного
подсудимые обнаружили, что если
ты был чернокожим
почти в два раза чаще быть предсказано
как повторное совершение преступления, когда вы этого не сделали
произошло 44 процента случаев, если вы
были черные , и только 23 процентов от стоимости
если вы белый, что
ошеломляющая разница и при этом
вы почти в два раза чаще
быть предсказанным как не оскорбление, когда в
факт, который вы сделали, если вы были белыми, как
по сравнению с черным, что произошло 47
процент от времени по сравнению с 28 процентами
так что, другими словами, алгоритм
Пристрастный к черным обвиняемым против черного
Ответчики другими словами , если вы находитесь
черный, и вы поддаетесь этому
алгоритм, с которым вы , скорее всего, будете
оценивается как высокий риск и заключен в тюрьму
чем если бы вы были белыми так вскоре после
в этой статье был опубликован студент
моя Джулия Дрессель подошла ко мне, и она
сказал, как это возможно
мы компьютерные ученые, как мы
позволяя этому случиться, как мы
позволяя программному обеспечению изменять жизнь
решения о людях, когда они имеют
типов неравенств, и
правильный вопрос спросить, и он достал нас
тратить около полутора лет
пытаясь понять, что происходит
здесь и как и если мы сможем сделать лучше и
Я хочу рассказать вам немного о
это путешествие и немного о том, что
мы узнали по пути
поэтому, прежде чем погрузиться в алгоритмический
детали и вид понимания, где
это смещение происходит от того, что мы начали с
действительно простой вопрос
мы начали с вопроса :
эти алгоритмы действительно лучше, чем
вы, чем средний человек, потому что
ведь мы предположительно используем эти
алгоритмы, потому что они более точны
более объективными и более справедливыми, и они
удалить любые отклонения , которые могут существовать в
человеческий разум, и это хорошая идея, но мы
не знаю, действительно ли это правда или нет
поэтому мы решили определить, что так
вот что мы сделали, мы набрали четыре
сто участников из онлайн
краудсорсинговая платформа, и мы спросили его
очень простой вопрос
мы дали им короткий параграф о
фактический обвиняемый это было с 8000
люди, для которых у нас были демографические
информации у нас была информация о
их прошлое криминальная история , если какой — либо гм
и тогда мы знали оценку риска
в соответствии с программным обеспечением , которое
использовались в суде, а затем они были
отслеживаются в течение двух лет, поэтому мы фактически
знать, если они совершили повторное нападение или нет, и так
наши участники прочитали короткий параграф
было семь штук информации возраста
и пол человека , а затем пять
фрагменты данных ,
подростковая и взрослая криминальная история
не знал расы человека
важно хорошо, а потом мы просто
спросил их, пожалуйста, прочитайте этот короткий
это онлайн-опрос и просто
скажите нам , думаете ли вы, что этот человек будет
reoffended
в двухлетнем окне после их
последний арест да нет да нет да нет здесь
что мы узнали о компьютеризированной
программное обеспечение с точностью 65%
у людей была точность 67%, это
случайные люди в Интернете, отвечающие
к опросу за доллар, и они потратили
около 10 секунд, что мало
короткий параграф и
они так же хороши, как и
коммерческое программное обеспечение , используемое в
суды сегодня странно сделали то же самое
ошибок в качестве программного обеспечения они были больше
вероятно, сказать , что черный ответчик в
ставка 37 процентов будет повторно оккупирована
— по сравнению с 27 процентами для белого
Подсудимые и они , скорее всего,
скажем, что белый обвиняемый не будет
отменяются по ставке 40 против 29
процентов, как это возможно, они не
знать расу человека и
так и программное обеспечение, так что оба
люди и программное обеспечение имеют
расовой предвзятости, и они
нет гонки, это странно, так сначала
из всего этого немного беспокоит, что
случайные люди в Интернете , как
точно как программное обеспечение, которое было
развернуты в наших судах, и мы собираемся
поговорите еще об этом через минуту
но есть два вопроса, которые вышли
из этого, как это, что люди и
программное обеспечение имеет расовую предвзятость, когда
они не знают расы человека
и номер два, как это , что случайная
людям в интернете платят доллар
ответить на наш вопрос
хорошо, как коммерческое программное обеспечение, которое
развертывается в нашем курсе, и мы
необходимо ответить на эти два вопроса сейчас
на данном этапе мы должны были сделать
достигается в этом коммерческом программном обеспечении
этот прогностический алгоритм и спросил, как
работает ли он здесь
что это за информация
как это делается математически и
действительно понять, как алгоритм
ошибки и почему это не
более точным
к сожалению, программное обеспечение
к сожалению, программное обеспечение
является очень жесткой корпоративной тайной
который был защищен компанией
и у нас нет доступа к нему и
ни суды, кстати, так
вот что мы сделали, мы отменили
спроектировал это, мы сказали, хорошо, что ты
не хочу сказать нам ответ, который мы будем
выясните это сами и позвольте мне
расскажите немного о том, как мы это сделали
что так вот что мы собираемся делать, я
Предполагаю, что я собираюсь только
попытаться сделать прогноз человека
переизбыток от двух факторов, которые могли бы
быть любыми факторами, которые вы хотите, чтобы они были старыми
вы сколько несовершеннолетних осуждений
у вас есть сколько лет вы были
независимо от того, что бы вы ни делали
может количественно оценить и представить, что у меня есть только два
из этих факторов на данный момент просто сохранить
все просто, и когда мы это делаем, я
собираюсь дойти до этой базы данных, что я
использовать для моих участников, где я
знаю, какую демографическую информацию знаю
независимо от того, совершили ли они это право или нет, и я
Собираем в этом пространственном факторе фактор
B все люди, которые совершали повторное правонарушение
данные здесь здесь каждая точка
соответствует индивидууму и их
соответствующее значение коэффициента а и
фактор B, и теперь я дохожу до своего
базы данных, и я делаю то же самое для
люди, которые не перерождали фактор B
и поэтому теперь я заполняю это пространство
эти два фактора, и я знаю, кто
который не уточнил, и моя работа заключается в том, чтобы
построить классификатор и
простейшую возможную вещь, которую вы можете сделать в
это пространство , которое мы преподаем
наши студенты в Дартмутском колледже
— провести линию через пространство
вот именно , что все , что нужно , и все мы
теперь говорят , что это хорошо , что кто -то есть в
Слева от этой линии находится под угрозой
повторное совершение преступления, поскольку именно здесь
большинство правонарушителей являются и
любой, кто находится справа от этого места
теперь не в опасности, у меня есть классификатор
и обратите внимание, что я обучил
классификатор по данным, которые я знаю
ответьте, но теперь любое лицо, которое
приходит в любой аудитории, я могу
вычислите свой коэффициент, вычислите свой
фактор B в пространстве , вы должны
слева или справа, и у меня есть
предсказание для вас, так что теперь
Вопрос в том, каковы факторы, которые
являются факторами, которые позволяют мне прогнозировать
совершите ли вы преступление в
будущее, если кто-то сейчас помнит, я сказал, что
наши человеческие участники имели семь факторов
возраст, а затем пять факторов, которые
подсчитали свой предыдущий преступный
истории, а не
вот что мы сделали, мы сделали сотни и
сотни классификаторов на всех возможных
подмножеств этих семи факторов мы не
знаете, какие из них были самыми важными
но мы хотели начать там, и мы
строить сотни и сотни
классификаторы со всеми возможными подмножествами
было ли это пять или два или один или все
семь, а затем мы просто спросили,
классификатор является наиболее точным , который
один дает нам наилучший прогностический
точность, и мы кое-чему научились
удивительно из двух факторов, сколько лет
вы и общее количество преступлений
будь то несовершеннолетний ,
достаточно, чтобы получить ту же точность, что и
коммерческое программное обеспечение, столь коммерческое
Программное обеспечение является неточностью шестьдесят пять
процентов наш самый простой возможный классификатор
с двумя факторами и только двумя факторами является
это 66 процентов, а наш классификатор
путь все еще имел тот же расовый уклон
неправильная классификация чернокожих
чем белые, так как это нам помогает
ответьте на этот вопрос о том, что происходит
здесь, как это помогает нам
определить, почему существует расовая предвзятость и
как получается, что это коммерческое программное обеспечение
так же хорошо , как случайные люди , на
Интернет получает деньги, чтобы сделать
обзор одного из двух наиболее важных
вещи
классификатор — количество предшествующих преступлений
Я думаю, мы все можем согласиться с тем, что возраст
вероятно, гонка слепая, но давайте поговорим
о количестве предыдущих преступлений, вот что
мы знаем, что знаем, что в этой стране, если
вы черный вы гораздо более вероятно ,
быть арестованным и осужденным за
преступление, которое Нью- Йорк таймс только последний
неделю, например, имело сообщение о том, что
в Нью-Йорке черные люди — 15
раз больше шансов быть заряжена на
низкоуровневые обвинения в марихуане, чем их
число белых преступлений
прокси для расы из- за этого социального
из-за этого неравенства в
системы уголовного правосудия , и поэтому раса была
скольжение в классификатор, неизвестный
нам и если бы мы не реверс спроектировали
классификатор, если бы мы не выяснили, что
являются двумя наиболее важными его факторами
не было бы все ясно, как раса
проскальзывал сюда, и поэтому гонка
смещение происходит, потому что мы кормим
данных в эту вещь, которая сообщает вам
расы человека непреднамеренно число
два , как это коммерческое программное обеспечение
это не то, что делает жизнь
решения о людях такие же, как
случайных людей в Интернете с
мало опыта уголовного правосудия
хорошо, как выясняется, что мы узнали
это действительно простой классификатор
вот то, что вы делаете, вы делаете две части
информации о том, сколько лет кто-то находится в
общее количество преступлений, которые они совершили
и вот в основном то, что оно
сводится к тому, что классификатор
и что мы думаем, что люди
бессознательно делает следующее, если
вы молоды, и вы много сделали
преступлений, которые вы подвергаетесь высокому риску, и если
вы стары, и вы совершили очень мало
преступления, которые вы подвергаетесь низкому риску , вот что
сводится к праву, это довольно просто
теперь вы можете утверждать, что простота
неплохо, что неплохо иметь простой
классификатор, но я утверждаю, что скрытие
за большой аналитикой данных
обучение искусственному интеллекту
вы указываете, что ваш
алгоритмы прогнозирования могут сделать больше
сложные выводы, чем они
на самом деле может, когда компания говорит, что мы
используйте последнюю и аналитическую информацию, которую мы используем
поздно
и искусственный интеллект появляется
как будто они могут сделать очень сложные
выводы о будущем для преступника
когда в действительности они
действительно что- то невероятно
просто и почему это имеет значение
это имеет значение по следующей причине
представьте себе следующий сценарий :
судья в зале суда, и есть
ответчик перед вами и вам сказали
что проприетарное программное обеспечение, построенное на
последние достижения в области аналитики данных и
искусственный интеллект и машина
обучение предсказывает, что этот человек находится в
высокий риск оскорбления, вы могли бы представить себе
что этот судья примет это
рекомендации относительно серьезно
звучит убедительно, теперь представьте, что
судье говорят, что случайное лицо по
Интернет в твиттере , что они думают
этот человек подвергается высокому риску
вы бы предположили, что судья не даст
чертовски и справедливо, но вот
проблема, кажущаяся сложной
программное обеспечение и твитирование случайных лиц
в Интернете было точно такое же
точность, и поэтому имеет значение это делает
как просто и важно
что он не лучше людей, потому что
это говорит нам, насколько это заслуживает доверия
говорит нам, сколько веса положить в
эти прогнозы, и я утверждаю, что
веса должны быть очень незначительными
что мы так изучили в этом исследовании, мы
узнали две важные вещи, и они идут
за пределами этих предсказаний в уголовном
система правосудия — одна большая информация
аналитика AI ml не являются по своей сути более
точность более справедливая, менее предвзятая, чем
люди просто прячутся за технологией
не делает вас лучше, и это
особенно если данные, которые
подаются в эти алгоритмы зеркала
социальное существующее социальное неравенство и
Опасность заключается в том, что вы прикрываться
что ты забыл, что ты
подача данных в систему, которая
что происходит в окружающем нас мире
эти интеллектуальные алгоритмы предназначены для
преодолеть ограничения, и они
просто отражая их, и это очень
опасно
номер два
это опасно и это безрассудно
раскрыть интеллектуальные алгоритмы, подобные этому
без тщательного понимания того, как
они работают без
понимая их точность и
основательно понимая их справедливость
и это справедливо в уголовном правосудии
системы справедливо для работодателей и
университеты, принимающие
нанимая решения, это верно в финансовой
учреждения, занимающиеся кредитованием и ипотекой
решения, эти три вещи являются одними из
самые большие вещи, которые мы делаем в нашей
живет нашими гражданскими свободами наши финансовые
благосостояния и нашей занятости, и мы
переключение решений на компьютеризированные
алгоритмов, и это очень
такие люди, как я, как технологи, я буду
говоря, кстати , что
много говоривший о ВВП, который вошел в
эффект в Европе недавно дал
Европейские граждане права проводить аудит
данные и алгоритмы, которые используются
против них или на них или на них, если
они считают , что они неверны , что это
очень продуманная и очень хорошая идея и
это то, что мы в этой стране
должны начать думать о том, что
более крупный урок здесь, в 1980-х годах, мы были
делать с очень сложными вопросами , имеющими
с медициной и биологией мы имели
удивительные успехи, и мы были действительно
борясь с тем , как
с нашими социальными нормами с этикой с
нравственности и религии, и мы были
действительно борются в обществе, чтобы прийти к
хватит того, что в нас поддерживали
панели биоэтики и что панель биоэтики
было заселено невероятно умным
люди из всех слоев общества из
религиозная часть из
этика от юридических и от
политики и с экономической стороны и
они были их задачей было
помочь нам справиться с этими сложными
вопросы, с которыми мы имеем дело, и мы
не имеет дорожную карту , как идти
вперед Я выступаю за создание
национальный или международный кибер
панель по этике — панель, которая поможет нам бороться
с тем, что превращается в невероятно
сложный кибер-ландшафт, будь то
типы интеллектуальных алгоритмов, которые
Я говорю о том, что сейчас
sign-u — это публикация, является ли
Интернет был вооружен ненавистью
групп и экстремистов и террористов
будь то вопросы конфиденциальности, которые
мы боремся с последним
несколько лет
будь то проблемы безопасности, будь то
как Интернет используется для
дорожные дети в секс-торговле все
проблемы, которые мы видим в Интернете
мы должны начать
технология может стать силой для огромных
прогресса и огромного успеха, но поскольку мы
за последние несколько лет
непроверенный он может так же хорошо окунуть нас
в цифровой дистопии спасибо
[Аплодисменты]
вы почти все были подвержены
компьютеризированный алгоритм прогнозирования
следуя форме, если вам нравится X, вы можете
как Y музыкальные потоковые видеопотоки
интернет-магазины регулярно просматривают
по вашему образцу поведения сравнивается
что предыдущим клиентам и пытается
делать прогнозы для вас иногда
работает, и иногда он не работает сейчас
вы можете быть менее осведомлены о том, что вы также
возможно, были подвергнуты
алгоритм формы, если вы похожи на X
мы не можем предоставить вам кредитные банки
финансовые учреждения регулярно используют
ваши личные атрибуты сравнивают их
предыдущим клиентам оценить риск
к учреждению с точки зрения предоставления
у вас есть кредит или ипотека, вы можете также
Недавно были подвергнуты предиктивный
алгоритм формы, если вы похожи на топора
мы не можем предоставить вам работу работодателей и
в некоторых случаях поступления в университеты
с использованием интеллектуальных алгоритмов
найма и принятия решений, и если
недавно у вас был
система уголовного правосудия
ну, извините, прежде всего, и второго
всего вы , возможно, были подвергнуты
алгоритм прогнозирования следующих
если вы похожи на X, тогда вы можете пойти
в тюрьмах суды сейчас используются
интеллектуальные алгоритмы для принятия решений
в зале суда один особенно
популярный и широко распространенный алгоритм
используется в пункте ареста для залога
решений и концептуально это довольно
простая идея обвиняемого, который был
обвиняется в совершении преступления, информация
экстрагируют из них и подается в
компьютерный алгоритм и этот компьютер
Алгоритм выдает фактор риска , и что
фактор риска предназначен для количественной оценки
вероятность того, что человек совершит
преступность в будущем
простая версия отчета о меньшинствах
без жутких людей в бассейне
и если вы считаетесь высокорискованным
то тогда судья может отказать в освобождении под залог и
вы будете в тюрьме в ожидании
и если вы считаетесь
низкий риск, тогда вы можете быть освобождены
до суда в 2016 году
журналисты из ProPublica опубликовали
тревожный доклад об особенно
популярный и широко распространенный прогноз
алгоритм, который используется в судах
вокруг этой страны и то, что они нашли
заключается в том, что этот конкретный алгоритм был
значительно невыгодный для черного
подсудимые обнаружили, что если
ты был чернокожим
почти в два раза чаще быть предсказано
как повторное совершение преступления, когда вы этого не сделали
произошло 44 процента случаев, если вы
были черные , и только 23 процентов от стоимости
если вы белый, что
ошеломляющая разница и при этом
вы почти в два раза чаще
быть предсказанным как не оскорбление, когда в
факт, который вы сделали, если вы были белыми, как
по сравнению с черным, что произошло 47
процент от времени по сравнению с 28 процентами
так что, другими словами, алгоритм
Пристрастный к черным обвиняемым против черного
Ответчики другими словами , если вы находитесь
черный, и вы поддаетесь этому
алгоритм, с которым вы , скорее всего, будете
оценивается как высокий риск и заключен в тюрьму
чем если бы вы были белыми так вскоре после
в этой статье был опубликован студент
моя Джулия Дрессель подошла ко мне, и она
сказал, как это возможно
мы компьютерные ученые, как мы
позволяя этому случиться, как мы
позволяя программному обеспечению изменять жизнь
решения о людях, когда они имеют
типов неравенств, и
правильный вопрос спросить, и он достал нас
тратить около полутора лет
пытаясь понять, что происходит
здесь и как и если мы сможем сделать лучше и
Я хочу рассказать вам немного о
это путешествие и немного о том, что
мы узнали по пути
поэтому, прежде чем погрузиться в алгоритмический
детали и вид понимания, где
это смещение происходит от того, что мы начали с
действительно простой вопрос
мы начали с вопроса :
эти алгоритмы действительно лучше, чем
вы, чем средний человек, потому что
ведь мы предположительно используем эти
алгоритмы, потому что они более точны
более объективными и более справедливыми, и они
удалить любые отклонения , которые могут существовать в
человеческий разум, и это хорошая идея, но мы
не знаю, действительно ли это правда или нет
поэтому мы решили определить, что так
вот что мы сделали, мы набрали четыре
сто участников из онлайн
краудсорсинговая платформа, и мы спросили его
очень простой вопрос
мы дали им короткий параграф о
фактический обвиняемый это было с 8000
люди, для которых у нас были демографические
информации у нас была информация о
их прошлое криминальная история , если какой — либо гм
и тогда мы знали оценку риска
в соответствии с программным обеспечением , которое
использовались в суде, а затем они были
отслеживаются в течение двух лет, поэтому мы фактически
знать, если они совершили повторное нападение или нет, и так
наши участники прочитали короткий параграф
было семь штук информации возраста
и пол человека , а затем пять
фрагменты данных ,
подростковая и взрослая криминальная история
не знал расы человека
важно хорошо, а потом мы просто
спросил их, пожалуйста, прочитайте этот короткий
это онлайн-опрос и просто
скажите нам , думаете ли вы, что этот человек будет
reoffended
в двухлетнем окне после их
последний арест да нет да нет да нет здесь
что мы узнали о компьютеризированной
программное обеспечение с точностью 65%
у людей была точность 67%, это
случайные люди в Интернете, отвечающие
к опросу за доллар, и они потратили
около 10 секунд, что мало
короткий параграф и
они так же хороши, как и
коммерческое программное обеспечение , используемое в
суды сегодня странно сделали то же самое
ошибок в качестве программного обеспечения они были больше
вероятно, сказать , что черный ответчик в
ставка 37 процентов будет повторно оккупирована
— по сравнению с 27 процентами для белого
Подсудимые и они , скорее всего,
скажем, что белый обвиняемый не будет
отменяются по ставке 40 против 29
процентов, как это возможно, они не
знать расу человека и
так и программное обеспечение, так что оба
люди и программное обеспечение имеют
расовой предвзятости, и они
нет гонки, это странно, так сначала
из всего этого немного беспокоит, что
случайные люди в Интернете , как
точно как программное обеспечение, которое было
развернуты в наших судах, и мы собираемся
поговорите еще об этом через минуту
но есть два вопроса, которые вышли
из этого, как это, что люди и
программное обеспечение имеет расовую предвзятость, когда
они не знают расы человека
и номер два, как это , что случайная
людям в интернете платят доллар
ответить на наш вопрос
хорошо, как коммерческое программное обеспечение, которое
развертывается в нашем курсе, и мы
необходимо ответить на эти два вопроса сейчас
на данном этапе мы должны были сделать
достигается в этом коммерческом программном обеспечении
этот прогностический алгоритм и спросил, как
работает ли он здесь
что это за информация
как это делается математически и
действительно понять, как алгоритм
ошибки и почему это не
более точным
к сожалению, программное обеспечение
к сожалению, программное обеспечение
является очень жесткой корпоративной тайной
который был защищен компанией
и у нас нет доступа к нему и
ни суды, кстати, так
вот что мы сделали, мы отменили
спроектировал это, мы сказали, хорошо, что ты
не хочу сказать нам ответ, который мы будем
выясните это сами и позвольте мне
расскажите немного о том, как мы это сделали
что так вот что мы собираемся делать, я
Предполагаю, что я собираюсь только
попытаться сделать прогноз человека
переизбыток от двух факторов, которые могли бы
быть любыми факторами, которые вы хотите, чтобы они были старыми
вы сколько несовершеннолетних осуждений
у вас есть сколько лет вы были
независимо от того, что бы вы ни делали
может количественно оценить и представить, что у меня есть только два
из этих факторов на данный момент просто сохранить
все просто, и когда мы это делаем, я
собираюсь дойти до этой базы данных, что я
использовать для моих участников, где я
знаю, какую демографическую информацию знаю
независимо от того, совершили ли они это право или нет, и я
Собираем в этом пространственном факторе фактор
B все люди, которые совершали повторное правонарушение
данные здесь здесь каждая точка
соответствует индивидууму и их
соответствующее значение коэффициента а и
фактор B, и теперь я дохожу до своего
базы данных, и я делаю то же самое для
люди, которые не перерождали фактор B
и поэтому теперь я заполняю это пространство
эти два фактора, и я знаю, кто
который не уточнил, и моя работа заключается в том, чтобы
построить классификатор и
простейшую возможную вещь, которую вы можете сделать в
это пространство , которое мы преподаем
наши студенты в Дартмутском колледже
— провести линию через пространство
вот именно , что все , что нужно , и все мы
теперь говорят , что это хорошо , что кто -то есть в
Слева от этой линии находится под угрозой
повторное совершение преступления, поскольку именно здесь
большинство правонарушителей являются и
любой, кто находится справа от этого места
теперь не в опасности, у меня есть классификатор
и обратите внимание, что я обучил
классификатор по данным, которые я знаю
ответьте, но теперь любое лицо, которое
приходит в любой аудитории, я могу
вычислите свой коэффициент, вычислите свой
фактор B в пространстве , вы должны
слева или справа, и у меня есть
предсказание для вас, так что теперь
Вопрос в том, каковы факторы, которые
являются факторами, которые позволяют мне прогнозировать
совершите ли вы преступление в
будущее, если кто-то сейчас помнит, я сказал, что
наши человеческие участники имели семь факторов
возраст, а затем пять факторов, которые
подсчитали свой предыдущий преступный
истории, а не
вот что мы сделали, мы сделали сотни и
сотни классификаторов на всех возможных
подмножеств этих семи факторов мы не
знаете, какие из них были самыми важными
но мы хотели начать там, и мы
строить сотни и сотни
классификаторы со всеми возможными подмножествами
было ли это пять или два или один или все
семь, а затем мы просто спросили,
классификатор является наиболее точным , который
один дает нам наилучший прогностический
точность, и мы кое-чему научились
удивительно из двух факторов, сколько лет
вы и общее количество преступлений
будь то несовершеннолетний ,
достаточно, чтобы получить ту же точность, что и
коммерческое программное обеспечение, столь коммерческое
Программное обеспечение является неточностью шестьдесят пять
процентов наш самый простой возможный классификатор
с двумя факторами и только двумя факторами является
это 66 процентов, а наш классификатор
путь все еще имел тот же расовый уклон
неправильная классификация чернокожих
чем белые, так как это нам помогает
ответьте на этот вопрос о том, что происходит
здесь, как это помогает нам
определить, почему существует расовая предвзятость и
как получается, что это коммерческое программное обеспечение
так же хорошо , как случайные люди , на
Интернет получает деньги, чтобы сделать
обзор одного из двух наиболее важных
вещи
классификатор — количество предшествующих преступлений
Я думаю, мы все можем согласиться с тем, что возраст
вероятно, гонка слепая, но давайте поговорим
о количестве предыдущих преступлений, вот что
мы знаем, что знаем, что в этой стране, если
вы черный вы гораздо более вероятно ,
быть арестованным и осужденным за
преступление, которое Нью- Йорк таймс только последний
неделю, например, имело сообщение о том, что
в Нью-Йорке черные люди — 15
раз больше шансов быть заряжена на
низкоуровневые обвинения в марихуане, чем их
число белых преступлений
прокси для расы из- за этого социального
из-за этого неравенства в
системы уголовного правосудия , и поэтому раса была
скольжение в классификатор, неизвестный
нам и если бы мы не реверс спроектировали
классификатор, если бы мы не выяснили, что
являются двумя наиболее важными его факторами
не было бы все ясно, как раса
проскальзывал сюда, и поэтому гонка
смещение происходит, потому что мы кормим
данных в эту вещь, которая сообщает вам
расы человека непреднамеренно число
два , как это коммерческое программное обеспечение
это не то, что делает жизнь
решения о людях такие же, как
случайных людей в Интернете с
мало опыта уголовного правосудия
хорошо, как выясняется, что мы узнали
это действительно простой классификатор
вот то, что вы делаете, вы делаете две части
информации о том, сколько лет кто-то находится в
общее количество преступлений, которые они совершили
и вот в основном то, что оно
сводится к тому, что классификатор
и что мы думаем, что люди
бессознательно делает следующее, если
вы молоды, и вы много сделали
преступлений, которые вы подвергаетесь высокому риску, и если
вы стары, и вы совершили очень мало
преступления, которые вы подвергаетесь низкому риску , вот что
сводится к праву, это довольно просто
теперь вы можете утверждать, что простота
неплохо, что неплохо иметь простой
классификатор, но я утверждаю, что скрытие
за большой аналитикой данных
обучение искусственному интеллекту
вы указываете, что ваш
алгоритмы прогнозирования могут сделать больше
сложные выводы, чем они
на самом деле может, когда компания говорит, что мы
используйте последнюю и аналитическую информацию, которую мы используем
поздно
и искусственный интеллект появляется
как будто они могут сделать очень сложные
выводы о будущем для преступника
когда в действительности они
действительно что- то невероятно
просто и почему это имеет значение
это имеет значение по следующей причине
представьте себе следующий сценарий :
судья в зале суда, и есть
ответчик перед вами и вам сказали
что проприетарное программное обеспечение, построенное на
последние достижения в области аналитики данных и
искусственный интеллект и машина
обучение предсказывает, что этот человек находится в
высокий риск оскорбления, вы могли бы представить себе
что этот судья примет это
рекомендации относительно серьезно
звучит убедительно, теперь представьте, что
судье говорят, что случайное лицо по
Интернет в твиттере , что они думают
этот человек подвергается высокому риску
вы бы предположили, что судья не даст
чертовски и справедливо, но вот
проблема, кажущаяся сложной
программное обеспечение и твитирование случайных лиц
в Интернете было точно такое же
точность, и поэтому имеет значение это делает
как просто и важно
что он не лучше людей, потому что
это говорит нам, насколько это заслуживает доверия
говорит нам, сколько веса положить в
эти прогнозы, и я утверждаю, что
веса должны быть очень незначительными
что мы так изучили в этом исследовании, мы
узнали две важные вещи, и они идут
за пределами этих предсказаний в уголовном
система правосудия — одна большая информация
аналитика AI ml не являются по своей сути более
точность более справедливая, менее предвзятая, чем
люди просто прячутся за технологией
не делает вас лучше, и это
особенно если данные, которые
подаются в эти алгоритмы зеркала
социальное существующее социальное неравенство и
Опасность заключается в том, что вы прикрываться
что ты забыл, что ты
подача данных в систему, которая
что происходит в окружающем нас мире
эти интеллектуальные алгоритмы предназначены для
преодолеть ограничения, и они
просто отражая их, и это очень
опасно
номер два
это опасно и это безрассудно
раскрыть интеллектуальные алгоритмы, подобные этому
без тщательного понимания того, как
они работают без
понимая их точность и
основательно понимая их справедливость
и это справедливо в уголовном правосудии
системы справедливо для работодателей и
университеты, принимающие
нанимая решения, это верно в финансовой
учреждения, занимающиеся кредитованием и ипотекой
решения, эти три вещи являются одними из
самые большие вещи, которые мы делаем в нашей
живет нашими гражданскими свободами наши финансовые
благосостояния и нашей занятости, и мы
переключение решений на компьютеризированные
алгоритмов, и это очень
такие люди, как я, как технологи, я буду
говоря, кстати , что
много говоривший о ВВП, который вошел в
эффект в Европе недавно дал
Европейские граждане права проводить аудит
данные и алгоритмы, которые используются
против них или на них или на них, если
они считают , что они неверны , что это
очень продуманная и очень хорошая идея и
это то, что мы в этой стране
должны начать думать о том, что
более крупный урок здесь, в 1980-х годах, мы были
делать с очень сложными вопросами , имеющими
с медициной и биологией мы имели
удивительные успехи, и мы были действительно
борясь с тем , как
с нашими социальными нормами с этикой с
нравственности и религии, и мы были
действительно борются в обществе, чтобы прийти к
хватит того, что в нас поддерживали
панели биоэтики и что панель биоэтики
было заселено невероятно умным
люди из всех слоев общества из
религиозная часть из
этика от юридических и от
политики и с экономической стороны и
они были их задачей было
помочь нам справиться с этими сложными
вопросы, с которыми мы имеем дело, и мы
не имеет дорожную карту , как идти
вперед Я выступаю за создание
национальный или международный кибер
панель по этике — панель, которая поможет нам бороться
с тем, что превращается в невероятно
сложный кибер-ландшафт, будь то
типы интеллектуальных алгоритмов, которые
Я говорю о том, что сейчас
sign-u — это публикация, является ли
Интернет был вооружен ненавистью
групп и экстремистов и террористов
будь то вопросы конфиденциальности, которые
мы боремся с последним
несколько лет
будь то проблемы безопасности, будь то
как Интернет используется для
дорожные дети в секс-торговле все
проблемы, которые мы видим в Интернете
мы должны начать
технология может стать силой для огромных
прогресса и огромного успеха, но поскольку мы
за последние несколько лет
непроверенный он может так же хорошо окунуть нас
в цифровой дистопии спасибо
[Аплодисменты]
Please follow and like us:
Be First to Comment