когда поп-культура рассказывает об ИИ, они
обычно имеют что-то подобное в
подумайте о роботе Терминатора, который мог бы
захватить и убить всех нас, кроме того, что я
хочу поговорить с вами сегодня о
невидимые алгоритмы
наши жизни, но это не так гламурно
как этот робот, но я думаю больше
важно, что сейчас используется
управлять мощностью наших электрических систем
системы, управляющие системами,
иногда вы видите рост рынка
вниз и снова пытаюсь выяснить
кто нанимает и кто не нанимает, и если
вам интересно узнать, как
распространенные эти управляемые данными алгоритмы
в нашей жизни, и некоторые из
непредвиденные последствия, которые могут возникнуть
из-за этой распространенности я
рекомендую читать оружие массового назначения
разрушение или автоматическое неравенство ai
также используется в нашем правительстве, так как
многие из вас слышали об этом 2016 году
Республиканская статья, в которой говорилось о
программное обеспечение, предназначенное для прогнозирования
чья — то вероятность совершения
преступление снова, так как многие из вас голосуют так
судьи используют это предсказание как один из
чтобы решить, сколько лет
приговорить кого-то в тюрьму за меня
недавно подписал что-то письмо
против чего-то, называемого экстремальным
и это было
инициатива, предложенная ледовой иммиграцией
Таможенный контроль за льдом был
новости в последнее время и то, что они предлагали
было партнером технических компаний в
анализировать чью-то социальную сеть
деятельности и помочь им определить
будет ли этот человек быть хорошим
иммигрант или нет, является ли это лицо
может совершить террористический акт или нет
будет ли этот человек быть хорошим
теперь я хочу остановиться здесь
и скажем, есть два вопроса, которые мы можем
спросите, в первую очередь, есть ли
не мы должны иметь инструменты, которые делают
это в первую очередь, но второе
вопрос, который я хочу сегодня затронуть, заключается в том, что
текущий ИИ использует автоматизированные инструменты
что мы должны выполнить эту задачу , не
достаточно прочные, чтобы их можно было использовать как такие высокие
сценарии ставок, поэтому позвольте мне дать вам
Например, молодой палестинец проснулся
день и написал хорошее утро на арабском языке
Facebook и его перевели на атаку
их и на английском и израильском языках
власти посмотрели на английский язык
перевод, они не пытались увидеть, что
он написал по-арабски, и они арестовали его
они позволили ей позже отпустить его, но
они арестовали его, и поэтому эта идея
люди, не применяющие свои критические
навыки мышления для алгоритмов
они будут делать с тобой, и я его называю
смещение автоматизации, и для меня я считаю, что
сочетание смещения автоматизации с
эти системные ошибки, которые мы имеем в
наши инструменты очень опасны другим инструментом
что можно подумать о применении к
социальный анализ социальных сетей
вложения слов, поэтому подумайте о слове
вложения как пространства, где слова, которые
считаются похожими друг на друга
ближе в этом пространстве, чем слова, которые
считаются разными, поэтому вы можете
используйте эти вложения слов для обучения
аналоговые детективы и мой коллега Адам
Недавно Коул и его сотрудники
показали, что эти аналогии могут быть
кодировать общественные предубеждения, поэтому я дам вам
пример, так что у вас есть аналогия
к брату, как к сестре, к женщине
королю, поскольку женщины — королеве, — это
Врач , как женщины нянчить почему видеть так
это то, что дает вам, но это
является социальным предвзятым человеком, является компьютер
программист, как женщина, дает нам
домохозяйка, чтобы вы могли спросить, почему так хорошо
есть эти предубеждения и эта вещь
почему я должен заботиться
об этом хорошо вы можете вообразить
автоматизированный инструмент, который используется для
проанализируйте права, так что скажем, я
рекрутер Я пытаюсь найти кого-то, кто
это компьютерный программист , чьи навыки
близки к кому-то на компьютере
навыки программирования, чтобы я мог видеть вещи
как Java Python C ++ и резюме, но
Я также увижу, что этот человек
защитник в Университете Вермонта
это говорит мне, что этот человек, скорее всего,
быть белым мужчиной , и я мог бы иметь
похожее резюме точно такая же квалификация
но этот человек сейчас в команде софтбола
капитан в колледже Spelman, который является
HPC исторически черный колледж, поэтому для
женщины, и поэтому этот человек , скорее всего,
быть черным женским софтболом- капитаном
так что теперь, если у меня есть этот инструмент, который
говоря, что расстояние от черного
женщина к компьютерному программированию много
выше, чем мужчина, тогда белый мужчина
то вы распространяете эти предубеждения
так что мы распространяем предубеждения и
способы, которые мы даже не понимаем правильно
теперь еще один инструмент, который я хочу поговорить
об этом в очередной раз
правительство в правоохранительных органах
поэтому я призываю всех вас
прочитайте бессрочный отчет, который
говорит о том, что один из двух
Американские взрослые находятся на грани лица
базы данных распознавания один за другим и один раз
мы снова имеем два вопроса:
есть ли у нас такой
система наблюдения AI в первом
место, но второе, что я хочу
говорить о том, есть ли лицо
инструменты распознавания, которые мы в настоящее время имеем
достаточно прочны для проведения таких
наблюдение
um в таких сценариях с высокими ставками и
ответ — нет, так что вы, возможно, слышали
о широко рекламируемой Google
фотографии, классифицирующие некоторых чернокожих людей в
горилл и мой коллега радостный бык
Лимини, и у меня была бумага, говорящая о
в основном описывая тот факт, что
коммерческая гендерная классификация
помощники имеют очень высокие коэффициенты ошибок
для женщин особенно темной кожи
тонизирует, что такое пол
система классификации думает об этом как о вас
Я знаю, что это система, я показываю ей изображение
и это говорит мне пол лица
в изображении хорошо , я до сих пор я показал в
образ лица, и это просто дает мне
двоичная метка мужской самки она не
обрабатывать любые другие типы
все и даже с этим
ограниченный очень очень ограниченный
сценарий здесь вы видите, поэтому я показываю вам
частота ошибок по мере того, как вы становитесь более темными и
темнее и тон кожи, поэтому давайте посмотрим на
IBM, например, для более светлой кожи
у вас есть частота ошибок 5,1% и
то вы доберетесь до 46,8%, что почти
вероятность случайных ошибок, поэтому наши инструменты
недостаточно надежны для использования в
Мы используем их прямо сейчас
мы не знаем , какие виды уклонов были
потому что все эти маленькие
Инструменты AI нанизаны вместе и
используется в сценариях с очень высокими ставками
так какие решения у меня есть все
ответы
У меня нет ответов.
есть некоторые идеи для некоторых частей
решение, поэтому в моем сообществе в моем
исследовательского сообщества есть много
люди, включая меня, которые исследуют
технические решения, поэтому бекон
математическое понятие справедливости, но я
хочу сказать, что до того, как мы получим
там мы не можем игнорировать социальные и
структурных проблем мы не можем игнорировать
факт, что существуют определенные группы
люди, которые подвергаются серьезной
группы людей, которые могут быть
неблагоприятное влияние этих предубеждений по
эти методы эпиднадзора и
группы людей, которые создают
участвующих в создании этой технологии и
раздавая это правильно, они выглядят как
это они не похожи на людей, которые
контролируются и подвергаются серьезной
и неблагоприятно влияет на это
технологии в настоящее время у нас нет каких — либо
правил или правил или стандартов для
выяснить, какие инструменты вы можете
использовать для этой цели, и я защищаю
законов и стандартов документации , так
Я хочу закрыть, сказав кучу
другие отрасли были здесь, я не
первый так, например , я пришел
аппаратный фон и я имел обыкновение
схем проектирования и в схемах, которые мы имеем
что-то называемое спецификацией, так что каждый
компонент от простого, как резистор
так сложно, как процессор поставляется с
что-то называется листом данных, который сообщает
стандартная рекомендуемая работа
характеристики отказов и т. д. никто
не слышал о техпаспорте не в порядке
и я сторонник, я думаю, нам нужно
имеют листы данных для наборов данных и некоторые
таких автоматизированных инструментов , которые в настоящее время
используемые в разных местах, мы должны иметь
информация о рекомендуемом использовании для
Например, если вы собираетесь использовать высокое лицо
алгоритмы распознавания для высоких ставок
сценарии, которые должны иметь
различная характеристика для некоторой игрушки
мы должны иметь стандарты
которые описывают это, и поэтому мои коллеги
и я написал бумагу, смывающую
этот
идея, и если вы заинтересованы в ней, это
Зена, она для наборов данных, и ты
может проверить это во второй отрасли I
хочу поговорить о чем-то, что мы все
знать о праве на автомобильную промышленность
поэтому , когда автомобили вышли на дорогу в
нас не было никаких знаков остановки или
ремни безопасности или водительские права или пьяные
законы о вождении или что-то в этом роде
и было так много несчастных случаев и
даже когда ремни безопасности были
1967 человек не хотели их использовать
должны были быть массовые социальные
кампания пытается убедить человек
использовать ремни безопасности и была эта проблема
и все еще существует это
проблема предвзятости в автомобилях тоже, потому что
некоторые из вас могут знать, что автомобиль
производители только проверяли
автомобили с использованием краш-манекенов с
прототипные мужские характеристики, поэтому
то вы оказались с этими автомобилями, которые
были непропорционально убиты женщины
и дети правы, и это было очень
недавно, что правительство санкционировало
что они должны проверить свои автомобили с помощью
краш-манекены с прототипической женщиной
характеристики, а я говорю
примерно в конце 90-х, когда я говорю очень
недавно на самом деле существовал суд
мнение в 20 — е годы спрашивать или нет
автомобиль был по своей природе злым и
это напоминает мне о текущих разговорах
которые происходят в отношении ИИ, или
не по своей природе зла — роботы
собираюсь убить нас всех и т. д., поэтому я нахожу это очень
очень интересно и важно идти
вернуться к истории и посмотреть на другую
отраслей и провести параллели
наконец, я закрою , говоря о
очень важная отрасль , которая является
отрасль здравоохранения, поэтому некоторые из вас могут
знают, что клинические испытания не были
не является законным в Соединенных Штатах и там
также было много неэтичного препарата
эксперименты, которые
маргинальные сообщества настолько уязвимы
люди из цветных солдат
беременные женщины- заключенные и т.д.
и даже когда — то была процедура
имеют клинические испытания, угадывают, что однажды
опять же не было закона, который
что в вашем клиническом испытании вам необходимо
иметь людей разных групп
прежде чем тестировать ваш препарат на разных
групп, прежде чем вы ставите их на рынок
и что вам нужно дезагрегировать все
результаты этих групп и снова это
был очень совсем недавно , что Соединенные
Правительство государств обязало
предстоит сделать
для клинических испытаний, так что теперь у вас есть
исследования показывают, что 8 из 10
препараты , которые были выведены из
с 1997 по 2001 год
несоразмерно пострадавшие женщины это
потребовалось много лет для установления стандартов
в этих отраслях, и мы
все еще страдающих от
были распространены в этих других
чтобы мы учились на этих
других отраслей промышленности , а не делать то же самое
Точная вещь с ИИ, которую мы должны иметь
ограждения на месте, и мы должны сделать
Убедитесь , что группа людей участвует
в создании технологии напоминают
люди, которые используют технологию
благодарю вас
вы
обычно имеют что-то подобное в
подумайте о роботе Терминатора, который мог бы
захватить и убить всех нас, кроме того, что я
хочу поговорить с вами сегодня о
невидимые алгоритмы
наши жизни, но это не так гламурно
как этот робот, но я думаю больше
важно, что сейчас используется
управлять мощностью наших электрических систем
системы, управляющие системами,
иногда вы видите рост рынка
вниз и снова пытаюсь выяснить
кто нанимает и кто не нанимает, и если
вам интересно узнать, как
распространенные эти управляемые данными алгоритмы
в нашей жизни, и некоторые из
непредвиденные последствия, которые могут возникнуть
из-за этой распространенности я
рекомендую читать оружие массового назначения
разрушение или автоматическое неравенство ai
также используется в нашем правительстве, так как
многие из вас слышали об этом 2016 году
Республиканская статья, в которой говорилось о
программное обеспечение, предназначенное для прогнозирования
чья — то вероятность совершения
преступление снова, так как многие из вас голосуют так
судьи используют это предсказание как один из
чтобы решить, сколько лет
приговорить кого-то в тюрьму за меня
недавно подписал что-то письмо
против чего-то, называемого экстремальным
и это было
инициатива, предложенная ледовой иммиграцией
Таможенный контроль за льдом был
новости в последнее время и то, что они предлагали
было партнером технических компаний в
анализировать чью-то социальную сеть
деятельности и помочь им определить
будет ли этот человек быть хорошим
иммигрант или нет, является ли это лицо
может совершить террористический акт или нет
будет ли этот человек быть хорошим
теперь я хочу остановиться здесь
и скажем, есть два вопроса, которые мы можем
спросите, в первую очередь, есть ли
не мы должны иметь инструменты, которые делают
это в первую очередь, но второе
вопрос, который я хочу сегодня затронуть, заключается в том, что
текущий ИИ использует автоматизированные инструменты
что мы должны выполнить эту задачу , не
достаточно прочные, чтобы их можно было использовать как такие высокие
сценарии ставок, поэтому позвольте мне дать вам
Например, молодой палестинец проснулся
день и написал хорошее утро на арабском языке
Facebook и его перевели на атаку
их и на английском и израильском языках
власти посмотрели на английский язык
перевод, они не пытались увидеть, что
он написал по-арабски, и они арестовали его
они позволили ей позже отпустить его, но
они арестовали его, и поэтому эта идея
люди, не применяющие свои критические
навыки мышления для алгоритмов
они будут делать с тобой, и я его называю
смещение автоматизации, и для меня я считаю, что
сочетание смещения автоматизации с
эти системные ошибки, которые мы имеем в
наши инструменты очень опасны другим инструментом
что можно подумать о применении к
социальный анализ социальных сетей
вложения слов, поэтому подумайте о слове
вложения как пространства, где слова, которые
считаются похожими друг на друга
ближе в этом пространстве, чем слова, которые
считаются разными, поэтому вы можете
используйте эти вложения слов для обучения
аналоговые детективы и мой коллега Адам
Недавно Коул и его сотрудники
показали, что эти аналогии могут быть
кодировать общественные предубеждения, поэтому я дам вам
пример, так что у вас есть аналогия
к брату, как к сестре, к женщине
королю, поскольку женщины — королеве, — это
Врач , как женщины нянчить почему видеть так
это то, что дает вам, но это
является социальным предвзятым человеком, является компьютер
программист, как женщина, дает нам
домохозяйка, чтобы вы могли спросить, почему так хорошо
есть эти предубеждения и эта вещь
почему я должен заботиться
об этом хорошо вы можете вообразить
автоматизированный инструмент, который используется для
проанализируйте права, так что скажем, я
рекрутер Я пытаюсь найти кого-то, кто
это компьютерный программист , чьи навыки
близки к кому-то на компьютере
навыки программирования, чтобы я мог видеть вещи
как Java Python C ++ и резюме, но
Я также увижу, что этот человек
защитник в Университете Вермонта
это говорит мне, что этот человек, скорее всего,
быть белым мужчиной , и я мог бы иметь
похожее резюме точно такая же квалификация
но этот человек сейчас в команде софтбола
капитан в колледже Spelman, который является
HPC исторически черный колледж, поэтому для
женщины, и поэтому этот человек , скорее всего,
быть черным женским софтболом- капитаном
так что теперь, если у меня есть этот инструмент, который
говоря, что расстояние от черного
женщина к компьютерному программированию много
выше, чем мужчина, тогда белый мужчина
то вы распространяете эти предубеждения
так что мы распространяем предубеждения и
способы, которые мы даже не понимаем правильно
теперь еще один инструмент, который я хочу поговорить
об этом в очередной раз
правительство в правоохранительных органах
поэтому я призываю всех вас
прочитайте бессрочный отчет, который
говорит о том, что один из двух
Американские взрослые находятся на грани лица
базы данных распознавания один за другим и один раз
мы снова имеем два вопроса:
есть ли у нас такой
система наблюдения AI в первом
место, но второе, что я хочу
говорить о том, есть ли лицо
инструменты распознавания, которые мы в настоящее время имеем
достаточно прочны для проведения таких
наблюдение
um в таких сценариях с высокими ставками и
ответ — нет, так что вы, возможно, слышали
о широко рекламируемой Google
фотографии, классифицирующие некоторых чернокожих людей в
горилл и мой коллега радостный бык
Лимини, и у меня была бумага, говорящая о
в основном описывая тот факт, что
коммерческая гендерная классификация
помощники имеют очень высокие коэффициенты ошибок
для женщин особенно темной кожи
тонизирует, что такое пол
система классификации думает об этом как о вас
Я знаю, что это система, я показываю ей изображение
и это говорит мне пол лица
в изображении хорошо , я до сих пор я показал в
образ лица, и это просто дает мне
двоичная метка мужской самки она не
обрабатывать любые другие типы
все и даже с этим
ограниченный очень очень ограниченный
сценарий здесь вы видите, поэтому я показываю вам
частота ошибок по мере того, как вы становитесь более темными и
темнее и тон кожи, поэтому давайте посмотрим на
IBM, например, для более светлой кожи
у вас есть частота ошибок 5,1% и
то вы доберетесь до 46,8%, что почти
вероятность случайных ошибок, поэтому наши инструменты
недостаточно надежны для использования в
Мы используем их прямо сейчас
мы не знаем , какие виды уклонов были
потому что все эти маленькие
Инструменты AI нанизаны вместе и
используется в сценариях с очень высокими ставками
так какие решения у меня есть все
ответы
У меня нет ответов.
есть некоторые идеи для некоторых частей
решение, поэтому в моем сообществе в моем
исследовательского сообщества есть много
люди, включая меня, которые исследуют
технические решения, поэтому бекон
математическое понятие справедливости, но я
хочу сказать, что до того, как мы получим
там мы не можем игнорировать социальные и
структурных проблем мы не можем игнорировать
факт, что существуют определенные группы
люди, которые подвергаются серьезной
группы людей, которые могут быть
неблагоприятное влияние этих предубеждений по
эти методы эпиднадзора и
группы людей, которые создают
участвующих в создании этой технологии и
раздавая это правильно, они выглядят как
это они не похожи на людей, которые
контролируются и подвергаются серьезной
и неблагоприятно влияет на это
технологии в настоящее время у нас нет каких — либо
правил или правил или стандартов для
выяснить, какие инструменты вы можете
использовать для этой цели, и я защищаю
законов и стандартов документации , так
Я хочу закрыть, сказав кучу
другие отрасли были здесь, я не
первый так, например , я пришел
аппаратный фон и я имел обыкновение
схем проектирования и в схемах, которые мы имеем
что-то называемое спецификацией, так что каждый
компонент от простого, как резистор
так сложно, как процессор поставляется с
что-то называется листом данных, который сообщает
стандартная рекомендуемая работа
характеристики отказов и т. д. никто
не слышал о техпаспорте не в порядке
и я сторонник, я думаю, нам нужно
имеют листы данных для наборов данных и некоторые
таких автоматизированных инструментов , которые в настоящее время
используемые в разных местах, мы должны иметь
информация о рекомендуемом использовании для
Например, если вы собираетесь использовать высокое лицо
алгоритмы распознавания для высоких ставок
сценарии, которые должны иметь
различная характеристика для некоторой игрушки
мы должны иметь стандарты
которые описывают это, и поэтому мои коллеги
и я написал бумагу, смывающую
этот
идея, и если вы заинтересованы в ней, это
Зена, она для наборов данных, и ты
может проверить это во второй отрасли I
хочу поговорить о чем-то, что мы все
знать о праве на автомобильную промышленность
поэтому , когда автомобили вышли на дорогу в
нас не было никаких знаков остановки или
ремни безопасности или водительские права или пьяные
законы о вождении или что-то в этом роде
и было так много несчастных случаев и
даже когда ремни безопасности были
1967 человек не хотели их использовать
должны были быть массовые социальные
кампания пытается убедить человек
использовать ремни безопасности и была эта проблема
и все еще существует это
проблема предвзятости в автомобилях тоже, потому что
некоторые из вас могут знать, что автомобиль
производители только проверяли
автомобили с использованием краш-манекенов с
прототипные мужские характеристики, поэтому
то вы оказались с этими автомобилями, которые
были непропорционально убиты женщины
и дети правы, и это было очень
недавно, что правительство санкционировало
что они должны проверить свои автомобили с помощью
краш-манекены с прототипической женщиной
характеристики, а я говорю
примерно в конце 90-х, когда я говорю очень
недавно на самом деле существовал суд
мнение в 20 — е годы спрашивать или нет
автомобиль был по своей природе злым и
это напоминает мне о текущих разговорах
которые происходят в отношении ИИ, или
не по своей природе зла — роботы
собираюсь убить нас всех и т. д., поэтому я нахожу это очень
очень интересно и важно идти
вернуться к истории и посмотреть на другую
отраслей и провести параллели
наконец, я закрою , говоря о
очень важная отрасль , которая является
отрасль здравоохранения, поэтому некоторые из вас могут
знают, что клинические испытания не были
не является законным в Соединенных Штатах и там
также было много неэтичного препарата
эксперименты, которые
маргинальные сообщества настолько уязвимы
люди из цветных солдат
беременные женщины- заключенные и т.д.
и даже когда — то была процедура
имеют клинические испытания, угадывают, что однажды
опять же не было закона, который
что в вашем клиническом испытании вам необходимо
иметь людей разных групп
прежде чем тестировать ваш препарат на разных
групп, прежде чем вы ставите их на рынок
и что вам нужно дезагрегировать все
результаты этих групп и снова это
был очень совсем недавно , что Соединенные
Правительство государств обязало
предстоит сделать
для клинических испытаний, так что теперь у вас есть
исследования показывают, что 8 из 10
препараты , которые были выведены из
с 1997 по 2001 год
несоразмерно пострадавшие женщины это
потребовалось много лет для установления стандартов
в этих отраслях, и мы
все еще страдающих от
были распространены в этих других
чтобы мы учились на этих
других отраслей промышленности , а не делать то же самое
Точная вещь с ИИ, которую мы должны иметь
ограждения на месте, и мы должны сделать
Убедитесь , что группа людей участвует
в создании технологии напоминают
люди, которые используют технологию
благодарю вас
вы
Please follow and like us:
Be First to Comment