When Should We Trust Machines? | Vasant Dhar | TEDxHamiltonCollege

как маленький ребенок, я столкнулся с этим
шаткий мост, чтобы отправиться в школу
был в Кашмире , который является высоко в
Гималайский хребет на севере
Совет Индии не было телевидения в
моя жизнь
нет передовых технологий телефона на
время было хорошим коротковолновым радио
компьютеры существовали в нашем воображении, но
у нас были полуавтоматические машины
как этот, который я часто принимал
Сейчас мы вытаскиваем iPhone и
позвоните uber, это невероятно просто в
несколько коротких десятилетий, но что еще больше
невероятным является изменение
технологические изменения, которые мы увидим в
следующее десятилетие или два, как искусственные
интеллект или ИИ для краткости становится
более вездесущий в нашей жизни
все больше и больше данных, которые мы
генерировать с каждым днем несколько
лет, что uber будет
другая машина и еще одна машина
будет говорить со всеми транспортными средствами на
дороги в режиме реального времени, гарантирующие, что люди
не возились , так как мы так
склонный к росту ИИ создал
все виды страшно говорить о машинах
заменяя нас, потому что они могут
вещи лучше, чем мы можем и там
для людей не останется
там говорят о фьючерсах, где
машины могут превратиться в наших повелителей
дистопией, где мы теряем
свобода, когда машины используются неправильно, и мы
потерять нашу свободу и наше право быть
остался один, когда машины стали частью
ткань нашей жизни мы становимся
зависящие от них как индивидуально, так и
как общество, поэтому мы должны беспокоиться о
все идет не так, каковы риски
связанных с автоматизацией, правда
что машины могут и будут ошибаться
это особенно касается машин, которые
узнайте из данных, которые вы, вероятно,
испытал это в своей жизни, я уверен
у вас было несколько менее удовлетворительных
опыт с этим автоправителем или
на телефоне, как этот
где он автоматически исправляет то, что вы
не совсем намерены не то , что не это
Машина думает о второй проблеме с
такие системы ИИ — это то, что мы никогда не
полностью уверены в том, что они узнали
и что они не узнали, что
что autocorrect на вашем телефоне действительно нет
непонятно, иногда это не может показаться
чтобы мои намерения были справедливыми даже после
Я неоднократно отклонял его предложения
в то время как в других случаях это удивляет меня
завершение редкого собственного существительного даже
хотя такие системы в среднем хорошо
мы, как правило, теряем прозрачность, нет
простой способ разоблачить их
решения , которые они не могут вникать так что
это головоломка AI в двух словах, когда
мы должны доверять машинам, которые могут
ошибки и не могут напрямую объяснить
их поведение я сходился на этом
вопрос как ключевой вопрос для систем ИИ
основанный на более чем 20- летних исследованиях, которые
начался с простым вопросом в
в середине 90-х я мог бы разработать машину, которая
может научиться делать хорошие инвестиции
решения сами по себе на основе текущих
с самого начала было ясно, что
машина должна быть адаптивной к
уметь изучать новые вещи, как только
вдоль машинного обучения казалось, что
естественный подход, и мне повезло
что несколько учреждений доверяли мне
свои деньги на этом новом способе
систематическое инвестирование за первые 10
лет или около того я держал машину на
плотный поводок моих коллег, и я бы
иногда переоценивают его решения, например, если
они казались противоречивыми или просто
прямо вниз или если он просто подумал, что мы
знали, что мы многому научились во время этого
самое важное, что мы обычно
хуже, чем машина Клинт
Иствуд подвел итог этого хорошего человека
знать его ограничения, которые мы в конечном итоге
включил машину на автопилоте в 2009 году
после большого анализа вокруг
компромиссы, связанные с предоставлением
контроль
к машине, но на этот раз мы наблюдали
это достаточно долго, чтобы понять его
поведения и построения адаптивного
Этот опыт привел меня к
осознать, что Доверие сводится к двум
независимые элементы я объединил эти
два элемента в полезный инструмент, который я
собираюсь поделиться с вами сейчас, так что
как думать о доверии в области
наука о данных предоставляет способы оценки
неотъемлемая предсказуемость проблем
и эта предсказуемость изменяется от нуля
к одному думать о нуле, поскольку это
невозможно сделать лучше, чем случайный
тогда как один означает, что ваши прогнозы
отлично, вы никогда не ошибаетесь, например
если я попрошу вас предсказать, кто выиграет
Super Bowl в следующем году шансы
вы ошибаетесь, кто знает так много
все может случиться между
но если я прошу вас предсказать , будет ли
президент будет хорошо читать завтра
что это в значительной степени уверен , что в настоящее время в качестве
практический пример автономного транспортного средства
такие как самозаводящийся автомобиль,
более высокий конец предсказуемости
спектра, поскольку связанная с физикой
с навигацией хорошо понятны и
фактические данные обнадеживают
предлагая несколько ошибок вождения в
контрастный онлайн-таргетинг — это очень
сложная задача предсказания это очень
трудно показать кому-то объявление в
точно в то время, которое побуждает
их действие на инвестирование аналогично
сложно, поскольку все виды непредвиденных
события происходят все время, тогда как
кредитование может упасть где-то в
средний
поэтому этот доступ к предсказуемости является хорошим
прокси для того, как часто система будет
неправильно на самом деле может показаться разумным
думать, что мы должны доверять машинам
с более предсказуемыми проблемами и
не с менее предсказуемыми, а с
что мышление игнорирует критический фактор
а именно, насколько плохи вещи, когда
машина ошибочна, это стоимость за
ошибка, которая измеряет последствия
неправильный
подумайте об этом в денежных единицах, которые
варьируются от нуля
два очень больших, как правило, мы заботимся о
наихудшая ситуация рассматривает общественность
реакции, если водитель без водителя впадает в
куча детей по ошибке, это
действительно высокая наихудшая стоимость ошибки
в отличие от инвестиционного портфеля
риски не могут быть
довольно низко
аналогично онлайн-таргетированию это не
если большая часть объявлений игнорируется
потому что они относительно дешевы, но
ошибки кредитования могут быть относительно
в результате невыполнения обязательств по кредитам, поэтому
вот что выглядит модель доверия
как с точки зрения этих двух измерений
и это простая карта тепла в более темном
мы должны доверять машине
в темно- красных областях мы не должны
подумайте об этом, если машина никогда не делает
мы должны доверять этому, но даже если
он делает некоторые ошибки, а затем не
дорого, что все в порядке
но это какой — то критический уровень затрат мы
начинают терять доверие к этой критической стоимости
уровней вдоль оси предсказуемости
составляют границу автоматизации
граница автоматизации — бледно-зеленый
зона между красным и зеленым треугольниками
это объясняет, почему мы можем доверять машине
с принятием инвестиционных решений, но не
за рулем нас вокруг , несмотря на то ,
что рыночные прогнозы часто ошибочны
в то время как легковые автомобили вряд ли
ошибки в худшем случае
преследует нас, так что несколько месяцев назад я поехал
Тесла друга в режиме автоматического вождения в
в центре Манхэттена, поэтому здесь я был данными
ученый, который рекламировал
преимущества автономных систем обучения
Я утверждал, что машины лучше
чем люди во многих задачах, и все же здесь я
это был мой момент истины
я был готов положить свою жизнь , где мой
рот было трудно это было действительно трудно
но я в конце концов отпустил, когда я
понял, что он ездил лучше, чем большинство
водителей такси в Нью-Йорке, но я не
готов полностью отпустить
граница автоматизации также показывает нам
где возможности лежат
представьте все новые виды
возможности, предоставляемые машинами, которые
могут видеть лучше, чем мы можем в спорте для
Например, человеческие судьи могут скоро стать
прошлого в их нынешних ролях
который рассматривает количество
ошибки, которые люди делают, это будет
вопрос времени прежде, чем мы
машины, помогающие судьям в
в режиме реального времени с решениями это
пример рефери AI, пересекающего
границы автоматизации за счет улучшения данных
и алгоритмы в зеленую зону
аналогично хирургии катаракты стали
автоматизированы, поскольку машины становятся действительно хорошими
при этой задаче лучше, чем у большинства
время вообще такого рода способности
машин, чтобы хорошо видеть и читать
затем возможность всех видов новых услуг
услуг в областях , от здоровья
уход
в навигации процесс будет воспроизводиться
как водительские болиды становятся лучше
улучшение точности прогноза из
более точные данные и алгоритмы перекладывают
их право, но регулирование будет
играют ключевую роль при определении
как быстро появляются страховые рынки
это строгое регулирование
и увеличивает стоимость ошибки
переместить их, тогда как регулирование, которое
ограничение ответственности приведет к их
будет доверять беспилотным автомобилям с
навигации, когда они пересекают
граница автоматизации в зеленую зону
что ставит вопрос о том,
форма границы автоматизации
от него исходит от всех нас
наши вкусы и предпочтения
общества и регулирования, если мы не
доверяйте Машине с большой границей
будет обнимать горизонтальную ось и
эта зеленая зона меньше и меньше, но
в какой-то момент мы должны противостоять
компромиссы, например, без водителя
автомобили уменьшают смертность, скажем, десять тысяч человек
год, что составляет примерно 25 процентов всех
летних автомобильных смертей, но
повод сделать ошибки, которые нам понадобятся
договориться о стоимости этих ошибок в
чтобы получить больше преимуществ для
общество, которое выбирает эти предпочтения
будет выражаться через форму
граница автоматизации, так что это
все означают практически для всех нас больше
в частности, что это означает для всех
молодежи и как они должны
думать и готовиться к будущему
давайте обратимся к двум вопросам:
начал с возможного dystopian
фьючерсы в будущем занятости
довольно безопасная ставка, чтобы предположить, что как новый
таких как AI-арбитры и
автоматические хирурги появятся, они будут
продолжать двигаться в направлении правой стороны
тепловой карты
действительно, целью науки о данных является
формирование знаний из данных,
сдвигает проблемы в направлении правой стороны
тепловой карты и увеличивает наше доверие
в машинах некоторые профессии, такие как
профессора и полиция все еще находятся в
красная зона из-за реального времени
спонтанность и суждение, что они
требуют, что все еще вне досягаемости
машин в настоящее время, но в
Я могу представить, что вместо
робот или, по крайней мере, большинство из меня,
замененный роботом, действительно представьте себе
будущий разговор TED, данный роботом
Дарт Вадар, который спрашивает, когда мы должны
доверяйте людям, которых мы, безусловно, даем
машин много данных о наших
поведения и действий, на которых они
могли бы основывать свой ответ , чтобы
карта тепла в практический инструмент, который вы
должны быть в состоянии сделать некоторые
основные расчеты, такие как сравнение
предсказуемость проблем на основе данных
вы знаете, где они лежат на
спектр всякий раз , когда я встречаю новый
проблема, я не могу не спросить себя
где он лежит примерно на том
спектр предсказуемости, который действительно
полезная вещь , чтобы знать , что я не предлагаю
что вы все превращаетесь в данные
ученых, хотя это прекрасно
отличная профессия, но вы понимаете
его основной словарный запас и возможности I
расскажите всем моим ученикам, что в этот день
и возрастные вычисления и навыки данных
новая математика, которая пронизывает все так
все молодые люди там будут
слушайте и подготовьте соответственно так
если мы будем беспокоиться о dystopian фьючерсах
мы, конечно, должны, однако,
Системы ИИ в нашей жизни будут зависеть от
которые мы делаем, когда мы доверяем таким
систем, и когда мы этого не делаем, мы должны
разумно выбирать эти варианты
нам нужно будет сохранить свободу демократии
безопасность частной жизни право оставаться
в одиночку смысл , который мы должны поставить высокую цену
ошибки в ситуациях, когда это
рискованно
недавняя эксплуатация социальных сетей
платформы в последнем президенте США
выборы были впечатляющим опытом
о рисках доверия таких
платформы как нейтральные источники новостей, они
нет, и их можно использовать для нашего
ущерб Facebook обещал изменить
его объективная функция в пользу большего
значительного взаимодействия, но в конце
на следующий день мы всегда должны допрашивать
мотивы и цели и предубеждения
присущей любой коммерческой платформе, что
о страхах массового перемещения рабочих мест
история дает несколько подсказок в поле
финансов был один из первых
охватывать и подвергаться воздействию компьютеров и
автоматические торговые комнаты с тысячами
людей были заменены машинами и
люди, которые могли бы работать
их в новых и творческих способах решения
проблемы тысячи рабочих мест десятки
тысячи рабочих мест были устранены, но
технология продолжает меняться
мы платим так, как мы заимствуем то, как мы
инвестировать и то, как мы регистрируем право собственности
и занятость в этой отрасли
фактически ползли с
исключение финансового кризиса, в то время как
некоторые из этих новых рабочих мест таких вещей , как
технологи интересно
большинство из них — такие роли, как
финансовые менеджеры и аудиторы, я думаю
мы не хотим доверять машинам с
списание денег еще или когда
управление людьми, но важная вещь
следует отметить, что эти новые аудиторы и
менеджеры гораздо более технически подкованные , чем
их предшественники так же, как машины
делать больше, похоже, они создают другие
работа для людей, подталкивающих их к новым
роли, которые взаимодействуют с машинами или
люди, которые работают с ними, это
вещи будут играть в других областях , таких
в области здравоохранения спорта управления законом
если бы я был
ставка, на которую я сделаю ставку
Спасибо
вы