Press "Enter" to skip to content

How do we insert morals into algorithms | Christian Hernandez | TEDxAthens


меня зовут Христиан Эрнандес. Я
венчурный капиталист моя работа моя страсть
для финансирования технологий и инноваций
они приведут к разрушению и
значение пару лет назад я был в
Оксфордский университет выступает с речью о том, что
дама журналист в задней части
фанатка Ханна задала мне вопрос
она сказала, что если ваша работа заключается в финансировании
нарушение, чья работа заключается в том, чтобы
финансируйте работу, которую вы нарушаете ,
вопросы, которые вы сидели со мной когда-либо
поскольку
и чем глубже я вхожу в продвижение
технологии вокруг искусственных
разведки робототехники и геномики в
больше я действительно начинаю думать, что мы
необходимо начать задавать этот вопрос и
определение ответа , но не только говорить
о работе теряются, но
на самом деле воздействие , что те ,
технологии будут иметь на нашем
общества или экономики и даже нашей человечности
тогда резкая революция была
трансформационный он изменил наш
определение городских центров изменилось
рост населения и даже имеет
некоторые негативные последствия для нашей планеты мы
знайте, что задним числом в течение следующего
десятилетий ускорение искусственных
интеллектуальная робототехника и геномика
изменить нашу планету и нашу человечность как
хорошо мы знаем, что с нетерпением ожидаем, что мы
может не знать, насколько быстро или как
глубоко эти изменения произойдут так
мы сидим на этом острие
один раз в жизни в
человечество фактически проактивно думает
обсуждать и обсуждать и
изменений, которые произойдут с нами
и все же я боюсь, что слишком мало нас
на самом деле понять , что тоже происходит
мало кто из нас на самом деле имея
и слишком немногие из нас
фактически действуя на это, нам нужно начать
говорить о морали и этике, когда мы
о технологиях, которые вы, возможно, захотите
знать, почему мы хотим обсудить
что-то пушистое и мягкое
в качестве моральной этики мы говорим о
технологии, правда, это технология
не имеет морали нравственности предъявляются
технологии ее создателями и ее
пользователей в качестве футуриста GERD Leonard недавно
написал в своей книге технологию versa
Манатея — основной вызов
в том , что в то время как технология не знает этики
норм или убеждений
функционирования каждого человека и каждого
общество основывается на них
являются основой, на которой
общества, и мы, как
технологов корпоративных корпораций
правительства и общества преследуют
эти удивительные передовые технологии
не задумываясь о
моральный и этический оверлей, который мы размещаем
на них и в качестве технолога
гражданин — отец и человек,
беспокоит меня, robert oppenheimer
отец ядерной бомбы лихо сказал
знания нельзя преследовать без
мораль и страх, что мы так позволены
я рассказываю некоторые примеры некоторых удивительных
продвижение в технологии, и все же, как не
обязательно наложение морального
верхняя часть этого может привести нас к неправильному
мы живем в эпоху данных и
алгоритмов продвижения в искусственном
интеллект будет потрясающе
разрушение сегодня искусственный
алгоритм интеллекта может
миллионов рентгеновских лучей и с этими знаниями
определить, что черное пятно в моем собственном рентгеновском снимке
диагностировать или помочь врачу диагностировать меня
скоро алгоритмы искусственного интеллекта
поможет управлять самоходными автомобилями, которые
полностью изменится или
пейзаж или понятие транспорта
и даже уменьшить смертельные исходы, вызванные
автомобильные аварии сегодня наш официальный
разведывательные роботы фактически делают
решения о распределении инвестиций
мой пенсионный банк, поэтому помогал мне
быть лучше финансово, но также иметь
деньги для моего выхода на пенсию, которые могли бы
необходимо, и они просто собираются
продолжать ускорять
но фактически не думая о
добавление моральных слоев этических слоев к
эти алгоритмы они могли бы на самом деле
приводят нас к неправильным решениям и
неправильные результаты , это пример в
Соединенные Штаты, что министерство юстиции
создать алгоритм, предназначенный для
помочь судьям сделать определение
будь то предоставление условно-досрочного освобождения или
не основано на вероятности того, что
заключенный может совершить еще одно преступление в
в будущем алгоритм
количества данных и предназначалось для прогнозирования
независимо от того, отличается ли этот человек от другого
человек был риском для общества
проблема заключается в том , что этот алгоритм был
массово предвзятый анализ с помощью
организация Pro Publica доказала
что алгоритм будет прогнозировать с
77% больше вероятности того, что черный
заключенный был более опасен для своего общества
чем любой другой, и была построена предубежденность
в алгоритм его создателями
смещение исходило из данных о том, что
алгоритм использовал, чтобы сделать это
прогнозирование данных включало такие вещи
как родители-заключенные когда-либо идут
заключен ли заключенный в
площади всего высокого уровня преступности, когда он
может повлиять на принятие нового
преступления и эти данные статистически
влияют на алгоритм, чтобы предсказать, что
чернокожие были более жестокими и рискованными
чем другие, я уверен, что
создатели алгоритма не имели в виду
для того, чтобы быть предвзятым, и они пытались
делать что-то хорошее, предоставляя
технологические инструменты для судей лучше
защищать наши общества, но не
думая о нравственности того, как их
алгоритм был построен, они предвзято его
таким образом, что я буду рассматривать
укоризненный мораль технологии
создаются пользователями, что они
также наложенные нами как потребители в
Март 2016 года
Microsoft Research выпустила
эксперимент на дикой природе был чатом
бот под названием Тай Тай должен был говорить
с пользователями на платформах обмена сообщениями
в том числе Twitter узнать у вас учиться
о языке, который вы использовали, и попробуйте
вести человеческий разговор
это звучало мило, это был способ для
Microsoft продемонстрировала свое искусственное
разведки, но это очень
быстро поступили неправильно, очень быстро
обнаружили, что они могут
скажем, что мы никогда не скажем
друг друга в обычном разговоре в
В течение 24 часов Тай ушел от того, что он любил
люди становятся расистскими и фанатичными
защищать Гитлера и девятиэтажного
Холокост и отдел по связям с общественностью
быстро взял его вниз и не увидеть
свет снова и проблема с
Тей было то, что это была отличная лаборатория
эксперимент, и он должен был сделать некоторые
довольно классный материал, но его создатели никогда
при условии, что Тэй придерживается этических норм
чтобы определить, что может быть
подходящий с точки зрения социального дискурса
социальный разговор между нормальным
людей, и поэтому, поскольку пользователи
что эти этические рамки отсутствуют
они начали шутливо или, может быть, серьезно
пытаясь превратить игру в нечто
что мы не будем чувствовать себя
нормальный разговор, так что мораль
на технологию могут влиять
создателей и данных, а также
пользователи и то, как они применяются, давайте теперь
превратиться из геномики извините
интеллект и говорить о том, что я думаю
собирается быть один из самых разрушительных
технологий в ближайшие сто лет
геномики и редактирования генов — лаборатории в
Недавно Соединенные Штаты разработали
технологии CRISPR, которая позволяет
Вы очень очень эффективно идентифицировать
и очень очень недорогие модифицированные гены
Простейший способ думать о CRISPR
поиск и замена Microsoft Excel
вы предоставляете CRISPR строку
текст ДНК , а если плавает через ваш
тело пытается найти эту конкретную строку
ДНК, и у нее есть ножницы, которые разрезают
что ДНК и она вставляет неиспользованные новые
строка в это пространство в лабораториях сегодня
мы стираем потрясающие потрясающие результаты
от этой технологии ученые
смогли вылечить животных с печенью
болезни с помощью CRISPR и очень недавно
группа ученых объявила, что
они смогли использовать его
выявить и уничтожить вирус ВИЧ
У CRISPR будет потрясающий
воздействие на наше здоровье или
но я думаю, что это также
приходит с некоторыми моральными дилеммами первый
из тех, кто получает доступ к некоторым
технология плетения будет чисто
капиталистическое решение другими словами
те, кто платит больше всего, получают доступ к
он или должен быть демократизирован и
дано всем, у него будет
трансформационного воздействия на человечество и
поэтому, как широко мы хотим
принести пользу этой выгоде для распространения
вторая проблема заключается в том, как иначе это может быть
применяется, если вы начнете использовать это
технологии для изменения зрения и
цвет волос вашего будущего ребенка я мог бы
заплатите за лечение ДНК, которое дает мне мой
волосы назад или может быть на самом деле
применяется, чтобы солдаты сто раз
сильнее или фактически сделать свою ДНК не
восприимчивых к биологическому оружию и
это то, где на самом деле начинает развиваться
как редактирование гена и ген
модификация начинает влиять на то, как мы
считают, что это целесообразно, но
Кроме того, как мы начинаем влиять на то , что мы
определить как людей и при подготовке к
этот разговор я проходил через это
беседа с моим девятилетним сыном
Мы с Себастьяном сказали, что я ему объяснил
понятие CRISPR и понятие
воздействие и изменение генов и людей
он посмотрел на меня и сказал, но папа, что
человека, научного человека
означает, что мы являемся частью вида Homo
сапиенс , что происходит поделиться
большинство его ДНК с другим Homo
сапиенс у некоторых из нас есть
варианты чёрные волосы голубые глаза блондинка
темная кожа, но в целом мир справедливо
подобный структуре ДНК, и
что инкапсулирует человечество, но позвольте мне
Положите, что в контексте люди разделяют
девяносто девять баллов — семь процентов от их
ДНК с неандертальцами или кузенами, которые
были вытерты с лица земли
это довольно похоже и
мы начали модифицировать гены, которые
начали фактически меняться или
ДНК, с которой мы переходим
барьерной точки 1 точки 2 точки 3 и
в какой момент мы идем от людей к
что будет дальше и как мы на самом деле
развиваться во все, что будет дальше, как это сделать
мы действительно относимся друг к другу, если мы
сожительство как два разных вида
вернуться к моему предыдущему вопросу о том, кто
решает, кто получает это лечение или что
но модификации будут
не только биологическое это не только будет
обязательно модификации гена есть
такие, как имплантаты сетчатки, которые позволяют
вы на самом деле видите сто раз
лучше
мы на самом деле выглядели экзоскелетами
которые делают вас
в сотни раз сильнее, и если вы
Китайский военный генерал не мог бы вы
хочу, чтобы солдаты были сотней
раз умнее в сотни раз сильнее
или вы нанимаете кого-то для работы в
ваш завод вы не хотите быть
в сто раз более эффективно сто
раз сильнее, и мы начинаем думать
о том, как мы будем принимать эти решения или
в рамках взаимодействия и
геополитический уровень определяется этим
Понятие прав человека , но то , что происходит
у нас есть люди и что-то еще
какие права будут фактически
вождения или взаимодействия, и кто
защищать, кто и какие типы
в любом случае, я думаю, что мы начинаем
теперь есть некоторые первоначальные усилия
ведут эти разговоры для
Например, ряд инвесторов и
основатели Силиконовой долины создали
открытый ИИ, который является некоммерческим
организация, стремящаяся к Duck Drive
диалог и рамки для
применение искусственного интеллекта
Недавно Microsoft выступила с вызовом
за то, что он назвал новой Женевой
Конвенции Женевская конвенция
правил , определяющих, как страны на
войны лечить гражданское население но
понятие войны изменилось, оно больше не
солдаты стреляют пушками и падают
бомбы друг на друга, теперь есть
нации, нападающие друг на друга
кибер-технологии и биологическая война
и для нас нет правовых рамок
на самом деле определяют, как мы должны быть
защищенный под этим миром Мир
Экономический форум
Давос каждый год и объединяет
правительственные лидеры
бизнес — лидеры являются
вести этот разговор вокруг того, что
он называет четвертый Промышленный
Революция, пытаясь
разговор о потерях в работе
рабочие места будущего об искусственных
интеллект, и это хорошие начальные
попытки провести дискуссию, но я
чувствую, что их недостаточно, потому что они
отсутствует один ключевой компонент, и это мы
миллиарды людей , которые будут
пострадавших от своей инвестиционной технологии
и для кого сообщества общества
стран и даже человечества
изменились в ближайшие десятилетия и
причина, по которой мы не являемся частью
разговор состоит в том, что средний
человек в этой комнате средний
этот мир действительно не понимает
что происходит правильно, мы могли бы
готовят новую историю в Джакарте или Сан-Франциско
Паоло о роботах, которые берут нашу работу или
по-видимому, некоторые ТВ особенные о клонировании генов
и мыши, скопированные в лабораториях, но это
по-прежнему звучит очень научная фантастика и
очень далеко , и утверждают, что это не
эти далекие правительства играют определенную роль в
это, а также правительства должны быть
вождение дискуссионных правительств
следует думать о более высоком применении
их гражданам, но в последнее время
Секретарь Казначейства США, и вы
может сказать, что он действительно не получил
сильно повлияли на изменения ИИ и
робототехника, потому что это было 50 или 100 лет
когда они были фактически запущены
ставить работы со всем уважением сэр I
на самом деле думаю, что это произойдет
гораздо быстрее и гораздо глубже
и даже если он находится всего в 50 лет
которые начинают влиять на детей, они
сегодня скучно, поэтому я действительно думаю, что ты
должны заботиться о нем сегодня есть
единственная роль средств массовой информации в этом
где средства массовой информации должны давать образование
а не пугать нас, помогая нам
понять эти удивительные
технологии, но также помогает управлять
дискуссия вокруг какого каждого человека
общество считает правильным мораль
решения или этические слои на вершине
это приложение, которое нам нужно запустить
став частью беседы
и поэтому я оставлю вас с окончательным
подумайте, учитесь на этих
удивительные успехи читаются о них
удивляйтесь ими, но начинайте с
собственный внутренний разговор о том, как это
может повлиять на вашу работу в вашем сообществе
ваши дети ваша страна ваша человечность
и после того, как вы имели , что внутренняя
беседа расспросила, как вы морально
или этически о них, а затем
поговорите с вашим
соседа, а затем поговорить
с вашими детьми, а затем
разговор с вашим начальником и вашим
выборные должностные лица эти достижения являются
ускоряется очень быстро
и у нас есть этот за всю жизнь
возможность человечеству проактивно
выяснить, где мы могли бы привести или
сообщества или общества или страны
и у нашей расовой технологии нет нравственности
пользователи и создатели технологии
наложил на них эти морали, я думаю, мы
нужно начать разговор о
какое будущее мы хотим и что
мораль удивительно хорошо, отложите на вершине
это большое спасибо
вы
[Музыка]
Please follow and like us:

Be First to Comment

Добавить комментарий