De-Enchanting AI with the Law | Kenneth Anderson | TEDxBoston

[Музыка]
десять лет назад я разговаривал
конференция инженерной робототехники я был
адвокат токена, и разговор был на AI
робототехники и права и в конце
разговоры о руке поднимаются в Q & A и
инженер встает и говорит, что я не
понять, зачем нужен весь этот закон
и действительно он имел в виду все эти
юристы, и все, что нам нужно сделать, это сделать
что все наши роботы и AIS и
все это программируется с помощью
Три закона роботов Азимова и
он не будет спрашивать, сколько людей здесь
где три закона робототехники, но я
на этой конференции и
каждая рука в комнате поднимается роботом
не может повредить человеческое существо робота может
не допускать причинения вреда самому себе, если только
это необходимо для того, чтобы
основные этические соображения человека
для роботов, так что все хорошо, но вопрос
что нас спрашивали, почему нам нужно
ничего больше и в то время там
на самом деле не так много на пути
фактические технологии, которые были там
можно было посмотреть и посмотреть, что их
функция заключалась в том, как они
управляли рисками, которые они представляют
выгоды, которые они получили, дали нам и так
эти обстоятельства он должен был
трудно ответить на этот вопрос из
инженера сейчас быстро перешли к сегодняшнему дню и
мы находимся в совсем другой ситуации, мы
теперь на самом деле видят технологии AAI
технологии переходят от прототипа в
от лабораторных до фактических функций и фактических
продуктов и общества, и поскольку мы делаем это
тогда вопросы права становятся
более важные и надвигающиеся и актуальные
но важно подчеркнуть это потому, что закон
может получить только фактический
технологии становятся актуальными или очень
близко к фактическому, и поэтому мы
достигнув этого момента и не достиг
Это действительно замечательно
положение, в котором мы сейчас имеем
достаточно реальных реальных путей технологии
что мы можем реально говорить о
каким образом общество должно регулировать
их и это захватывающая возможность
регулирование реальных технологий
и во многих отношениях это будет
что позволяет
технологий, поэтому есть огромные
здесь мы должны быть уверены
что мы четко понимаем
различные виды рисков, которые ставятся
и причиненные вред, но это
какие законы и технологии
всегда делалось так посреди этого
мы теперь находим, что
есть вид экстрима и экструзии
извне, что
видные ученые и технологи
говорят нам, что нам нужно
регулировать ИИ, но мы должны регулировать
технологии искусственного интеллекта для
совсем другая причина не по причинам
о рисках, которые возникают сегодня или в пределах
немедленно видимый путь
но потому, что мы должны быть
обеспокоены тем, что в какой-то момент в будущем
эти технологии ИИ могут стать
постепенно умнее и умнее
что они избегают человеческого контроля
превзойти их человеческое программирование
экзистенциальная угроза человечеству и
это будет не так важно
мы не начали разговор
о фактическом регулировании фактических
технологии в настоящее время , и я полагаю , что это
это необычайно плохая идея для публики
политики и регулирования и что
угрожает захватить этот разговор
что мы отчаянно нуждаемся в
современные технологии сегодня
факт я бы сделал еще один шаг и сказал:
что нам нужно активно отталкивать назад
против такого голоса в данный момент
что реальное регулирование наиболее
важно, чтобы вы сопротивлялись
что в значительной степени просто говоря об этом
вещи не являются рисками
экзистенциальные риски для человечества
военная возможность биотехнологии
патоген, который мог бы вам знать, выйти и
страшные ужасные вещи, но эти
имеют некоторый базис в реальных технологиях
даже если они на самом деле не были
когда мы говорим о супер
интеллект, который будет слишком
мы умны для нас и разрухи, которые мы говорим
о чем-то совершенно другом
это в воображении, и я
не думайте, что голое логическое
возможности в возможном мире как
философы могут сказать, что это
риск, и это, конечно, не риск, что
анализ того, что правовое регулирование
и государственная политика может или должна
принимать во внимание и
потому что у нас много рисков
которые необходимо учитывать для
технологии, которые мы на самом деле
теперь видя, что появляется, и может предвидеть
быстро возникает, но один из
возникают вопросы, почему это
происходят с искусственными технологиями, которые я имею в виду в
другие слова, почему некоторые из
выдающиеся голоса в поле
Технологи вы знаете , великие умы в
поле, почему они внезапно переворачиваются
такой режим AI-апокалипсиса
вокруг мнимых возможностей
мы не делаем этого с другими технологиями
никто этого не делает с тостерами
делает это с тостерами, которые связаны
к Интернету вещей хорошо, что есть
это об ИИ, который вызывает возбуждение
эти виды ответов и позвольте мне просто
назовите это искусственное зачарование технологией
обладает этой возможностью для
изобретателей, очаровательных пользователей, и давайте
ясная способность очаровывать
люди правового регулятора
юристы, судьи- регуляторы
и законодатели, а также пение I
означает, что оно заканчивается, ведущее к
искаженные перспективы искажены
восприятия и искаженные ожидания
о том, что такое технология,
возможностей и ограничений и
приводит к искажению способов, которыми мы
подумайте об этом, и это может произойти в
два разных направления, которые он может исказить
нас в виде версий из дистопии
которые предпочитают Голливудский ИИ
апокалипсический апокалиптический ИИ, но он может
также искажаться в другом направлении
в виде утопического направления в
вид фантазий, что эти
технологии создадут своего рода
утопия, в которой мы все тепло и
счастливы все наши материальные потребности:
и мы можем просто посвятить себя
осознанности
это преувеличения различного рода
и вопрос в том, что их приносит
о том, как они возникают сейчас, я хочу
предположите, что это связано с тем, что
технологий таким образом, чтобы они
имеет тенденцию дестабилизировать психические категории
мы имеем , что мы используем , чтобы структурировать
мира и дестабилизировать их внезапно
идея о том, что существуют определенные фиксированные
лимиты и возможности заканчиваются
все размывается и размывается
одна из этих линий, что AI
в частности
разница между существами и вещами
и дестабилизируя эту линию вдоль
с линией выполнения машины
выполнение его программирования на одном
человеческое и человеческое сознание
интенциональность цель и воля
другие эти строки становятся размытыми , которые
искусственный интеллект почти очень
терминология предлагает нам сделать результат
из этого может закончиться тем , что мы
внезапно произошел взрыв психических
возможности вещей, которые больше не
кажется, ограничивают нас не ограничиваясь
что может быть замечательно , пока мы не попробуем
принять это в закон, но в этом
Процесс взрыва возможности
поскольку это приводит к преувеличениям, которые
к этим крайностям АПО апокалипсис
с одной стороны, и ангельским ИИ, поскольку мы
может называть утопическую возможность
другой, я думаю, что они оба ошибки
но теперь особенно технологи
в аудитории соберется
сами да, но я не страдаю от
sci-fi AI enchantment вы знаете, я имею в виду I
я придерживаюсь своего вязания и делаю вещи, я
не под этим чары я хочу
предположим, однако, что это слишком быстро
потому что существуют способы
который может иметь форму ИИ
чары с очень обычными
применения технологий, которые
находятся перед нами сегодня и
возникающие на обозримом пути
технология теперь не требует никаких
научно-фантастических возможностей есть число
способов, которыми это может возникнуть, но
один, который я хочу сегодня определить, — это тот, который
Я думаю, что, по крайней мере,
в мире за технологиями
и это тот факт, что
язык, который мы используем для выражения
действие оказывается точно таким же
слова, которые мы используем для описания действий машины
поэтому мы говорим о людях
она решает, когда мы говорим, что решает
тот случай , мы говорим о том, как решить
слово, которое связано и связано с
всякая целеустремленность человека, которую она решает
потому что у нее есть намерения, потому что она
имеет цель, потому что она будет использовать
то же самое слово, когда мы говорим о
компьютер решив принять меры , как
он выполняет свое программирование
если вы и все в порядке, так долго
поскольку мы имеем в виду, что мы не
на самом деле означает совершенно то же самое, и я
не знаю, какой альтернативный язык
мы придумали, что очень сложно
подумайте о целом новом наборе слов, которые
будет описывать, что делает машина
поэтому мы используем те же слова для обоих, но
поскольку эти два путаются
сплавлены и смешались приглашает очень
очень искаженное восприятие того, что
технологии могут быть теперь технологи
и мой опыт на самом деле очень
внимательны к этой проблеме и не
попасть в него, но я не думаю, что
обычный мир собирается быть в состоянии
для поддержания строгого расстояния между
эти и дифференциации, и я могу
заверяю вас, что правительство юристов
регулирующие органы и законодатели
не быть в состоянии поддерживать любые
расстояние, подобное этому, по крайней мере, если они
не получили образования и не знали о
возможности для того , чтобы сортировать по
отделите, что такое машина и что
неуместные ожидания, импортированные в ИИ
технологий, поскольку мы
определенный набор человеческих концепций теперь закон
играет определенную роль в справедливом регулировании, если
вы играете в обществе. Я сыграл
правила общества, но в отношении этого
закон чародейства может играть определенную роль в
помогать разочаровывать 2d чары
2d очаровать AI и рода снять
некоторые из этих чаров, которые угрожают
искажать и давать нам неправильные представления
и в первую очередь это делается двумя
Одним из механизмов является то, что закон, который
дело с новыми технологиями
долгое время рассматривает технологии ИИ как
они выходят в интернет и говорят, что мы собираемся
помещать их в существующие юридические категории
и правовые категории мы имеем из
там отражены давние человеческие
проблемы, которые не собираются уходить
человеческие ценности, которые у нас есть такая безопасность
есть один, но также
равенства и справедливости и справедливости и
эти другие качества, которые отражаются
в категориях права, а не в
собирается выбросить окно на
учет некоторых технологий ИИ, но они
оказывают своеобразное заземление
технологии и придавая ей ощущение
пределы, которые содержатся в человеческом
цели второй путь, в котором закон может
помочь зачаровать ИИ , называя это силосом
мы , как правило, регулируют частности А.И.
технологий в соответствии с функцией
они играют, а существующие законы и
существующих правил и существующих
регуляторы мягких вождения автомобильных технологий
будет регулироваться Департаментом
Транспортировка национальной автомагистрали
Транспортная безопасность
Транспортная безопасность и прочее
связанные с конфиденциальностью, связанной с
Использование программного обеспечения для распознавания лица
интеллектуальная аналитика и вынесение приговора
поведение преступников всех из них
различные виды вещей будет , как правило,
регулироваться тем, кто имеет дело с этим
вид вещей уже и эффект
то есть разрушить вид
иллюзия ассоциировала чары
связанные с искусственным интеллектом
рассматривать как одну категорию все по
мы разбиваем его и дискретно и
гораздо более ориентированные на человека формы
технологии и регулирования
однако , конечно , риск того, что сам закон
может стать очарованным и что все эти
люди, которые являются частью юридических
игроки могут стать
очарован, и я думаю, без согласованных
осознание и образование
да, я думаю, они будут зачарованы и
они будут очень искажены
впечатления о том, что технология
что он способен на то, что его
существуют два основных
защиты от такого рода
Чары закона один из них
является то , что просто люди , вовлеченные в
это должно быть очень сложным
о самой технологии, и я не
на уровне компьютера
ученых и инженеров, но я имею в виду
таким образом , чтобы иметь возможность задавать сложные
вопросы, свидетельствующие о
отдельные области машинного обучения AI
и т. д. и т. д. на уровне, который
помочь им задать вопросы о
эти вещи с точки зрения нашего
использование человеком технологии
и это перспектива , что
у регулятора должны быть они должны быть
способен перевести это во что-то
это конкретный второй способ, которым
мы завершаем этот риск
чары важны, потому что это говорит
мы очаровываем, потому что мы
настаивать на том, чтобы мы относились к
как что-то вроде внешнего или
вне человеческого опыта или чего-то еще
вне людей, но что это
просто еще один инструмент, подобный любой технологии
что люди изобрели когда-либо и
если мы увидим, что технологии ИИ просто
другой человеческий инструмент, это снова будет иметь тенденцию
обосновать их в вопросе о том, как
хорошо, они при выполнении вещей
мы заботимся о людях и о
насколько закон и регулирование
сделать такой вопрос конкретным
насколько это хорошо, как инструмент, тогда мы будем
спрашивая об эффективности этого
инструментом, в котором он может быть улучшен
мы не будем сидеть вокруг, беспокоясь
о технологии получения технологии ИИ
получать постепенно умнее и
умнее и умнее
пока он не разрушит нас, мы разрушим нас,
вопрос, который возникнет для EIA I
никогда не будет, это технология
слишком умный
проблема никогда не будет такой
технология слишком умна, она будет
всегда быть, что это слишком глупо и слишком
глупый в том смысле, что это человек
инструмент, и это то, что нам нужно, и используйте
он за это означает то , что если мы не будем
пройти мимо очарования ИИ, тогда мы
рискуют мышление проблемы
что это слишком умно, и если мы создадим его
таким образом, как вопрос рисков
слишком умные, что мы должны
то мы собираемся завершить производство
плохой закон для хорошей технологии , если на
с другой стороны, мы преодолеваем ИИ
чары, которые мы преодолеваем, затем в
в этом случае мы сможем сосредоточиться на
вопрос об ИИ как инструменте, который
мы можем сделать лучше, и мы
понять их, что мы можем лучше
технологии через лучшее право спасибо
[Аплодисменты]