Can We Engineer Social Ecosystems? | Kevin Esvelt | TEDxCambridgeSalon

[Аплодисменты]
так что давайте начнем с очень важного
вопрос, когда мы должны пытаться
инженер общих систем экологичных в настоящее время это
сложный вопрос, и это один из лучших
адресованные местным общинам, которые
вероятно, будут затронуты, и когда вы
пойдите к людям, и вы попросите их поделиться
их озабоченности и критику
конкретное предложение вы получаете некоторых людей
которые в восторге, и спрашивают, как они
может помочь вам получить некоторых людей, которые имеют
конкретных технических проблем, которые они
хотите, а затем у вас есть
которые ставят под сомнение саму посылку
идея заключается в том, что они хотят знать, как можно
мы оправдываем нашу кажущуюся гордость в попытках
для разработки сложной экосистемы, которую мы
не понимаю сейчас, я глубоко
уважать эту особую озабоченность, поскольку
Я считаю, что мы морально
ответственный за все последствия
наши действия мы одинаково ответственны
за последствия выбора , чтобы сделать
ничего и много экологических проблем
по всему миру достаточно серьезны ,
нравственная стоимость ничего не делать , может быть
слишком велико, если вы посмотрите на Гавайи, которые у вас есть
инвазивные комары, распространяющие птицу
малярии, которые угрожают
искоренить последние несколько знаковых родных
виды птиц у вас есть инвазивный грибок
это нападение на самое обильное дерево
в гавайском лесу и, конечно же, вы
имеют такие виды, как крысы, которые делают то, что
они делают всюду, что заставляет многих
местных видов на грань
исчезновение и по краю ,
естественный мир о человеческих эффектах
здесь, в Новой Англии, наша любовь к
красивые лесные луговые среды
привело к непреднамеренному увеличению
количество тиков и белой ноги
мышей, ответственных за их заражение
патогены, вызывающие болезнь Лайма и
хуже, поэтому мы в эволюции скульптуры
группа работали над
все эти проблемы вместе с
местные сообщества, которые знают эти
окружающая среда
и нам придется жить с
последствия того, что они решат
но что действительно поразило
некоторые из этих разговоров — сколько
люди сказали, что вы знаете эту ратушу
обсуждение того, следует ли нам
генетически инженер пустыни был
гораздо более спокойным и рассудительным, чем
дискуссии по большинству культурных тем
в настоящее время, и это говорит о том, что существует
что-то не так, позвольте мне попытаться объяснить
с точки зрения экологического
и эволюционный инженер, что может быть
неправильно с нашими социальными экосистемами,
первое правило эволюции в
когда вы пытаетесь направить
это для определенной цели, вы получаете
то, что вы выбираете, для чего нет
обязательно, что вы хотите сейчас, это
важно для общества из-за чисел
теперь, пожалуйста, поднимите руку, если хотите
цифры все в порядке, я люблю цифры, потому что
числа являются надежными надежными якорями для
реальность без цифр была потеряна в
туман неподдающейся неопределенности мы
не знаю, как важно все, что мы делаем
если мы не можем измерить проблему
не все одинаково легко
количественно и вводит смещение так
например, мы хотим максимизировать
благополучия , но это трудно измерить
тогда как ВВП — красивое единственное число
поэтому у нас есть экономическая политика, которая
продвигать такие вещи, как гибкий труд
рынки теперь, пожалуйста, поднимите руку, если
вы были воспитаны в районе Бостона.
вы здесь, пожалуйста, поднимите руку, если
вы живете в пределах блоков расширенного
семье несколько в блоках доверенного
Друг с детства Wow некоторых людей
многократно удачлив здесь как насчет
надежного друга из колледжа, а также
мало, но не очень много, это то, что мы имеем
занимаются максимизацией роста, а
стоимость этого рынка гибкого труда
измеряется в разорванных человеческих отношениях
и это те отношения , которые
трудно измерить, которые действительно составляют
социальная структура общества
так что я подозреваю , что многие из
основная причина наших проблем
на потерю социальной ткани
доверие друг к другу , и только самые
видимые из этих последствий
измеримые вещи, такие как рост
смерть от отчаяния
так что кратковременная экономическая политика нарушена
наряду со многими вещами, такими как
сосредоточиться на цифрах поддающихся количественной оценке вещах
как ВВП в качестве доверенных лиц, которые трудно измерить
такие вещи , как благополучие человека , и это может
однажды работали, но сейчас нет
больше работает еще один урок из
естественным миром является то, что эволюция не имеет
моральный компас, то есть тот, который
повторения выигрышей становятся все более
независимо от стоимости
если вы смотрите там в
в природном мире более 40% всех
виды считаются паразитами
экосистемы не оптимизированы ни для чего
и это относится к нам, потому что
капитализм — это умный способ
использование эволюции для удовлетворения потребностей потребителей
предпочтения любого, кто может предложить лучше
товаров и услуг, которые люди хотят в
постепенно снижаются цены
с ресурсами , чтобы продолжать делать это и
у вас есть добродетельный цикл гонки вооружений
удовлетворять предпочтения потребителей и
более эффективно это то , как мы создаем
богатство, и в одних
отрасли бытовая электроника ясно
но капитализм , похоже, не так
эффективность в других за последние 50 лет
стоимость жилья, если вы контролируете
размер и качество увеличились на 50%.
стоимость начального образования больше, чем
удвоился без очевидного улучшения
изучение стоимости колледжа и
здравоохранение увеличилось еще больше
чем в 10 раз снова не действительно
очевидные улучшения и результаты здесь
что происходит хорошо, вы можете сказать, что жилье
это эффективная ограниченная поставка земли
растущего населения, особенно вблизи
берег
и вы можете извинить других, сказав
хорошо, если у вас есть такое богатство, как
мы делаем сейчас здравоохранение и образование , казалось
вполне разумные вещи, чтобы провести
избыток, но тогда почему стоимость
инфраструктура растет настолько, если
вы смотрите на Нью-Йорк самых последних
линия метро 2,2 миллиарда долларов за милю
Это нелепо
это выброс, но это смешно и
это не одна тенденция, и
это странно, потому что у нас много
лучшие технологии для всего
необходимых для инфраструктуры и для
здравоохранение и все
от лучших компьютеров до лучшего бетона
миксеры мы ожидаем , что все из них в
быть дешевле не дороже
и это не будет заработная плата или даже
действительно выгоды , несмотря на здравоохранение
так что происходит хорошо в
если вы руководите
эволюционный эксперимент на некоторое время
может работать отлично для первых нескольких
но потом, в конце концов, вы
собираются бросить некоторые читеры или в
паразиты , которые просто высасывают из
другие, и, как мы знаем, если вы посмотрите на
природы, тем дольше вы
хуже, так что я подозреваю, что
капитализм и , возможно , демократия тоже
действительно только что были заражены
распространение эволюционных читеров
люди все больше и больше
способы умного сифонирования дополнительных
ресурсов, и это нарушает систему
медленно не полностью разрушает его, но
это делает все более дорогим и
это увеличивает неравенство и, в свою очередь ,
вносит непосредственный вклад в политическую
поляризации и гнева только потому, что
мы застряли со все более высоким
счета за те же услуги, что и мы
использовались, чтобы получить намного дешевле, так кто
собираюсь заплатить дополнительно, это намного сложнее
прийти к согласию так в данный момент в
говорите, что вы, вероятно, спрашиваете, что мы можем
хорошо сделайте лабораторную работу, как вы
избавиться от читеров у нас есть очень простой способ
мы применяем перегретый пар и
30 атмосфер давления, и они
все ушли , он прекрасно работает тот же самый вид
кажется, работает для общества, если вы
посмотрите на историю, которая является надежным способом
для сокращения неравенства и устранения экономических
поиск ренты — военный голод
и массовая смерть, поэтому нам действительно нужны некоторые
другие решения здесь и, кстати, вы
должно быть подавлено сейчас, я имею в виду
это некоторые из наших самых экологически чистых систем
что мы гордимся, я должен быть
работая эффективными в умных
эволюции, и они не
работая, если вы такой оптимист, как я
вы, вероятно, хорошо думаете, что есть
должна быть какая-то человеческая культурная экосистема
это работает очень хорошо, и я
ученый, поэтому я, естественно, хорошо себя чувствую
наука наука является жемчужиной
наша цивилизация может расстраивать
и неэффективно, и позвольте мне рассказать вам
внутри это очень расстраивает и
неэффективна, это очень важно
один шаг назад на два шага вперед, но
он надежно продвигает нас к более
точная картина мира, и это
удивительная проблема, если вы
цивилизация не все знания стоят
потому что наука — это видение так же, как
технология — это сила, и это танец
науки и техники , что является
двигатель, который управляет нашей цивилизацией
без них он падает, а миллиарды будут
умереть вместе с ними
я все больше обеспокоен тем, что мы
могут непреднамеренно
рента проблема предположит , есть
открытая технология
потенциально в нашем будущем, что если
обнаружено и опубликовано доведу
вы можете, возможно,
представьте себе некоторые вещи , как это , но
действительно страшными являются те, что ни одна из
нас в этой комнате или где- либо еще
если это существует, то
современная научная экосистема является весьма
вероятно, споткнется прямо в нее
не видя опасности
причина в том, что в век без затрат
мы все еще делаем почти все
исследования, в том числе финансируемые государством
исследование закрытых дверей, где
все слепы к тому, что все остальные
делает, и большинство исследований
команды аналогично подготовленных специалистов
которые не могут надежно
последствия за пределами их собственных узких
поле специальности, которое означает, что если вы
есть что-то , что требует
синергии этого и того, что ни одна из команд не является
узнав, что другой работает
об этом или даже знать о возможности
такого синергетического взаимодействия
это все еще очень теоретично, так что вы
вероятно, еще не убежден, позвольте мне
дайте вам пример пять лет назад нет
можно предположить, что мы могли бы
инженер всех диких видов, но если вы
возьмите редактирование генома CRISPR, и вы
объединить его с геном Драйв, который является
естественный феномен это стратегия
в результате чего генетические элементы гарантируют, что
они унаследовали, объединив их
и это именно то, что
мы теперь имеем
если вы создаете организм так, чтобы он
имеет измененные изменения, которые мы хотим в
его генома, и мы кодируем редактирование
рядом с ним, тогда
организм сопрягается с диким один на
потомство наследует одну из
в этих потомках редактирование машин
преобразует исходную версию в
отредактированная версия — это найти и заменить
потому что следующее поколение
гарантированно наследуется, а следующий и
следующий и следующий, так четыре года назад
мои коллеги и я сначала предполагали
эта возможность и ее потенциал
результаты, и мы были изначально приподняты
но затем очень обеспокоены тем, что мы попросили
группа экспертов из разных областей
от экологии до уровня безопасности до
экологических НПО, чтобы узнать, что они
мы думали, что мы должны сделать, и мы заключили
что это не очень физически опасно
просто потому, что он медленно распространяется
поколений, и его легко обнаружить
последовательности, и как только вы обнаружите это
может противостоять ему другой находкой и
замените, но это очень социально опасно
просто потому, что вы можете представить себе
глава
если какой-то ученый случайно выпустит
что-то в дикую природу, что
в конечном итоге спроектировать весь этот вид
это было бы довольно разрушительно для общественности
доверие к науке и как ранее
мы действительно нуждаемся в науке, так как
чтобы остановить это, мы решили, что мы
опубликуем наши результаты нашей оценки
что это может сделать и подробный список
технических гарантий, которые должны быть
способный предотвратить такой несчастный случай
в следующем году такой же высокий профиль
журнал, опубликовавший наши предупреждения
с докладом детализацией тот же
технология под другим именем
без каких-либо гарантий
У меня нет объяснений для журнала
но исследователи блестящие
благонамеренных ученых, которые не видели
наша работа даже не были осведомлены о
концепции гена Drive, потому что это
что-то из эволюционной биологии
которые не были их полем, и они были
просто сосредоточены на создании лучшего инструмента
для лабораторных генетических экспериментов, которые
могут быть использованы другими людьми, которых они никогда не использовали
что он может быть применен к
диких популяций, так что у вас есть
мощный полностью непредвиденный
технологии , несмотря на все наши усилия
все еще был независимо разработан и
опубликованные исследователями, которые были слепы
к последствиям у нас есть
Барьеры на месте , чтобы предотвратить это
происходит для более опасных
технологии, о которой я не могу много думать,
этот момент вопрос мы можем инженер
социальные экосистемы выглядят немного
бит более срочный, что означает, что у меня есть
исповедание для вас, когда я говорю, что я
люди экологического инженера смеются и
они ушли , потому что мы не знаем , как
делайте это только из- за таких инструментов, как
Основанный на CRISPR ген- драйв, который позволяет нам
использовать стратегии читеров для
изменить популяции и
популяции связанной экосистемы
это единственный способ, с помощью которого мы можем
сделайте это сейчас и аналогичные подходы, чтобы
Вопрос в том , можем ли мы применить это к
социальная установка, что эквивалентно
и я подозреваю , что мы можем теперь я буду фокус
по науке, потому что я знаю научную
лучшим ученым из экосистем
нам нужны ученые
признание того, что мы делаем, что приводит
для продолжения финансирования, поэтому, если вы хотите нас
поделиться нашими экспериментальными планами в
продвигаться с другими, чтобы общество могло
тщательно изучить их для потенциальных опасностей
и вмешаться рано, то вам нужно
научные журналы и спонсоры
изменить стимулы, которые сейчас говорят
из опыта теперь я могу сказать вам, что
никто из них не хочет быть первым, это
проблема коллективного действия, поэтому нам необходимо
какой-то способ передвижения вагона без
их, я думаю, что ответ заключается в использовании
технологии, чтобы использовать его в этом
дело обмана — это интеллектуальная собственность
теперь патентные тролли любят использовать
интеллектуальной собственности для прекращения использования
продукты , если они не платят от это
отличный способ для них выдохнуть
ресурсов, но если вы хотите сделать это,
изменить стимулы, которые вы хотите
ученые делают что-то по-другому
ну как вы говорите, что не можете этого сделать
если вы впервые публично
раскрыть свои планы, это не будет
нормально работают, но у нас есть возможность
здесь в виде основанного на CRISP гена
Двигайся так, вот как это будет работать
вместе собрать вместе пул патентов
Соответствующий IP-адрес для создания CRISPR
gen Drive игнорировать коммерческое лицензирование
не трогайте это вообще и просто
регулировать исследование, но
лицензию бесплатно при условии, что они
поделиться своими экспериментальными планами в
это будет спорным
потому что это нарушает эту давнюю
прецедент, который имеет очень веские причины
за ним , что патенты не должны
вмешиваться в некоммерческие научные
В этом случае я думаю, что есть
очень хорошие причины для исключения
к тому, что
и это противоречие приведет к
охват, но это действительно сложно
в общественных и утверждать , что у вас есть
право на разработку технологии, которая может
в одиночку инженерных экосистем в
секрет, не говоря никому, что
вы делаете или позволяете кому-либо иметь
взгляните и убедитесь, что вы используете
защищает такое благоприятное освещение в средствах массовой информации
затем стимулирует спонсоров и
журналы, чтобы прыгать на Нелл
победителей и добавить свои собственные стимулы
если он может работать для основанного на CRISPR гена
Драйв то есть прецедент и
стратегия может быть применена к
связанных с технологиями
с общими последствиями и в конечном итоге
большинство областей были обеспокоены
во всей научной экосистеме и
кто знает , если он работает там , возможно , это
может быть применен к другим экосистемам
что, по нашему мнению, может потребоваться исправить или —
давайте будем честными, эта идея может потерпеть неудачу
может на самом деле
эксперименты в науке терпят неудачу, но
поэтому мы должны были бы взять
урок из инженерной, и это попытка
что-то другое
пока это не сработает, и мы должны это сделать
потому что, когда мы думаем, что цивилизация
сам по себе может быть подвержена риску моральной стоимости
ничего не делать, всегда слишком высоко, спасибо
вы
[Аплодисменты]