d/acc: год спустя

Год назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их потенциальных огромных преимуществ, а также выразил осторожное отношение к некоторым конкретным проблемам, в основном сосредоточившись на суперумном ИИ и связанных с ним рисках вымирания или рисках необратимой потери власти человечества, если его неправильно построить (.

Одной из ключевых идей этой статьи является пропаганда децентрализованной, демократической и дифференцированной концепции защитного ускорения. Необходимо ускорять развитие технологий и одновременно избирательно сосредоточиться на тех технологиях, которые могут усилить нашу обороноспособность, а не атакующие способности, и стремиться к распределению власти, а не к ее концентрации в руках немногих элит, которые будут представлять всех и судить о добре и зле. Мы должны стремиться к защитной модели, подобной демократическому Швейцарии и исторически практически анархистскому региону Зомия, а не к модели, представленной лордами и замками в средневековом феодализме.

В течение следующего года эти идеи и концепции значительно развились и стали более зрелыми. Я делился этими идеями на платформе "80,000 часов" и получил много отзывов, большинство из которых были положительными, но, конечно, были и некоторые критики.

Эта работа продолжается и приносит реальные результаты: мы видим прогресс в области проверяемых открытых вакцин; осознание ценности здорового внутреннего воздуха продолжает расти; общественные заметки продолжают играть положительную роль; предсказательные рынки как информационный инструмент переживают прорывный год; доказательства нулевых знаний, компактные и неинтерактивные )ZK-SNARKs( применяются в области идентификации личности правительством и социальных медиа ), а также обеспечивают безопасность кошельков Ethereum через абстракцию аккаунтов (; открытые инструменты визуализации находят применение в области медицины и интерфейсов «мозг-компьютер» )BCI( и так далее.

Прошлой осенью мы провели наше первое важное мероприятие d/acc: "День открытия d/acc", который состоялся на Devcon )d/aDDy(. Мероприятие собрало спикеров из различных столпов d/acc: биологии, физики, сетевых технологий, информационной безопасности и нейротехнологий ). Оно длилось целый день. Люди, которые на протяжении многих лет работали над этими технологиями, начали лучше понимать работу друг друга, а внешние наблюдатели все больше осознавали эту более широкую цель: те же ценности, которые способствуют развитию Ethereum и криптовалют, могут быть применены к более широкому миру.

Суть и расширение d/acc

Время пришло в 2042 год. Вы видите в СМИ сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. На такие сообщения вы уже не обращаете внимания: люди часто чрезмерно реагируют на каждое мутирование животного заболевания, в то время как в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были успешно выявлены на ранней стадии благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях и были успешно сдержаны в зародыше. Однако на этот раз ситуация иная, прогнозные рынки показывают, что вероятность появления как минимум 10 000 случаев составляет 60%, и это вас сильно беспокоит.

Вчера была определена генетическая последовательность вируса. Обновление программного обеспечения для вашего карманного тестера воздуха было выпущено незамедлительно; благодаря этому обновлению тестер может обнаруживать новый вирус ( как при проверке по дыханию, так и через 15 минут после воздействия на воздух в помещении ). В то же время ожидается выпуск открытых инструкций и кода для создания вакцины, которые можно будет использовать с оборудованием, доступным в современных медицинских учреждениях по всему миру, в течение нескольких недель. Большинство людей пока не предприняли никаких действий, в основном полагаясь на широко используемые меры фильтрации воздуха и вентиляции для защиты своей безопасности.

Из-за ваших собственных проблем с иммунитетом вы действуете более осторожно: ваш открытый локально работающий персональный помощник ИИ, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о текущем качестве воздуха и уровне углекислого газа, чтобы рекомендовать только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, при помощи ZK-SNARKs и технологий дифференциальной конфиденциальности риск утечки данных или их неправильного использования сведен к минимуму ( Если вы хотите внести данные в эти наборы данных, другие персональные помощники ИИ будут проверять, действительно ли эти криптографические инструменты эффективны ).

Два месяца спустя пандемия чудесным образом исчезла: кажется, 60% людей соблюдали основные протоколы профилактики, надевая маски, когда воздухометры издавали сигнал тревоги и показывали наличие вируса, а те, у кого был положительный результат теста, оставались на самоизоляции. Именно эта мера смогла еще больше снизить уже значительно уменьшенный уровень распространения, вызванный пассивной мощной фильтрацией воздуха, до менее 1. Болезнь, последствия которой в симуляциях могли быть в пять раз серьезнее, чем у пандемии COVID-19 двадцатилетней давности, на самом деле не оказала серьезного влияния.

Мероприятие d/acc, организованное Devcon, достигло крайне позитивного результата, а именно концепция d/acc успешно объединила людей из разных областей и действительно пробудила у них живой интерес к работе друг друга.

Организовать мероприятие с "разнообразием" не так сложно, но действительно установить тесные связи между людьми с разным фоном и интересами бывает очень непросто. Я до сих пор вспоминаю, как в средней и старшей школе меня заставляли смотреть длинные оперы, и в то время мне казалось, что они скучны и неинтересны. Я хорошо понимал, что "должен" ценить их, потому что в противном случае меня бы считали культурным ленивцем в области компьютерных наук, но мне не удалось глубже проникнуться содержанием оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям искренне нравится узнавать о различных работах в разных областях.

Если мы стремимся построить будущее, более светлое, чем господство, замедление и разрушение, нам необходимо начать строительство такого широкого альянса. d/acc, похоже, достиг значительных успехов в этом направлении, и этого достаточно, чтобы продемонстрировать ценность этой идеи.

核心思想 d/acc является простым и ясным: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, которые могут склонить баланс атак и защит к защите, не полагаясь на передачу большей власти центральным органам власти в процессе реализации. Существует внутренняя тесная связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура, как правило, процветает, когда защита легко реализуема, и сталкивается с серьезными вызовами, когда защита сталкивается с трудностями — в таких случаях более вероятным результатом является период хаоса, когда все противостоят друг другу, в конечном итоге достигая состояния равновесия, управляемого сильнейшими.

Один из способов понять важное значение одновременной реализации децентрализации, защитности и ускорения заключается в сравнении с идеями, возникающими при отказе от любого из этих трех аспектов.

Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"

По сути, это похоже на то, чтобы стать эффективным акселерационистом (e/acc), но при этом стремиться к децентрализации. Многие люди принимают этот подход, некоторые из которых называют себя d/acc, но они полезно описывают свою основную цель как "агрессивную". Кроме того, есть много других людей, которые проявляют более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к аспекту "защиты" явно недостаточно.

На мой взгляд, этот подход может помочь избежать рисков диктатуры со стороны определенных групп над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, способствующей агрессии, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда удерживать доминирующее положение. Что касается ИИ, он также не может должным образом решить риск ослабления власти человечества по сравнению с ИИ.

Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"

Принятие центрального управления для достижения целей безопасности всегда имело определенную привлекательность для части людей, и читатели, безусловно, знакомы с множеством таких примеров и их недостатками. В последнее время некоторые люди выражают беспокойство, что крайняя централизованная форма управления может быть единственным способом справиться с будущими экстренными технологиями: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'свободный ярлык' — это последующий продукт современных более ограниченных носимых устройств для мониторинга, подобный браслетам на лодыжках, используемым в нескольких странах в качестве альтернативы тюремному заключению... зашифрованные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованное управление имеет свои проблемы. Одна форма централизованного управления, обычно игнорируемая, но все же вредная и относительно мягкая, проявляется в области биотехнологий (, например, в отношении противодействия общественного контроля за продуктами питания и вакцинами ), а также в отношении того, что такое противодействие остается без вызова благодаря закрытым нормам.

Риски данного подхода очевидны, и именно центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда финансируемые несколькими основными мировыми правительствами функциональные исследовательские работы могли стать источником пандемии, а централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что коронавирус передается воздушным путем, в то время как обязательная социальная дистанция и принудительные вакцинации вызвали политическую реакцию, которая может продолжаться десятилетиями. Подобная ситуация вполне может повториться в любых рискованных сценариях, связанных с ИИ или другими рискованными технологиями. Напротив, децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.

Децентрализованная защита, но исключает ускорение

По сути, это попытка замедлить технический прогресс или способствовать экономическому спаду.

Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любая задержка в этом приведет к неизмеримым потерям. Во-вторых, в неавторитарном мире стагнация является нестабильной: те, кто больше всего "жульничает", смогут найти казалось бы разумные способы продолжать развиваться, будут в выигрыше. Стратегия замедления может в определенных конкретных ситуациях сработать в какой-то степени: например, европейская еда более здорова, чем американская, что является примером; успехи в ядерном нераспространении на сегодняшний день также подтверждают это. Однако эти стратегии не могут действовать бесконечно.

С помощью d/acc мы стремимся достичь следующих целей:

• В условиях нарастающей племенной тенденции в современном мире придерживаться принципов, а не просто слепо строить различные вещи — наоборот, мы ожидаем построить определенные вещи, чтобы сделать мир более безопасным и лучшим.
• Понимание экспоненциального технологического прогресса означает, что мир станет чрезвычайно странным, и общий "след" человечества во Вселенной обязательно будет постоянно расти. Наша способность защищать уязвимые животные, растения и людей от вреда должна постоянно увеличиваться, и единственный путь вперед — это смело идти вперед.
• Создание технологий, которые действительно защищают нас, а не основаны на предположении "хороших людей ( или хороших ИИ ), контролирующих все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для создания и защиты, чем для разрушения.

Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе в конце 2000-х годов: расширение прав и возможностей.

Наша цель состоит в том, чтобы создать мир, который способен сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства со стороны других, будь то обычные граждане, правительства или сверхинтеллектуальные роботы ( в нашу способность формировать собственную судьбу, а также реализовать позитивную свободу, то есть гарантировать, что у нас есть знания и ресурсы для осуществления этой способности. Это отзывается на протяжении нескольких веков.