Спасибо за отзывы и рецензии от волонтеров, таких как Лираз Сири, Жанин Лежер и Балви.
Около года назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их огромных преимуществ, а также выразил осторожный подход к определенным вопросам, в основном касающимся суперумного искусственного интеллекта и рисков разрушения, которые могут возникнуть, если он будет построен неправильно, или рисков, связанных с необратимой потерей власти человеком.
Одной из ключевых идей статьи является пропаганда децентрализованного, демократического и дифференцированного защитного ускорения. Необходимо ускорять развитие технологий, а также фокусироваться на тех технологиях, которые могут улучшить нашу защиту, а не нанести вред, и стремиться к распределению власти, а не к ее сосредоточению в руках немногих элит, чтобы избежать ситуации, когда эти элиты представляют всех и решают, что является добром, а что злом. Защитная модель должна быть похожа на демократическую Швейцарию и на исторически почти анархистский регион Зомия, а не на модель, представленную лордами и замками средневекового феодализма.
За прошедший год эти идеи и концепции значительно развились и стали более зрелыми. Я поделился этими мыслями на платформе "80,000 часов", и получил множество отзывов, большинство из которых были положительными, хотя были и некоторые критические замечания.
Эта работа продолжает развиваться и приносить реальные результаты: в области проверяемых открытых вакцин мы видим прогресс; осознание ценности здорового воздуха в помещениях углубляется; "общественные заметки" продолжают играть положительную роль; предсказательные рынки стали прорывным инструментом информации; нулевые знания, компактные неинтерактивные доказательства знаний ( ZK-SNARKs ) были применены в области идентификации личности правительством и социальных медиа (, а также обеспечили безопасность кошельков Ethereum через абстракцию учетных записей ); инструменты открытого кода в области медицины и интерфейсов мозг-компьютер ( BCI ) нашли свое применение и так далее.
Прошлой осенью мы провели наше первое значимое мероприятие d/acc: "День открытия d/acc"(d/aDDy), которое прошло на Devcon и собрало спикеров из различных столпов d/acc (биологии, физики, сетевой безопасности, информационной защиты и нейротехнологий). Мероприятие длилось целый день. Люди, которые на протяжении многих лет посвятили себя этим технологиям, все больше понимают работу друг друга, а внешние лица все больше осознают эту более грандиозную цель: стремление к развитию Ethereum и криптовалют, основанное на общих ценностях, может расшириться на более широкий мир.
Содержание и пределы d/acc
Представьте, что время пришло в 2042 год. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может произойти новый всплеск эпидемии. К таким сообщениям вы уже привыкли: люди, как правило, чрезмерно реагируют на каждую мутацию заболеваний животных, в то время как в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были раннее выявлены благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях и успешно сдержаны на зародышевой стадии. Однако в этот раз ситуация иная: прогнозные рынки показывают вероятность того, что появится как минимум 10 000 случаев, на уровне 60%, что вызывает у вас тревогу.
Вчера была установлена генетическая последовательность вируса. Обновление программного обеспечения для вашего карманного воздухоанализатора было выпущено сразу же; благодаря этому обновлению анализатор может определять новый вирус ( как по результатам дыхательного теста, так и после 15 минут воздействия на воздух в помещении. В то же время ожидается выпуск открытых инструкций и кода для создания вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, в течение нескольких недель. Большинство людей пока не предприняли никаких действий, полагаясь в основном на широко принятые меры по фильтрации воздуха и вентиляции для защиты своей безопасности.
Из-за существующих у вас иммунных проблем вы действуете более осторожно: ваш открытый локальный персональный помощник на основе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, при помощи технологий ZK-SNARKs и дифференциальной конфиденциальности, что сводит к минимуму риск утечки данных или их неправильного использования в других целях ). Если вы хотите внести данные в эти наборы данных, другие персональные помощники на основе искусственного интеллекта также проверят, действительно ли эти криптографические инструменты эффективны (.
Через два месяца пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам по предотвращению распространения вируса, то есть надевали маски, когда приборы для тестирования воздуха издавали сигнал тревоги и показывали наличие вируса, а в случае положительного результата теста оставались дома на самоизоляции. Именно эта мера позволила дополнительно снизить уровень распространения, который уже значительно сократился благодаря пассивной фильтрации воздуха, до менее 1. Исследования показали, что заболевание, которое могло бы быть в пять раз серьезнее, чем коронавирусная пандемия двадцатилетней давности, на сегодняшний день не оказало серьезного влияния.
![Новая статья Виталика: как децентрализованный ускорительный активизм связывает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-e42a1dcd075fe6d525b3fa2ccbe6aa27.webp(
Мероприятие d/acc, организованное Devcon, достигло крайне положительного результата: концепция d/acc успешно объединила людей из различных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" не так уж и сложно, но действительно установить тесные связи между людьми с разным бэкграундом и интересами - это совсем непросто. Я до сих пор помню свой опыт, когда в средней и старшей школе меня заставляли смотреть длинные оперы, и тогда я считал их скучными и неинтересными. Я хорошо понимал, что "должен" их ценить, потому что если нет, меня будут считать безкультурным компьютерным ленивцем, но я так и не смог вникнуть в содержание оперы на более глубоком уровне. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что люди искренне любят узнавать о работе в разных сферах.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам обязательно нужно развивать такое широкое сотрудничество. В этом отношении d/acc, похоже, добился значительных успехов, и только этого достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная защитная акселерация. Построение технологий, способствующих смещению баланса сил в сторону защиты, при этом в процессе реализации не полагаясь на передачу большего количества полномочий центральным властям. Существует тесная внутренняя связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура часто может процветать, когда защита легко реализуема, и сталкивается с серьезными вызовами, когда защита сталкивается с многочисленными трудностями — в таких случаях более вероятным результатом является период хаоса, когда все противостоят друг другу, в конечном итоге достигая равновесия, управляемого сильнейшими.
Один из способов понять важное значение одновременного достижения децентрализации, защищенности и ускорения заключается в сравнении этого с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акцелерационистом ) e/acc (, но при этом стремиться к децентрализации. Многие люди принимают этот подход, некоторые из которых называют себя d/acc, но они полезно описывают свой акцент как "агрессивный". Кроме того, есть много других, кто проявляет более мягкий интерес к "децентрализованному искусственному интеллекту" и подобным темам, но, на мой взгляд, их внимание к аспектам "защиты" явно недостаточно.
На мой взгляд, этот подход может помочь избежать риска установления диктатуры над человечеством со стороны определённых групп, но он не решает потенциальные структурные проблемы: в среде, благоприятной для атаки, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.
![Vitalik новая статья: как децентрализованный ускоризм сочетает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-cf3127f9a06cb15023ddeba35b9b2ad9.webp(
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Прием централизованного контроля для достижения целей безопасности всегда имеет определенную привлекательность для части людей, и читатели, безусловно, знакомы с многочисленными подобными примерами и их недостатками. В последнее время некоторые люди обеспокоены тем, что экстремальный централизованный контроль может быть единственным способом противодействия будущим экстремальным технологиям: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'ярлык свободы' -- это более ограниченная версия носимых устройств мониторинга, аналогичных браслетам, используемым в некоторых странах в качестве альтернативы тюремному заключению... зашифрованные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет проблему степени. Одна форма относительно мягкого централизованного контроля, которая обычно игнорируется, но все же является вредной, проявляется в области биотехнологий ), например, сопротивление общественного контроля в отношении продуктов питания и вакцин (, а также возможность такого сопротивления оставаться непроверенным закрытыми стандартами.
Риск данного подхода очевиден: сам центр часто становится источником риска. Мы были свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что коронавирус передается воздушно-капельным путем, а обязательное социальное дистанцирование и принудительная вакцинация вызвали политическую реакцию, которая может длиться десятилетиями. Подобные ситуации с большой вероятностью могут повториться в любых рискованных сценариях, связанных с искусственным интеллектом или другими рисковыми технологиями. В отличие от этого, децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.
Децентрализованная защита, но исключает ускорение
По сути, это попытка замедлить технический прогресс или способствовать экономическому упадку.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технический и экономический рост чрезвычайно полезен для человечества, и любое его замедление будет иметь неоценимые последствия. Во-вторых, в мире, свободном от тоталитаризма, стагнация является нестабильной: те, кто «мошенничает» больше всего и находит, казалось бы, разумные способы продолжать развитие, будут в привилегированном положении. Стратегия замедления может сработать в некоторых специфических ситуациях: например, европейская еда более полезна, чем американская, это тому пример; также успешность ядерного нераспространения на данный момент. Тем не менее, эти стратегии не могут работать вечно.
![Виталик новая статья: как децентрализованный ускоризм связывает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-7ebae4f7e715feb6063c7ff4e321b245.webp(
С помощью d/acc мы стремимся достичь следующих целей:
В условиях нарастающей племенной тенденции в современном мире придерживаться принципов, а не просто слепо строить различные вещи -- напротив, мы надеемся создать конкретные вещи, чтобы сделать мир более безопасным и прекрасным.
Осознание экспоненциального технологического прогресса означает, что мир станет чрезвычайно странным, и общий "след" человечества во Вселенной неизбежно будет постоянно увеличиваться. Наша способность защищать уязвимых животных, растения и людей от вреда должна постоянно повышаться, и единственный выход — это продолжать двигаться вперед.
Создание технологий, которые действительно защищают нас, а не основываются на предположении, что "хорошие люди ) или хороший искусственный интеллект ( контролируют все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для построения и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в том, чтобы вернуться к рамкам движения пиратов в Европе в конце 2000-х годов: наделение полномочиями.
Наша цель - создать мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать того, чтобы другие ), будь то обычные граждане, правительства или суперумные роботы (, формировали нашу собственную сущность.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
21 Лайков
Награда
21
5
Поделиться
комментарий
0/400
FunGibleTom
· 07-21 04:34
Только децентрализация власти имеет будущее
Посмотреть ОригиналОтветить0
RugPullProphet
· 07-18 05:04
Хватит заниматься этой ерундой.
Посмотреть ОригиналОтветить0
ChainWallflower
· 07-18 04:57
Защита - это лучшее нападение.
Посмотреть ОригиналОтветить0
GhostWalletSleuth
· 07-18 04:54
Дефенсивная децентрализация действительно возможна
d/acc один год: новые разработки защитного ускорения и Децентрализация технологий
d/acc: Обзор через год
Введение
Спасибо за отзывы и рецензии от волонтеров, таких как Лираз Сири, Жанин Лежер и Балви.
Около года назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их огромных преимуществ, а также выразил осторожный подход к определенным вопросам, в основном касающимся суперумного искусственного интеллекта и рисков разрушения, которые могут возникнуть, если он будет построен неправильно, или рисков, связанных с необратимой потерей власти человеком.
Одной из ключевых идей статьи является пропаганда децентрализованного, демократического и дифференцированного защитного ускорения. Необходимо ускорять развитие технологий, а также фокусироваться на тех технологиях, которые могут улучшить нашу защиту, а не нанести вред, и стремиться к распределению власти, а не к ее сосредоточению в руках немногих элит, чтобы избежать ситуации, когда эти элиты представляют всех и решают, что является добром, а что злом. Защитная модель должна быть похожа на демократическую Швейцарию и на исторически почти анархистский регион Зомия, а не на модель, представленную лордами и замками средневекового феодализма.
За прошедший год эти идеи и концепции значительно развились и стали более зрелыми. Я поделился этими мыслями на платформе "80,000 часов", и получил множество отзывов, большинство из которых были положительными, хотя были и некоторые критические замечания.
Эта работа продолжает развиваться и приносить реальные результаты: в области проверяемых открытых вакцин мы видим прогресс; осознание ценности здорового воздуха в помещениях углубляется; "общественные заметки" продолжают играть положительную роль; предсказательные рынки стали прорывным инструментом информации; нулевые знания, компактные неинтерактивные доказательства знаний ( ZK-SNARKs ) были применены в области идентификации личности правительством и социальных медиа (, а также обеспечили безопасность кошельков Ethereum через абстракцию учетных записей ); инструменты открытого кода в области медицины и интерфейсов мозг-компьютер ( BCI ) нашли свое применение и так далее.
Прошлой осенью мы провели наше первое значимое мероприятие d/acc: "День открытия d/acc"(d/aDDy), которое прошло на Devcon и собрало спикеров из различных столпов d/acc (биологии, физики, сетевой безопасности, информационной защиты и нейротехнологий). Мероприятие длилось целый день. Люди, которые на протяжении многих лет посвятили себя этим технологиям, все больше понимают работу друг друга, а внешние лица все больше осознают эту более грандиозную цель: стремление к развитию Ethereum и криптовалют, основанное на общих ценностях, может расшириться на более широкий мир.
Содержание и пределы d/acc
Представьте, что время пришло в 2042 год. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может произойти новый всплеск эпидемии. К таким сообщениям вы уже привыкли: люди, как правило, чрезмерно реагируют на каждую мутацию заболеваний животных, в то время как в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были раннее выявлены благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях и успешно сдержаны на зародышевой стадии. Однако в этот раз ситуация иная: прогнозные рынки показывают вероятность того, что появится как минимум 10 000 случаев, на уровне 60%, что вызывает у вас тревогу.
Вчера была установлена генетическая последовательность вируса. Обновление программного обеспечения для вашего карманного воздухоанализатора было выпущено сразу же; благодаря этому обновлению анализатор может определять новый вирус ( как по результатам дыхательного теста, так и после 15 минут воздействия на воздух в помещении. В то же время ожидается выпуск открытых инструкций и кода для создания вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, в течение нескольких недель. Большинство людей пока не предприняли никаких действий, полагаясь в основном на широко принятые меры по фильтрации воздуха и вентиляции для защиты своей безопасности.
Из-за существующих у вас иммунных проблем вы действуете более осторожно: ваш открытый локальный персональный помощник на основе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, при помощи технологий ZK-SNARKs и дифференциальной конфиденциальности, что сводит к минимуму риск утечки данных или их неправильного использования в других целях ). Если вы хотите внести данные в эти наборы данных, другие персональные помощники на основе искусственного интеллекта также проверят, действительно ли эти криптографические инструменты эффективны (.
Через два месяца пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам по предотвращению распространения вируса, то есть надевали маски, когда приборы для тестирования воздуха издавали сигнал тревоги и показывали наличие вируса, а в случае положительного результата теста оставались дома на самоизоляции. Именно эта мера позволила дополнительно снизить уровень распространения, который уже значительно сократился благодаря пассивной фильтрации воздуха, до менее 1. Исследования показали, что заболевание, которое могло бы быть в пять раз серьезнее, чем коронавирусная пандемия двадцатилетней давности, на сегодняшний день не оказало серьезного влияния.
![Новая статья Виталика: как децентрализованный ускорительный активизм связывает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-e42a1dcd075fe6d525b3fa2ccbe6aa27.webp(
Мероприятие d/acc, организованное Devcon, достигло крайне положительного результата: концепция d/acc успешно объединила людей из различных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" не так уж и сложно, но действительно установить тесные связи между людьми с разным бэкграундом и интересами - это совсем непросто. Я до сих пор помню свой опыт, когда в средней и старшей школе меня заставляли смотреть длинные оперы, и тогда я считал их скучными и неинтересными. Я хорошо понимал, что "должен" их ценить, потому что если нет, меня будут считать безкультурным компьютерным ленивцем, но я так и не смог вникнуть в содержание оперы на более глубоком уровне. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что люди искренне любят узнавать о работе в разных сферах.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам обязательно нужно развивать такое широкое сотрудничество. В этом отношении d/acc, похоже, добился значительных успехов, и только этого достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная защитная акселерация. Построение технологий, способствующих смещению баланса сил в сторону защиты, при этом в процессе реализации не полагаясь на передачу большего количества полномочий центральным властям. Существует тесная внутренняя связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура часто может процветать, когда защита легко реализуема, и сталкивается с серьезными вызовами, когда защита сталкивается с многочисленными трудностями — в таких случаях более вероятным результатом является период хаоса, когда все противостоят друг другу, в конечном итоге достигая равновесия, управляемого сильнейшими.
Один из способов понять важное значение одновременного достижения децентрализации, защищенности и ускорения заключается в сравнении этого с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акцелерационистом ) e/acc (, но при этом стремиться к децентрализации. Многие люди принимают этот подход, некоторые из которых называют себя d/acc, но они полезно описывают свой акцент как "агрессивный". Кроме того, есть много других, кто проявляет более мягкий интерес к "децентрализованному искусственному интеллекту" и подобным темам, но, на мой взгляд, их внимание к аспектам "защиты" явно недостаточно.
На мой взгляд, этот подход может помочь избежать риска установления диктатуры над человечеством со стороны определённых групп, но он не решает потенциальные структурные проблемы: в среде, благоприятной для атаки, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.
![Vitalik новая статья: как децентрализованный ускоризм сочетает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-cf3127f9a06cb15023ddeba35b9b2ad9.webp(
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Прием централизованного контроля для достижения целей безопасности всегда имеет определенную привлекательность для части людей, и читатели, безусловно, знакомы с многочисленными подобными примерами и их недостатками. В последнее время некоторые люди обеспокоены тем, что экстремальный централизованный контроль может быть единственным способом противодействия будущим экстремальным технологиям: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'ярлык свободы' -- это более ограниченная версия носимых устройств мониторинга, аналогичных браслетам, используемым в некоторых странах в качестве альтернативы тюремному заключению... зашифрованные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет проблему степени. Одна форма относительно мягкого централизованного контроля, которая обычно игнорируется, но все же является вредной, проявляется в области биотехнологий ), например, сопротивление общественного контроля в отношении продуктов питания и вакцин (, а также возможность такого сопротивления оставаться непроверенным закрытыми стандартами.
Риск данного подхода очевиден: сам центр часто становится источником риска. Мы были свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что коронавирус передается воздушно-капельным путем, а обязательное социальное дистанцирование и принудительная вакцинация вызвали политическую реакцию, которая может длиться десятилетиями. Подобные ситуации с большой вероятностью могут повториться в любых рискованных сценариях, связанных с искусственным интеллектом или другими рисковыми технологиями. В отличие от этого, децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.
Децентрализованная защита, но исключает ускорение
По сути, это попытка замедлить технический прогресс или способствовать экономическому упадку.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технический и экономический рост чрезвычайно полезен для человечества, и любое его замедление будет иметь неоценимые последствия. Во-вторых, в мире, свободном от тоталитаризма, стагнация является нестабильной: те, кто «мошенничает» больше всего и находит, казалось бы, разумные способы продолжать развитие, будут в привилегированном положении. Стратегия замедления может сработать в некоторых специфических ситуациях: например, европейская еда более полезна, чем американская, это тому пример; также успешность ядерного нераспространения на данный момент. Тем не менее, эти стратегии не могут работать вечно.
![Виталик новая статья: как децентрализованный ускоризм связывает криптовалюту и ИИ?])https://img-cdn.gateio.im/webp-social/moments-7ebae4f7e715feb6063c7ff4e321b245.webp(
С помощью d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в том, чтобы вернуться к рамкам движения пиратов в Европе в конце 2000-х годов: наделение полномочиями.
Наша цель - создать мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать того, чтобы другие ), будь то обычные граждане, правительства или суперумные роботы (, формировали нашу собственную сущность.