Около года назад я написал статью о технологическом оптимизме, в которой изложил увлечение технологиями и их огромные преимущества, а также выразил осторожное отношение к некоторым проблемам, особенно к рискам, которые могут возникнуть из-за суперумного ИИ.
Моя основная идея в этой статье заключается в том, чтобы продвигать концепцию децентрализованного, демократичного и дифференцированного защитного ускорения. Это означает, что необходимо ускорять технологическое развитие, но при этом акцентировать внимание на технологиях, которые могут улучшить защитные способности, а не разрушительные, и стремиться к распределению власти, избегая ситуации, когда немногие элиты представляют интересы всех и определяют, что хорошо, а что плохо. Защитная модель должна быть похожа на демократическую Швейцарию, а не на замки средневекового феодализма.
За последний год эти идеи и концепции значительно развились и стали более зрелыми. Я делился этими мыслями на платформе "80,000 часов" и получил множество отзывов, большинство из которых были положительными, но, конечно, были и критические голоса.
Эта работа продолжает развиваться и приносит реальные результаты: достигнуты успехи в таких областях, как верифицируемые открытые вакцины, здоровый внутренний воздух, "сообщества заметок", предсказательные рынки, применение нулевых знаний в правительственной идентификации и социальных медиа, открытые медицинские инструменты для визуализации и т.д.
Прошлой осенью мы провели наше первое важное мероприятие d/acc: "день открытия d/acc" ( d/aDDy ), на котором собрались спикеры из различных опорных областей d/acc, чтобы помочь тем, кто долго работал с этими технологиями, лучше понять работу друг друга, а также дать возможность внешним участникам осознать более широкий замысел: ценности, способствующие развитию Ethereum и криптовалют, могут быть распространены на более широкий мир.
Содержание и пределы d/acc
Основная идея d/acc заключается в: децентрализованной, демократической и дифференцированной оборонительной акселерации. Создание технологий, способствующих смещению баланса сил в сторону обороны, при этом в процессе реализации не полагаясь на передачу большей власти центральным властям. Эти два аспекта имеют внутреннюю связь: любая децентрализованная, демократическая или свободная политическая структура, когда оборона легко реализуется, обычно процветает, тогда как в условиях трудной обороны она сталкивается с серьезными вызовами.
Один из способов понять и реализовать важность децентрализации, оборонительной стратегии и ускорения — это сравнить их с концепцией, возникающей при отказе от любого из этих трех аспектов:
Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Децентрализованная защита, но исключает ускорение
С помощью d/acc мы стремимся достичь следующих целей:
В условиях растущей племенной тенденции в современном мире придерживаться принципов, создавать определенные вещи, чтобы сделать мир более безопасным и лучшим.
Осознавая, что экспоненциальный технологический прогресс означает, что мир станет крайне необычным, "следы" человечества во Вселенной обязательно будут продолжать увеличиваться. Наша способность защищать хрупкие вещи должна постоянно улучшаться, единственный выход - смело идти вперед.
Создавать технологии, которые действительно защищают нас, а не основываются на предположении "хороших людей ( или хорошего ИИ ), контролирующих все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для строительства и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в возвращении к рамкам движения Пиратской партии в Европе в конце 2000-х годов: расширение прав и возможностей. Наша цель состоит в том, чтобы построить мир, который сможет сохранить человеческую активность, реализовать негативную и позитивную свободу. Это перек呼应 традиции классического либерализма, существующей на протяжении нескольких веков. Учитывая технологическую структуру XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Проблема: Безопасность ИИ, срочные сроки и регуляторные трудности
В прошлом году наиболее убедительное опровержение моей статьи поступило от сообщества по безопасности ИИ. Их аргумент состоит в том, что, похоже, у нас может быть всего 3 года, чтобы развиться до общего ИИ, а затем еще 3 года до суперразума. Поэтому, если мы не хотим, чтобы мир погрузился в разрушение или необратимые трудности, мы не можем просто ускорять развитие полезных технологий, но также должны замедлить развитие вредных технологий, что означает необходимость введения жестких регуляторных мер, которые могут разгневить власть имущих.
Если мы находимся в наименее идеальном мире, где риски ИИ крайне высоки и временной интервал может быть всего 5 лет, я поддержу следующие меры регулирования:
Ответственность
Глобальная "мягкая пауза" на аппаратном обеспечении промышленного масштаба
Эти стратегии имеют свои недостатки и являются лишь временными мерами. Нам нужны более стабильные меры, чтобы выиграть время. Многие технологии d/acc здесь актуальны и могут помочь нам справиться с возможным захватом мира ИИ:
Сетевая защита от вторжения ИИ в наши компьютеры
Биологическая защита против суперэпидемий, созданных ИИ
Защита информации должна противостоять манипуляциям ИИ
Правила ответственности представляют собой способ регулирования, который естественным образом соответствует идее d/acc, поскольку они могут очень эффективно побуждать людей по всему миру принимать эти защитные меры и относиться к ним серьезно.
Роль криптовалюты в d/acc
Существует несколько важных связей между криптовалютой и d/acc:
d/acc является расширением базовой ценности криптовалюты в другие технологические области.
Сообщество криптовалют является естественными ранними пользователями и инкубаторами технологий d/acc.
Многие технологии криптовалют могут быть использованы в области d/acc.
Существуют возможности для взаимовыгодного сотрудничества в смежных технологиях.
d/acc и финансирование общественных благ
Мощное децентрализованное финансирование общественных благ имеет решающее значение для видения d/acc, поскольку одна из ключевых целей d/acc ( минимизация центральных контрольных точек ) сама по себе препятствует многим традиционным бизнес-моделям. Поэтому нам нужно сделать трудные вещи, а именно выяснить, как финансировать общественные блага таким образом, чтобы решить критику.
Глубокое финансирование — это моя последняя попытка решить эту проблему. Оно инновирует, полагаясь на графы зависимостей и искусственный интеллект как на очищенное человеческое суждение. Основная цель состоит в создании социального инструмента, который мог бы финансировать общественные блага с точностью, справедливостью и уровнем открытого доступа, по крайней мере, приближенными к рыночным финансированиям частных товаров.
Будущее
Будущие десятилетия принесут важные вызовы:
Мощная новая волна технологий, особенно сильный ИИ, быстро приближается, сопровождаясь важными ловушками, которых нам следует избегать.
Мир становится все менее кооперативным.
Однако в каждой из этих проблем есть луч надежды:
У нас сейчас есть очень мощные инструменты, чтобы быстрее завершить оставшуюся работу.
Многие из принципов, которые мы ценим, могут быть вновь овладены широким союзом, который приветствует любого, кто хочет присоединиться.
Получение инструментов означает, что мы можем адаптироваться и улучшать наши биологические характеристики и окружающую среду, а часть "защиты" в d/acc означает, что мы можем делать это, не нарушая свободу других делать то же самое. Принцип свободы и плюрализма означает, что у нас может быть большая разнообразие в том, как мы это делаем, а наша приверженность общим человеческим целям означает, что это должно быть осуществимо.
Мы, люди, все еще самые яркие звезды. Построить более светлое 21-е столетие, защищая существование, свободу и активность человека на пути к звездам, — это сложная задача. Но я верю, что мы сможем с ней справиться.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
6 Лайков
Награда
6
4
Поделиться
комментарий
0/400
MevShadowranger
· 07-21 18:18
搞Децентрализация才是正道 该打的早该打了
Посмотреть ОригиналОтветить0
WhaleMinion
· 07-21 10:27
d/acc не может победить ai, понять это бессмысленно.
Посмотреть ОригиналОтветить0
YieldWhisperer
· 07-21 10:23
мээ... еще одна надежда на технологии без реальной математики за этим
Виталик: d/acc один год. Децентрализация защиты: прогресс и будущее.
d/acc: Обзор и перспективы через год
Автор: Виталик Бутерин
Введение
Около года назад я написал статью о технологическом оптимизме, в которой изложил увлечение технологиями и их огромные преимущества, а также выразил осторожное отношение к некоторым проблемам, особенно к рискам, которые могут возникнуть из-за суперумного ИИ.
Моя основная идея в этой статье заключается в том, чтобы продвигать концепцию децентрализованного, демократичного и дифференцированного защитного ускорения. Это означает, что необходимо ускорять технологическое развитие, но при этом акцентировать внимание на технологиях, которые могут улучшить защитные способности, а не разрушительные, и стремиться к распределению власти, избегая ситуации, когда немногие элиты представляют интересы всех и определяют, что хорошо, а что плохо. Защитная модель должна быть похожа на демократическую Швейцарию, а не на замки средневекового феодализма.
За последний год эти идеи и концепции значительно развились и стали более зрелыми. Я делился этими мыслями на платформе "80,000 часов" и получил множество отзывов, большинство из которых были положительными, но, конечно, были и критические голоса.
Эта работа продолжает развиваться и приносит реальные результаты: достигнуты успехи в таких областях, как верифицируемые открытые вакцины, здоровый внутренний воздух, "сообщества заметок", предсказательные рынки, применение нулевых знаний в правительственной идентификации и социальных медиа, открытые медицинские инструменты для визуализации и т.д.
Прошлой осенью мы провели наше первое важное мероприятие d/acc: "день открытия d/acc" ( d/aDDy ), на котором собрались спикеры из различных опорных областей d/acc, чтобы помочь тем, кто долго работал с этими технологиями, лучше понять работу друг друга, а также дать возможность внешним участникам осознать более широкий замысел: ценности, способствующие развитию Ethereum и криптовалют, могут быть распространены на более широкий мир.
Содержание и пределы d/acc
Основная идея d/acc заключается в: децентрализованной, демократической и дифференцированной оборонительной акселерации. Создание технологий, способствующих смещению баланса сил в сторону обороны, при этом в процессе реализации не полагаясь на передачу большей власти центральным властям. Эти два аспекта имеют внутреннюю связь: любая децентрализованная, демократическая или свободная политическая структура, когда оборона легко реализуется, обычно процветает, тогда как в условиях трудной обороны она сталкивается с серьезными вызовами.
Один из способов понять и реализовать важность децентрализации, оборонительной стратегии и ускорения — это сравнить их с концепцией, возникающей при отказе от любого из этих трех аспектов:
С помощью d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в возвращении к рамкам движения Пиратской партии в Европе в конце 2000-х годов: расширение прав и возможностей. Наша цель состоит в том, чтобы построить мир, который сможет сохранить человеческую активность, реализовать негативную и позитивную свободу. Это перек呼应 традиции классического либерализма, существующей на протяжении нескольких веков. Учитывая технологическую структуру XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Проблема: Безопасность ИИ, срочные сроки и регуляторные трудности
В прошлом году наиболее убедительное опровержение моей статьи поступило от сообщества по безопасности ИИ. Их аргумент состоит в том, что, похоже, у нас может быть всего 3 года, чтобы развиться до общего ИИ, а затем еще 3 года до суперразума. Поэтому, если мы не хотим, чтобы мир погрузился в разрушение или необратимые трудности, мы не можем просто ускорять развитие полезных технологий, но также должны замедлить развитие вредных технологий, что означает необходимость введения жестких регуляторных мер, которые могут разгневить власть имущих.
Если мы находимся в наименее идеальном мире, где риски ИИ крайне высоки и временной интервал может быть всего 5 лет, я поддержу следующие меры регулирования:
Эти стратегии имеют свои недостатки и являются лишь временными мерами. Нам нужны более стабильные меры, чтобы выиграть время. Многие технологии d/acc здесь актуальны и могут помочь нам справиться с возможным захватом мира ИИ:
Правила ответственности представляют собой способ регулирования, который естественным образом соответствует идее d/acc, поскольку они могут очень эффективно побуждать людей по всему миру принимать эти защитные меры и относиться к ним серьезно.
Роль криптовалюты в d/acc
Существует несколько важных связей между криптовалютой и d/acc:
d/acc и финансирование общественных благ
Мощное децентрализованное финансирование общественных благ имеет решающее значение для видения d/acc, поскольку одна из ключевых целей d/acc ( минимизация центральных контрольных точек ) сама по себе препятствует многим традиционным бизнес-моделям. Поэтому нам нужно сделать трудные вещи, а именно выяснить, как финансировать общественные блага таким образом, чтобы решить критику.
Глубокое финансирование — это моя последняя попытка решить эту проблему. Оно инновирует, полагаясь на графы зависимостей и искусственный интеллект как на очищенное человеческое суждение. Основная цель состоит в создании социального инструмента, который мог бы финансировать общественные блага с точностью, справедливостью и уровнем открытого доступа, по крайней мере, приближенными к рыночным финансированиям частных товаров.
Будущее
Будущие десятилетия принесут важные вызовы:
Однако в каждой из этих проблем есть луч надежды:
Получение инструментов означает, что мы можем адаптироваться и улучшать наши биологические характеристики и окружающую среду, а часть "защиты" в d/acc означает, что мы можем делать это, не нарушая свободу других делать то же самое. Принцип свободы и плюрализма означает, что у нас может быть большая разнообразие в том, как мы это делаем, а наша приверженность общим человеческим целям означает, что это должно быть осуществимо.
Мы, люди, все еще самые яркие звезды. Построить более светлое 21-е столетие, защищая существование, свободу и активность человека на пути к звездам, — это сложная задача. Но я верю, что мы сможем с ней справиться.