d/acc: Bir yıl sonraki değerlendirme

Ön Söz

Liraz Siri, Janine Leger ve Balvi gibi gönüllülerin geri bildirimleri ve incelemeleri için teşekkürler.

Yaklaşık bir yıl önce, teknoloji iyimserliği hakkında bir makale yazdım; bu makalede teknolojiye olan genel tutkum ve onun büyük faydaları üzerine görüşlerimi dile getirdim. Aynı zamanda, özellikle süper zeki yapay zeka ile ilgili bazı özel sorunlara karşı dikkatli bir tutum sergiledim. Yanlış bir şekilde inşa edilmesi durumunda, bu durumun yol açabileceği yıkıcı riskler veya insanlığın geri dönüşü olmayan bir şekilde güç kaybetme riski hakkında endişelerimi ifade ettim.

Makalenin bir ana fikri, merkeziyetsiz, demokratik ve farklılaştırılmış savunma hızlandırmasını teşvik etmektir. Hem teknolojik gelişimi hızlandırmak, hem de savunma yeteneklerimizi artıran, zarar verme kapasitesini değil, bu tür teknolojilere özel olarak odaklanmak ve gücün merkeziyetine değil, dağıtımına odaklanmak gerekmektedir. Bu, elitlerin her şeyi belirlemesine ve herkesin yerine hareket etmesine engel olmalıdır. Savunma modeli, demokratik İsviçre gibi ve tarihsel olarak neredeyse anarşist olan Zomia bölgesi gibi olmalı, feodalizm altındaki lordlar ve kalelerin temsil ettiği model gibi olmamalıdır.

Geçen yıl bu kavramlar ve fikirler önemli bir gelişim ve olgunlaşma süreci geçirdi. Bu fikirleri "80,000 saat" platformunda paylaştım ve birçok geri dönüş aldım, bunların çoğu olumlu, elbette bazı eleştiriler de oldu.

Bu çalışma kendiliğinden ilerlemeye devam etti ve somut sonuçlar elde edildi: doğrulanabilir açık kaynaklı aşı alanında ilerleme kaydedildi; insanlar sağlıklı iç hava değerinin önemini daha da derinlemesine anlama fırsatı buldu; "topluluk notları" sürekli olarak olumlu bir rol oynamaya devam etti; tahmin piyasası bilgi aracı olarak bir dönüm yılı yaşadı; sıfır bilgi basit etkileşimsiz bilgi kanıtı ( ZK-SNARKs ) hükümet kimlik tespiti ve sosyal medya alanında uygulandı ( ve hesap soyutlaması ile Ethereum cüzdanlarının güvenliği sağlandı ); açık kaynaklı görüntüleme araçları tıp ve beyin-bilgisayar arayüzü ( BCI ) alanlarında uygulama buldu, vb.

Geçen sonbaharda, ilk önemli d/acc etkinliğimiz "d/acc Keşif Günü" ( d/aDDy ), Devcon'da gerçekleştirildi. Etkinlik, d/acc'ın çeşitli sütun alanlarından ( biyoloji, fizik, ağ, bilgi savunması ve sinir teknolojisi ) üzerine konuşmalar yapan katılımcıları bir araya getirdi ve tam bir gün sürdü. Yıllar boyunca bu teknolojilere adanmış insanlar birbirlerinin çalışmalarını daha iyi anlamaya başladı ve dışarıdan gelenler de bu daha büyük vizyonun, Ethereum ve kripto paraların gelişimini destekleyen aynı değerlerin daha geniş bir dünyaya yayılabileceğinin farkına varmaya başladı.

d/acc'nin Anlamı ve Kapsamı

2042 yılına geldiğinizi hayal edin. Medya raporlarında, bulunduğunuz şehirde yeni bir salgının patlak verebileceğine dair bir haber gördünüz. Bu tür haberlere artık alıştınız: İnsanlar genellikle her türlü hayvan hastalığı mutasyonuna aşırı tepki verirken, çoğu durumda bu mutasyonlar nihayetinde gerçek bir krize yol açmaz. Önceki iki potansiyel salgın, atık su izleme ve sosyal medyanın açık kaynak analizleri sayesinde erken aşamada tespit edilmiş ve başarılı bir şekilde kökünde engellenmiştir. Ancak bu sefer durum farklı; tahmin piyasaları, en az 10.000 vaka olma olasılığının %60'a kadar çıktığını gösteriyor ve bu durum sizi endişelendiriyor.

Dün, virüsün gen dizilimi belirlendi. Cebinizdeki hava test cihazı için yazılım güncellemesi hemen yayınlandı, bu güncelleme sayesinde test cihazı yeni virüs ('i hem bir nefes testi ile hem de odada 15 dakika boyunca iç hava maruziyeti sonrası )'i tespit edebiliyor. Bu arada, dünya genelindeki herhangi bir modern sağlık tesisinde temin edilebilecek cihazlarla aşı üretimi için açık kaynak talimatları ve kodları birkaç hafta içinde yayınlanması bekleniyor. Çoğu insan şu anda herhangi bir önlem almadı, güvenliğini sağlamak için esas olarak yaygın hava filtreleme ve havalandırma önlemlerine güveniyor.

Bağışıklık sorunlarınız nedeniyle, daha ihtiyatlı davranıyorsunuz: kullandığınız açık kaynaklı yerel çalışan kişisel asistan yapay zeka, navigasyon, restoran ve etkinlik önerileri gibi rutin görevlerin yanı sıra, gerçek zamanlı hava testi verileri ve karbondioksit verilerini de dikkate alarak sadece sizin için en güvenli yerleri önermektedir. Bu veriler, binlerce katılımcı ve cihaz tarafından sağlanmakta olup, ZK-SNARKs ve farklılık gizliliği teknolojileri sayesinde verilerin ifşa edilme veya başka amaçlar için kötüye kullanılma riskini en aza indirmektedir (. Bu veri setlerine katkıda bulunmak istiyorsanız, diğer kişisel asistan yapay zekalar bu şifreleme araçlarının gerçekten etkili olup olmadığını doğrulayacaktır ).

İki ay sonra, pandemi mucizevi bir şekilde sona erdi: Görünüşe göre, insanların %60'ı temel sağlık protokollerine uydu, yani hava test cihazı alarm verdiğinde ve virüs varlığını gösterdiğinde maske takmayı ve eğer birey pozitif ise evde izole olmayı kabul etti. İşte bu önlem, pasif kuvvetli hava filtrelemesi nedeniyle zaten büyük ölçüde azalan bulaşma oranını 1'in altına düşürmek için yeterli oldu. Yirmi yıl önceki COVID-19 pandemisinden beş kat daha ciddi olabileceği öngörülen bir hastalık, şimdiye kadar ciddi bir etki yaratmadı.

Devcon'un düzenlediği d/acc etkinliği son derece olumlu bir sonuç elde etti; bu da d/acc felsefesinin farklı alanlardan gelen insanları bir araya getirmeyi başarması ve onların birbirlerinin çalışmalarına olan derin ilgilerini gerçekten uyandırmasıdır.

"Çeşitlilik" içeren bir etkinlik düzenlemek zor değildir, ancak farklı geçmişlere ve ilgi alanlarına sahip kişilerin gerçekten güçlü bağlar kurmasını sağlamak oldukça zordur. Ortaokul ve lise dönemimde uzun opera gösterimlerini zorla izlemek zorunda kaldığım deneyimim hâlâ aklımda; o dönem, bu operaların sıkıcı ve anlamsız olduğunu düşünmüştüm. Onları "takdir etmem gerektiğini" çok iyi biliyordum, çünkü aksi takdirde kültürel bir bilgisayar bilimi tembeli olarak görülürdüm, ancak opera içeriğiyle daha derin bir düzeyde bir bağ kurmayı başaramadım. Ancak, d/acc günü etkinlik atmosferi tamamen farklıydı: insanların farklı alanlardaki çeşitli çalışmaları gerçekten sevgiyle öğrenmek istediklerini hissetmek.

Eğer egemenlik, yavaşlama ve yok etme yerine daha parlak bir gelecek inşa etmeyi arzuluyorsak, bu tür geniş bir ittifak inşasına ihtiyaç duyulacaktır. d/acc bu alanda belirgin başarılar elde etmiş gibi görünüyor, bu bile bu fikrin değerini vurgulamak için yeterlidir.

d/acc'nin temel düşüncesi sade ve net: merkeziyetsizlik, demokrasi ve farklılaştırılmış savunmacı hızlandırma. Saldırı ve savunma dengesini savunmaya kaydıracak teknolojiler inşa etmek ve uygulama sürecinde daha fazla gücü merkezi otoriteye devretmeye bağımlı olmamak. Bu iki yön arasında içsel bir sıkı bağlantı vardır: Herhangi bir merkeziyetsiz, demokratik veya özgür siyasi yapı, savunma kolay bir şekilde uygulanabildiğinde genellikle gelişebilir; ancak savunmanın zorluklarla karşılaştığı durumlarda ciddi zorluklarla karşılaşır - bu tür durumlarda, daha olası sonuç, herkesin karşı karşıya geldiği bir karmaşa dönemi olup, nihayetinde en güçlülerin hüküm sürdüğü bir denge durumuna ulaşmaktır.

Merkeziyetsizlik, savunuculuk ve hızlandırıcılığın aynı anda gerçekleştirilmesinin önemini anlamanın bir yolu, bunları bu üç alandan herhangi birinin terk edilmesinin ortaya çıkardığı kavramlarla karşılaştırmaktır.

Merkeziyetsiz hızlanma, ancak "farklılaştırılmış savunma" kısmını göz ardı etme

Temelde, bu etkili bir hızlandırıcı olma biçimine benziyor (e/acc), ancak aynı zamanda merkeziyetsizliği de takip ediyor. Bu şekilde hareket eden birçok insan var, bazıları kendilerini d/acc olarak adlandırıyor ama kendilerini "saldırgan" olarak tanımlama konusunda faydalı bir şekilde odaklanıyorlar. Ayrıca, "merkeziyetsiz yapay zeka" ve benzeri konulara daha ılımlı bir ilgi gösteren birçok başka insan da var, ancak benim görüşüme göre "savunma" yönüne olan dikkatleri belirgin şekilde yetersiz.

Bana göre, bu yöntem, belirli grupların küresel insanlığa diktatörlük uygulama riskini önleyebilir, ancak potansiyel yapısal sorunları çözmekte başarısızdır: saldırganlık için elverişli bir ortamda, sürekli bir felaket riski vardır veya biri kendisini koruyucu olarak konumlandırıp kalıcı olarak hakimiyet kurabilir. Yapay zeka açısından, insanlığın yapay zekaya karşı zayıflayan gücüyle ilgili riski de düzgün bir şekilde çözememektedir.

Farklılaşmış savunma hızlanıyor, ancak "merkeziyetsizlik ve demokrasi"yi göz ardı ediyor

Güvenlik hedeflerine ulaşmak için merkezi kontrolü kabul etmek, bazı insanlar için her zaman belirli bir çekiciliğe sahip olmuştur. Okuyucuların bu tür birçok örneği ve bunların getirdiği dezavantajları kesinlikle bildiğinden şüphe yoktur. Son zamanlarda, bazıları aşırı merkezi kontrolün gelecekteki aşırı teknolojilere karşı tek çözüm olabileceğinden endişe ediyor: Örneğin, "herkesin bir 'özgür etiket' takması" varsayımsal bir senaryo düşünelim - bu, günümüzde daha sınırlı olan giyilebilir izleme cihazlarının bir sonraki ürünüdür ve birkaç ülkenin hapishane alternatifleri olarak kullandığı ayak etiketlerine benzer... Şifreli video ve ses sürekli olarak yükleniyor ve makineler tarafından gerçek zamanlı olarak yorumlanıyor." Ancak, merkezi kontrolün bir derece sorunu vardır. Genellikle göz ardı edilen ama yine de zararlı olan daha ılımlı bir merkezi kontrol biçimi, biyoteknoloji alanında (, örneğin gıda, aşılar ) gibi kamu denetimine karşı direnişte ve bu direnişin sorgulanmadan devam etmesine izin veren kapalı kaynak standartlarında kendini göstermektedir.

Bu yöntemin riskleri açıktır; merkez kendisi genellikle risk kaynağı haline gelir. Bunu COVID-19 pandemisi sırasında gördük; birçok büyük dünya hükümeti tarafından finanse edilen işlevsel kazanım araştırmaları pandeminin kaynağı olabilir. Merkezileşmiş epistemoloji, Dünya Sağlık Örgütü'nün yıllarca COVID-19'un havadan yayıldığını kabul etmemesine neden oldu ve zorunlu sosyal mesafe ile aşı zorunluluğu, muhtemelen onlarca yıl sürecek politik tepkilere yol açtı. Benzer bir durum, yapay zeka veya diğer risk teknolojileri ile ilgili herhangi bir risk senaryosunda tekrar meydana gelme olasılığı yüksektir. Buna karşılık, merkeziyetsiz bir yaklaşım, merkezden gelen risklere daha etkili bir şekilde yanıt verecektir.

Merkezden Uzaklaştırılmış Savunma, Ama İleriye Dönük İthaf

Temelde, bu teknolojik ilerlemeyi yavaşlatma veya ekonomik durgunluğu teşvik etme girişimidir.

Bu strateji iki katmanlı bir zorlukla karşı karşıya. Öncelikle, genel olarak teknolojik ve ekonomik büyüme insanlık için son derece faydalıdır ve buna yönelik herhangi bir gecikme ölçülemez bir maliyet getirecektir. İkincisi, otoriter olmayan bir dünyada duraksamak istikrarsızdır: en fazla "hile yapan" ve gelişimi devam ettirmek için makul görünecek yollar bulabilen bireyler veya gruplar avantaj elde edecektir. Yavaşlama stratejileri belirli özel durumlarda bir ölçüde etkili olabilir: örneğin Avrupa'daki gıdalar, Amerika'daki gıdalardan daha sağlıklıdır, bu bir örnektir; nükleer silahların yayılmaması konusunda bugüne kadar elde edilen başarı da öyledir. Ancak, bu stratejilerin sonsuza dek etkili olması mümkün değildir.

d/acc aracılığıyla aşağıdaki hedeflere ulaşmayı taahhüt ediyoruz:

• Günümüz dünyasında giderek kabileleşen trende prensiplerine sadık kalmak, sadece kör bir şekilde çeşitli şeyler inşa etmekle kalmayıp, aksine belirli şeyler inşa etmeyi umuyoruz, böylece dünyayı daha güvenli ve güzel hale getiriyoruz.
• Düzeyin üstünde teknolojik ilerlemelerin dünyayı son derece garip hale getireceğini ve insanlığın evrendeki genel "izinin" sürekli olarak artacağına dair bir farkındalık. Zayıf hayvanları, bitkileri ve insan gruplarını zarardan koruma yeteneğimizin sürekli olarak artması gerekiyor ve tek çıkış yolu cesurca ilerlemektir.
• Gerçekten teknolojimizi koruyabilen bir yapı inşa etmek, "iyi insanlar ( veya iyi yapay zeka ) her şeyi kontrol ediyor" varsayımına dayanmamak. Bu hedefe, inşa etmek ve korumak için doğal olarak yıkmak için kullanmaktan daha etkili olan araçlar inşa ederek ulaşabiliriz.

d/acc'in başka bir perspektifini düşünmek, 21. yüzyılın 2000'li yıllarının sonlarındaki Avrupa Korsan Partisi hareketine bir çerçeve olarak geri dönmektir: güçlendirme.

Amacımız, insanın etkinliğini koruyabilen bir dünya inşa etmek, olumsuz özgürlüğü sağlamak yani başkalarının (, ister sıradan vatandaşlar, ister hükümetler, ister süper zeka robotları ), kendimizi şekillendirmemize müdahale etmesini engellemektir.