d/acc: un año después

El año pasado, escribí un artículo sobre el optimismo tecnológico, en el que expuse mi entusiasmo general por la tecnología y los enormes beneficios que podría traer, al mismo tiempo que expresé una actitud cautelosa hacia ciertos problemas específicos, centrándome principalmente en la superinteligencia AI y los riesgos de extinción que podría conllevar, o el riesgo de que la humanidad pierda el poder de forma irreversible si se construye de manera inadecuada (.

Uno de los puntos centrales del artículo es abogar por un concepto de aceleración defensiva que sea descentralizado, democrático y diferenciado. Se debe acelerar el desarrollo tecnológico, pero enfocándose de manera diferenciada en aquellas tecnologías que puedan mejorar nuestra capacidad de defensa en lugar de nuestra capacidad de ataque, y esforzarse por lograr la dispersión del poder, en lugar de permitir que el poder se concentre en manos de unos pocos élites que actúan como representantes de todos para juzgar lo correcto y lo incorrecto. Lo que debemos perseguir es un modelo de defensa como el de la Suiza democrática y la zona de Zomia, que ha sido prácticamente anárquica en la historia, en lugar del modelo representado por los señores y castillos bajo el feudalismo medieval.

En el año siguiente, estas ideas y conceptos experimentaron un desarrollo y madurez significativos. Compartí estas ideas en la plataforma "80,000 horas" y recibí muchos comentarios, la mayoría positivos, aunque también hubo algunas críticas.

Este trabajo en sí también sigue avanzando y ha logrado resultados reales: hemos visto avances en el campo de las vacunas de código abierto verificables; la conciencia sobre el valor del aire interior saludable sigue aumentando; las notas comunitarias continúan desempeñando un papel positivo; el mercado de predicciones ha tenido un año de avances como herramienta de información; las pruebas de conocimiento no interactivas y de conocimiento cero ) ZK-SNARKs ( se están aplicando en el campo de la identificación gubernamental y las redes sociales ) y aseguran la seguridad de las billeteras de Ethereum a través de la abstracción de cuentas (; las herramientas de imagen de código abierto se han aplicado en los campos de la medicina y las interfaces cerebro-máquina ) BCI (, etc.

El otoño pasado, celebramos nuestro primer gran evento de d/acc: el "Día de Descubrimiento d/acc" ) d/aDDy (, que reunió a oradores de diversos campos pilares de d/acc, incluyendo biología, física, redes, defensa de la información y neurotecnología ). El evento duró un día completo. Las personas que han estado dedicadas a estas tecnologías durante años comenzaron a conocer mejor el trabajo de los demás, y los forasteros también se dieron cuenta cada vez más de esta visión más amplia: que los mismos valores que impulsan el desarrollo de Ethereum y las criptomonedas pueden extenderse a un mundo más amplio.

La connotación y denotación de d/acc

El año es 2042. En los informes de los medios has visto una noticia que dice que en tu ciudad podría estallar una nueva epidemia. Para este tipo de noticias, ya te has acostumbrado: las personas a menudo reaccionan de manera exagerada ante cada mutación de enfermedades animales, y en la gran mayoría de los casos, estas mutaciones finalmente no provocan una crisis real. Las dos epidemias potenciales anteriores se detectaron en una etapa temprana gracias al monitoreo de aguas residuales y al análisis de código abierto en redes sociales, y fueron contenidas con éxito en su estado inicial. Sin embargo, esta vez es diferente; los mercados de predicción muestran una probabilidad del 60% de que aparezcan al menos 10,000 casos, lo que te preocupa.

Ayer, se determinó la secuencia genética del virus. Se lanzó una actualización de software para el probador de aire en tu bolsillo, gracias a la cual el probador puede detectar el nuevo virus ( ya sea a través de una prueba de aliento o después de estar expuesto al aire interior durante 15 minutos para detectar ). Mientras tanto, se espera que las instrucciones y el código de código abierto para generar vacunas con dispositivos que se pueden obtener en cualquier instalación médica moderna del mundo se publiquen en unas pocas semanas. La mayoría de las personas aún no han tomado ninguna acción y confían principalmente en las medidas de filtración y ventilación de aire ampliamente adoptadas para proteger su seguridad.

Debido a tus propios problemas inmunológicos, actúas con más precaución: el asistente personal AI de código abierto que utilizas, además de llevar a cabo tareas comunes como navegación, recomendaciones de restaurantes y actividades, también considera de manera integral los datos de pruebas de aire en tiempo real y los datos de dióxido de carbono, recomendándote solo los lugares más seguros. Estos datos son proporcionados por miles de participantes y dispositivos, y utilizando tecnologías como ZK-SNARKs y privacidad diferencial, se minimiza el riesgo de que los datos sean filtrados o mal utilizados para otros fines (. Si te interesa contribuir con datos a estos conjuntos, hay otros asistentes personales AI que validarán si estas herramientas criptográficas son realmente efectivas ).

Dos meses después, la pandemia se disipó de manera milagrosa: parecía que el 60% de las personas seguían los protocolos básicos de prevención, es decir, usaban mascarillas cuando el medidor de aire emitía una alarma y mostraba la presencia de virus, y se aislaban en casa si el resultado de su prueba era positivo. Esta medida fue suficiente para reducir aún más la tasa de transmisión, que ya se había reducido drásticamente debido a la filtración de aire pasiva, a menos de 1. Un simulacro mostró que una enfermedad que podría ser cinco veces más grave que la pandemia de COVID-19 de hace veinte años, ahora no ha causado un impacto serio.

El evento d/acc organizado por Devcon ha logrado un resultado extremadamente positivo, que es que la filosofía d/acc ha logrado unir a personas de diferentes campos y ha despertado un gran interés por el trabajo de los demás.

Organizar un evento con "diversidad" no es una tarea difícil, pero hacer que personas de diferentes contextos e intereses establezcan verdaderamente conexiones estrechas es un gran desafío. Aún recuerdo vívidamente mi experiencia en la escuela secundaria y preparatoria, cuando me vi obligado a ver largas óperas, que en lo personal me parecían aburridas y monótonas. Sabía que "se suponía" que debía apreciarlas, porque de lo contrario, sería visto como un perezoso de ciencias de la computación sin cultura, pero no logré resonar a un nivel más profundo con el contenido de las óperas. Sin embargo, la atmósfera del evento d/acc fue completamente diferente: sentí que la gente realmente disfrutaba conocer los diversos trabajos de diferentes campos.

Si deseamos construir un futuro más brillante que el dominio, la desaceleración y la destrucción, es necesario llevar a cabo este tipo de construcción de alianzas amplias. d/acc parece haber logrado resultados significativos en este aspecto, y solo esto es suficiente para resaltar el valioso valor de esta idea.

La idea central de d/acc es clara y concisa: defensa descentralizada, democrática y diferenciada. Construir una tecnología que pueda inclinar el equilibrio entre ataque y defensa hacia la defensa, y que no dependa de otorgar más poder a las autoridades centrales durante su implementación. Existe una conexión intrínseca y estrecha entre estos dos aspectos: cualquier estructura política descentralizada, democrática o libre tiende a prosperar cuando la defensa se puede implementar fácilmente, y enfrenta severos desafíos cuando la defensa se encuentra con múltiples dificultades; en esos casos, el resultado más probable es un período de confusión donde todos se enfrentan entre sí, y finalmente se alcanza un estado de equilibrio gobernado por el más fuerte.

Una forma de entender la importancia de intentar lograr simultáneamente la descentralización, la defensa y la aceleración es compararla con la idea que surge al renunciar a cualquiera de estos tres aspectos.

Aceleración descentralizada, pero ignorando la parte de "defensa diferenciada"

En esencia, esto es similar a convertirse en un efectivo aceleracionista ( e/acc), pero al mismo tiempo persiguiendo la descentralización. Hay muchas personas que adoptan este enfoque, algunas de las cuales se autodenominan d/acc, pero describen su enfoque como "ofensivo". Además, hay muchas otras personas que muestran un entusiasmo más moderado por "IA descentralizada" y temas similares, pero en mi opinión, su atención al aspecto "defensivo" es claramente insuficiente.

En mi opinión, este enfoque podría evitar el riesgo de que un grupo específico imponga un régimen dictatorial sobre la humanidad global, pero no resuelve los problemas estructurales subyacentes: en un entorno que favorece la ofensiva, siempre existe el riesgo continuo de que se produzcan catástrofes, o que alguien se posicione como protector y ocupe permanentemente una posición dominante. En lo que respecta a la IA, tampoco puede abordar adecuadamente el riesgo de que la humanidad en su conjunto pierda poder en relación con la IA.

Defensa diferenciada acelerada, pero ignorando "descentralización y democracia"

La aceptación del control centralizado para lograr objetivos de seguridad siempre ha tenido cierto atractivo para algunas personas; los lectores sin duda ya están familiarizados con numerosos casos de este tipo y sus desventajas. Recientemente, algunas personas temen que el control extremo y centralizado podría ser la única manera de enfrentar las tecnologías extremas del futuro: por ejemplo, imaginar un escenario hipotético en el que "cada persona lleva una 'etiqueta de libertad' —que es un producto sucesor de los dispositivos de monitoreo portátil más limitados de hoy en día, similar a las etiquetas de tobillo utilizadas como alternativas a la prisión en varios países... el video y el audio encriptados se suben continuamente y son interpretados en tiempo real por máquinas". Sin embargo, el control centralizado presenta un problema de grado. Una forma de control centralizado relativamente moderada, que generalmente se pasa por alto pero que sigue siendo perjudicial, se manifiesta en el ámbito de la biotecnología (, como la resistencia pública a la supervisión de alimentos y vacunas ), así como la permisibilidad de que esta resistencia no sea desafiada por normas de código cerrado.

Los riesgos de este enfoque son evidentes, ya que el centro en sí a menudo puede convertirse en la fuente de riesgo. Ya hemos sido testigos de esto durante la pandemia de COVID-19, donde la investigación funcional financiada por varios gobiernos mundiales podría ser la raíz de la pandemia, y la epistemología centralizada llevó a la Organización Mundial de la Salud a rechazar durante años el reconocimiento de que el virus de COVID-19 se transmite por el aire, mientras que el distanciamiento social obligatorio y los mandatos de vacunación han provocado un posible retroceso político que podría durar décadas. Situaciones similares probablemente volverán a ocurrir en cualquier escenario de riesgo relacionado con la IA u otras tecnologías de riesgo. En comparación, un enfoque descentralizado abordará de manera más efectiva los riesgos provenientes del propio centro.

Defensa descentralizada, pero excluyendo la aceleración

En esencia, esto intenta frenar el avance tecnológico o impulsar una recesión económica.

Esta estrategia enfrenta dos desafíos. Primero, en general, el crecimiento tecnológico y económico es extremadamente beneficioso para la humanidad, y cualquier retraso en él conlleva costos incalculables. En segundo lugar, en un mundo no autoritario, el estancamiento es inestable: aquellos que "hacen trampa" más, que pueden encontrar formas aparentemente razonables de seguir desarrollándose, tendrán ventaja. La estrategia del decrecimiento puede funcionar hasta cierto punto en contextos específicos: por ejemplo, los alimentos europeos son más saludables que los alimentos estadounidenses, este es un ejemplo; el éxito logrado hasta ahora en la no proliferación nuclear también es así. Sin embargo, estas estrategias no pueden funcionar para siempre.

A través de d/acc, nos comprometemos a lograr los siguientes objetivos:

• Mantener principios en un mundo cada vez más tribalizado, y no simplemente construir ciegamente diversas cosas; al contrario, esperamos construir cosas específicas para hacer el mundo más seguro y mejor.
• Reconocer que los avances tecnológicos exponenciales significan que el mundo se volverá extremadamente extraño, y que la "huella" total de la humanidad en el universo inevitablemente seguirá aumentando. Nuestra capacidad para proteger a los animales, plantas y comunidades vulnerables de daños debe seguir mejorando, y la única salida es avanzar con valentía.
• Construir tecnologías que realmente nos protejan, en lugar de basarse en la suposición de que "buenas personas ( o buenas IA ) controlan todo". Logramos este objetivo construyendo herramientas que son inherentemente más efectivas para construir y proteger que para destruir.

Una forma de pensar en d/acc es volver a un marco del movimiento del Partido Pirata en Europa a finales de la década de 2000: empoderamiento.

Nuestro objetivo es construir un mundo que preserve la capacidad de acción humana, logrando la libertad negativa, es decir, evitar la intervención activa de otros (, ya sean ciudadanos comunes, gobiernos o superinteligencias ) en nuestra capacidad de dar forma a nuestro propio destino, al mismo tiempo que logramos la libertad positiva, es decir, asegurarnos de que tengamos el conocimiento y los recursos para ejercer esta capacidad. Esto responde a una continuidad que se ha prolongado durante varias generaciones.