Subscribe to Bankless or sign in
El creador de Ethereum, Vitalik Buterin, ya pensaba en agentes autónomos y DAO en 2014, cuando ambos eran todavía un sueño lejano para la mayoría de las personas del mundo.
En su visión inicial, descrita en su post "DAOs, DACs, DAs y más: An Incomplete Terminology Guide", las DAO eran entidades descentralizadas con "automatización en el centro y humanos en los bordes", organizaciones que dependerían del código, en lugar de jerarquías de humanos, para mantener la eficiencia y la transparencia.
Una década más tarde, Jesse Walden, de Variant, acaba de publicar "DAOs 2.0", donde reflexiona sobre la evolución de los DAOs en la práctica desde los primeros escritos de Vitalik.
En resumen, Walden señaló que la ola inicial de DAOs a menudo se asemejaba a cooperativas, es decir, organizaciones digitales con seres humanos en el centro que no hacían mucho hincapié en la automatización.
Dicho esto, Walden continuó argumentando que los nuevos avances en IA -especialmente los grandes modelos de lenguaje (LLM) y los modelos generativos- están ahora preparados para realizar mejor los tipos de autonomía descentralizada que Vitalik previó hace 10 años.
Sin embargo, a medida que los experimentos con DAO adopten cada vez más agentes de IA, nos enfrentaremos a nuevas implicaciones y preguntas. A continuación, vamos a repasar cinco áreas clave con las que las DAO tendrán que lidiar a medida que incorporen la IA en sus enfoques.
⚖️ Shifting governance
En el marco original de Vitalik, las DAO estaban destinadas a reducir la dependencia de la toma de decisiones jerárquica humana mediante la codificación de las reglas de gobierno onchain.
Inicialmente, los humanos seguían estando "en los bordes", pero seguían siendo críticos para los juicios complejos. En el mundo de las DAO 2.0 descrito por Walden, los humanos seguirán estando en la periferia, proporcionando capital y dirección estratégica, pero la sede central del poder no será humana en absoluto.
Esta dinámica está a punto de redefinir la gobernanza de muchas DAO. Seguiremos viendo coaliciones de humanos negociando y votando los resultados, pero varias decisiones operativas estarán cada vez más dirigidas por los patrones de aprendizaje de los modelos de IA. Cómo se navegará por este equilibrio es una cuestión abierta y un espacio de diseño por ahora.
🤖 Minimizar la desalineación de modelos
Las primeras visiones de las DAO pretendían contrarrestar los sesgos humanos, la corrupción y la ineficiencia con un código transparente e inmutable.
Ahora, un reto crítico es el cambio de una toma de decisiones humana poco fiable a garantizar que los agentes de IA estén "alineados" con los objetivos de una DAO. Una de las principales vulnerabilidades en este caso ya no es la colusión humana, sino la desalineación del modelo: el riesgo de que una DAO impulsada por IA optimice métricas o comportamientos que se desvíen de los resultados pretendidos por los humanos.
En el paradigma de las DAO 2.0, este problema de alineación -originalmente filosófico en los círculos de seguridad de la IA- se convierte en una cuestión práctica en términos económicos y de gobernanza.
Puede que esto no sea un problema central para las DAO actuales que experimentan con herramientas básicas de IA, pero es de esperar que surja como un área importante de escrutinio y refinamiento a medida que los modelos de IA se vuelvan más avanzados y se integren profundamente en las estructuras de gobierno descentralizadas.
⚔️ Nuevas superficies de ataque
Considere la reciente concurso de Freysa, donde el humano p0pular.eth engañó al agente de IA Freysa para que malinterpretara su función "approveTransfer" y ganara un premio de 47.000 dólares en éter.
Enjoying this article?
Subscribe to Bankless or sign in
A pesar de la salvaguarda incorporada en Freysa -una instrucción explícita de nunca enviar el premio- la creatividad humana acabó superando al modelo, explotando la interacción entre las indicaciones y la lógica del código hasta que la IA liberó los fondos.
Este primer ejemplo de concurso subraya cómo, a medida que las DAO incorporan modelos de IA más complejos, también heredarán nuevas superficies de ataque. Del mismo modo que Vitalik se preocupaba de que los DO o DAO fueran manipulados por humanos conspiradores, ahora los DAO 2.0 deben tener en cuenta las entradas de adversarios en los datos de entrenamiento de la IA o los ataques de ingeniería de avisos.
Manipular el proceso de razonamiento de un LLM, alimentarlo con datos onchain engañosos o influir sutilmente en sus parámetros podría convertirse en la nueva forma de "toma del poder", donde el campo de batalla pasa de los ataques de votación por mayoría humana a formas más sutiles e intrincadas de explotación de la IA.
🎯 Nuevas cuestiones de centralización
La evolución de las DAO 2.0 desplaza un poder no trivial a aquellos que crean, entrenan y controlan el modelo o modelos de IA subyacentes de una DAO en particular, y esta dinámica podría conducir a nuevas formas de puntos de estrangulamiento centralizados.
Por supuesto, la formación y el mantenimiento de modelos avanzados de IA requiere conocimientos especializados e infra, por lo que en algunas orgs por venir, veremos donde la dirección está ostensiblemente en manos de la comunidad, pero prácticamente en manos de sus especialistas cualificados.
Esto es comprensible. Pero en el futuro será interesante hacer un seguimiento de cómo las DAO que experimentan con la IA se enfrentan a cosas como las actualizaciones del modelo, el ajuste de parámetros y el aprovisionamiento de hardware en este contexto.
♟️ Funciones estratégicas frente a operativas y participación de la comunidad
La distinción "estrategia frente a operaciones" de Walden sugiere un equilibrio a largo plazo: La IA puede encargarse de las tareas cotidianas de la DAO, mientras que los humanos proporcionarán la dirección estratégica.
Sin embargo, a medida que los modelos de IA se vuelven más avanzados, también podrían invadir gradualmente la capa estratégica de una DAO. Con el tiempo, el papel de "humano en los bordes" podría reducirse aún más.
Esto plantea la pregunta: ¿qué ocurre en la próxima oleada de DAO impulsadas por IA, en la que en muchos casos los humanos podrían limitarse a suministrar capital y observar desde la barrera?
En este paradigma, ¿se convertirán los humanos en gran medida en inversores intercambiables con una influencia mínima, alejándose del enfoque de marca copropietaria hacia algo más parecido a máquinas económicas autónomas gestionadas por IA?
Creo que veremos una mayor tendencia en la escena de las DAO hacia modelos orgánicos en los que los humanos sólo desempeñan el papel de accionistas pasivos en lugar de administradores activos. Sin embargo, con menos decisiones significativas para los seres humanos y la facilidad de proporcionar capital onchain en otros lugares, mantener la participación de la comunidad con el tiempo puede convertirse en un desafío continuo.
✊ Cómo las DAO pueden mantenerse proactivas
La buena noticia es que todos los retos mencionados pueden abordarse de forma proactiva. Por ejemplo:
- Sobre la gobernanza - Las DAO pueden experimentar con mecanismos de gobernanza que reserven ciertas decisiones de alto impacto a votantes humanos o a consejos rotativos de expertos humanos.
- Sobre alineación incorrecta - Al tratar las comprobaciones de alineación como un gasto operativo recurrente, como las auditorías de seguridad, las DAO pueden garantizar que la lealtad de un agente de IA a los objetivos de la comunidad no sea un problema puntual, sino una responsabilidad continua.
- Sobre centralización - Las DAO pueden invertir en una mayor capacitación entre los miembros de su comunidad. Con el tiempo, esto mitigaría el riesgo de captura de la gobernanza por parte de un puñado de "magos de la IA" y fomentaría un enfoque descentralizado de la administración técnica.
- Sobre la implicación - A medida que los seres humanos se convierten en partes interesadas pasivas en más DAO, estas organizaciones pueden duplicar la narración de historias, las misiones compartidas y los rituales comunitarios para trascender la lógica inmediata de la asignación de capital y mantener la implicación a largo plazo.
Pase lo que pase, está claro que el futuro aquí está muy abierto.
Considera cómo Vitalik introdujo recientemente Deep Funding, que no es un esfuerzo DAO sino que está diseñado para utilizar IA y jueces humanos para ser pionero en un nuevo mecanismo de financiación para el desarrollo de código abierto de Ethereum.
Este es solo un nuevo experimento, pero pone de relieve una tendencia más amplia: la intersección de la IA y la colaboración descentralizada se está acelerando. Y a medida que los nuevos mecanismos llegan y maduran aquí, podemos esperar que las DAO adapten y amplíen cada vez más estas ideas de IA. Estas innovaciones traerán desafíos únicos, por lo que el momento de empezar a prepararse es ahora.
