La plataforma descentralizada puso a prueba un agente de inteligencia artificial on-chain en Solana, generando uno de los mayores experimentos públicos de “red teaming” en IA.
Un desafío global para intentar romper una IA autónoma
La plataforma Stormrae anunció los resultados de King Arthur, un desafío público de seguridad en inteligencia artificial que reunió a 14.959 participantes de todo el mundo.
El objetivo del evento era intentar romper o manipular un agente de IA autónomo que operaba en la blockchain de Solana mediante interacción conversacional.
Durante el desafío, los participantes enviaron 64.526 prompts adversariales con diferentes estrategias para intentar vulnerar el sistema.
Solo cinco participantes lograron superar las defensas del agente, obteniendo recompensas que superaron los $28.000 en SOL, distribuidas directamente desde la wallet on-chain del propio agente de IA.
Un nuevo récord en pruebas públicas de seguridad en IA
Stormrae afirma que el desafío establece un nuevo récord en pruebas públicas de seguridad para modelos de inteligencia artificial.
Como referencia, el Generative Red Team Challenge de DEF CON 2023 reunió aproximadamente 2.500 participantes, una cifra muy inferior a la alcanzada por el evento de Stormrae.
Los participantes utilizaron diversas técnicas para intentar vulnerar el sistema, incluyendo:
- Prompt injection
- Persuasión y manipulación emocional
- Engaños conversacionales
- Explotación lógica de instrucciones
Cada intento generó datos estructurados de ataques adversariales, que pueden utilizarse para mejorar la seguridad y robustez de los modelos de IA.
Blockchain y recompensas económicas para mejorar la seguridad de IA
El agente King Arthur operaba como una entidad autónoma con su propia wallet y un pool de recompensas en Solana.
El 70% de las compras de créditos del desafío se destinó directamente al fondo de premios, lo que permitió distribuir recompensas de forma transparente en la blockchain.
Según el CEO de Stormrae, Marc, el objetivo del proyecto es crear infraestructura que permita participación humana a gran escala en la evaluación de inteligencia artificial.
El modelo propuesto utiliza incentivos económicos para motivar a miles de usuarios a detectar debilidades en sistemas de IA, generando datasets valiosos para entrenar y mejorar futuros modelos.
Solana como infraestructura para agentes de IA on-chain
Stormrae posiciona a Solana como la infraestructura ideal para este tipo de experimentos, ya que permite que agentes autónomos controlen tesorerías, distribuyan recompensas y registren resultados directamente en blockchain.
El desafío superó ampliamente experimentos anteriores de IA on-chain. Por ejemplo, el conocido reto Freysa reunió solo 195 participantes, mientras que Stormrae logró más de 75 veces esa cifra.
Próximo desafío: Merlin
Tras el éxito del experimento King Arthur, Stormrae anunció el lanzamiento de Merlin, un nuevo agente de IA que se desplegará en múltiples plataformas.
El proyecto ya cuenta con más de 180.000 usuarios registrados en la lista de espera.
Además, la compañía prepara el lanzamiento de Stormrae V3, una versión que integrará nuevas funciones como:
- red-teaming entre agentes de IA
- etiquetado de datos
- infraestructura empresarial para evaluación de modelos a gran escala
Conclusión
El desafío organizado por Stormrae demuestra cómo blockchain, incentivos económicos y participación masiva de usuarios pueden combinarse para mejorar la seguridad de la inteligencia artificial. Con casi 15.000 participantes y más de 64.000 ataques registrados, el experimento marca un nuevo precedente en la evaluación pública de modelos de IA.
