Modelos open source para encontrar vulnerabilidades: Ari Herbert-Voss reta a Mythos en Black Hat Asia
En Black Hat Asia (Singapur), Ari Herbert-Voss, CEO de la startup de seguridad RunSybil y primer fichaje de seguridad de OpenAI, defendió que los modelos open source para encontrar vulnerabilidades pueden alcanzar resultados comparables a Mythos, el sistema de Anthropic orientado a bug finding, siempre que se desplieguen con la “orquestación” correcta. El planteamiento es relevante para la industria porque apunta a una ruta de adopción más accesible y controlable para organizaciones que no pueden depender de modelos propietarios restringidos o de alto coste.
Herbert-Voss describió que Mythos destaca tanto en bugs “shallow” (fallos bien descritos y fáciles de validar) como en vulnerabilidades más complejas. Según explicó, parte de esa ventaja estaría asociada a un fenómeno que denominó “supralinear scaling”: la capacidad no mejoraría de forma lineal con más datos, cómputo y tiempo de entrenamiento, sino que podría multiplicarse (por ejemplo, duplicar recursos para obtener mejoras mucho mayores). El ponente insinuó que podría haber multiplicadores aún más altos, aunque señaló estar limitado por un acuerdo de confidencialidad.
Modelos open source para encontrar vulnerabilidades: el papel del “scaffolding”
Uno de los puntos centrales de la charla fue que Anthropic mantiene Mythos con acceso muy restringido por riesgo de abuso, pero que defensores y atacantes pueden aproximarse a resultados similares usando modelos open source para encontrar vulnerabilidades mediante “scaffolding”: una capa de herramientas y automatización que permite ejecutar varios modelos en conjunto, coordinarlos y combinar sus hallazgos.
La lógica es doble. Por un lado, diferentes modelos tienden a detectar diferentes clases de fallos, lo que crea una forma práctica de defense in depth frente a los puntos ciegos de un único modelo. Por otro, el enfoque reduce la dependencia de un solo proveedor y puede ser más viable para equipos que necesitan ejecutar análisis en sus propios entornos por requisitos de seguridad, cumplimiento o soberanía del dato.
Coste, disponibilidad y control operativo
El coste también fue señalado como factor determinante. Herbert-Voss remarcó que Mythos es caro de construir y operar, y que podría no llegar a estar disponible públicamente, lo que convertiría a las alternativas abiertas en una opción no solo competitiva, sino necesaria para muchas organizaciones. En ese contexto, el control sobre el pipeline (datos, ejecución, trazabilidad y políticas internas) se vuelve un argumento a favor de arquitecturas basadas en open source.
La automatización no elimina el trabajo humano (por ahora)
Aun así, el ejecutivo subrayó que alcanzar rendimiento “Mythos-grade” con modelos abiertos exige experiencia humana para diseñar la orquestación y, especialmente, para evaluar la calidad de los reportes. El problema no es nuevo: comparó la situación con el fuzzing, técnica que inyecta entradas aleatorias o cuasi aleatorias para provocar fallos, y que históricamente ha generado grandes volúmenes de alertas y falsos positivos que terminan aumentando la carga de triage.
La conclusión fue pragmática: los “AI bug-hunters” ya producen ese mismo exceso de señales y, previsiblemente, seguirá ocurriendo. En lugar de un reemplazo inmediato de roles, Herbert-Voss anticipa que los equipos de infosec seguirán teniendo trabajo suficiente, mientras la presión económica por amortizar GPUs y datacenters empuja a más empresas a adoptar estas técnicas para mejorar su postura proactiva de seguridad.
Contexto: Mythos y el debate sobre modelos restringidos
El debate llega en un momento en el que la industria está calibrando hasta qué punto los modelos especializados en seguridad deben distribuirse ampliamente o limitarse por el riesgo de habilitar ataques a escala. En la práctica, la tesis expuesta en Black Hat Asia sugiere que el control de acceso puede retrasar la difusión, pero no evita que actores motivados repliquen aproximaciones similares combinando herramientas y modelos existentes.
Para más información institucional sobre investigación y postura de seguridad en modelos avanzados, puede consultarse el trabajo público de Anthropic y el enfoque general de OpenAI en sistemas de IA.
De cara al mercado, el mensaje es claro: los modelos open source para encontrar vulnerabilidades ya no se discuten como una alternativa “inferior”, sino como una vía competitiva cuando se diseñan con scaffolding, diversidad de modelos y validación humana, especialmente allí donde el acceso a sistemas cerrados como Mythos es limitado por coste o restricciones de uso.
