El primer concepto hace referencia al comportamiento de la IA que no se ajusta a lo esperado, en base a valores, intereses o intenciones humanas. La automejora recursiva, por su parte, es una técnica que permite que un sistema de IA diseñe y desarrolle de forma autónoma a su sucesor.
Ambos conceptos requieren nuevas mediciones que permitan ofrecer “una mejor comprensión del ritmo de desarrollo de la IA en los laboratorios de vanguardia”, con el objetivo de “esclarecer” tres puntos que en Anthropic consideran “críticos”.
Se trata de constatar lo avanzada que está la autoconstrucción de una nueva versión de la IA, la capacidad de la empresa para supervisar e intervenir en las acciones que los agentes realicen en sus sistemas y la capacidad de cómputo necesaria para desarrollar los modelos más capaces.
“Al comprender mejor el proceso de producción de modelos, tenemos más posibilidades de correlacionar las entradas del modelo, como la capacidad de cómputo, con las salidas del modelo, como las capacidades”, afirma la compañía en un comunicado.
Automatización del desarrollo
La compañía considera que “la aceleración del desarrollo de los modelos podría dificultar su comprensión y control por parte de los humanos” y, por ello, “mide la proporción de la investigación y el desarrollo en IA de Anthropic que realiza Claude” con el Índice de Automatización de I+D de Anthropic.
Este índice les ha permitido descubrir que, desde agosto del presente año, Claude “lidera el 26% del trabajo de I+D en inteligencia artificial de Anthropic”. Además, la colaboración de esta inteligencia artificial supera el 90 por ciento.
Supervisión de agentes
Aunque la monitorización que han realizado hasta ahora ha mostrado que “los agentes individuales rara vez se comportan de forma indebida”, Anthropic es consciente de que “a medida que el trabajo se automatiza, los agentes podrían tomar decisiones de mayor trascendencia”.
A partir del análisis de más de 30.000 agentes de investigación e ingeniería que operaban simultáneamente en su plataforma interna mediante tres métricas principales: cobertura, latencia y tasa de escalado, detectaron que de más de mil millones de decisiones analizadas, solo el 0,002% (1 de cada 47.000) fue bloqueado por los monitores ‘online’. Por su parte, el monitor ‘offline’ marca entre uno y dos registros por cada mil para posterior análisis.
Asignación de cómputo
En este apartado, Anthropic aborda el análisis de cómo las empresas de IA distribuyen sus recursos de cálculo y, en particular, qué proporción se dedica a la investigación en seguridad. Esto permite conocer en qué áreas enfoca sus recursos una empresa y cómo cambia esta prioridad con el tiempo, aunque hace la matización de que la investigación en seguridad suele requerir menos cómputo que el entrenamiento de modelos frontera masivos.
Lea también: La IA se revela: OpenAI expone seis incidentes “preocupantes” de agentes que actuaron sin autorización
En su análisis, realizado durante una semana (del 13 al 20 de julio de 2026), mostró que el 6 por ciento del cómputo dedicado a I+D de IA se destinó a trabajos de seguridad (como alineamiento, interpretabilidad o pruebas de evaluación), mientras que el 12 por ciento del cómputo guiado por agentes de IA en tareas de I+D se asignó específicamente a proyectos de seguridad.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Preguntas frecuentes:
- ¿Qué porcentaje del trabajo de investigación de Anthropic hace su propia IA Claude?
- Desde agosto de 2026, Claude lidera el 26% del trabajo de investigación y desarrollo en inteligencia artificial de Anthropic, con una colaboración que supera el 90% en ese tipo de tareas. La empresa mide este dato con su Índice de Automatización de I+D, creado para monitorear qué proporción del desarrollo de nuevos modelos ya está siendo realizada por la propia IA en lugar de por humanos.
- ¿Qué es la desalineación y la automejora recursiva y por qué preocupan a Anthropic?
- La desalineación es el comportamiento de una IA que no se ajusta a los valores, intereses o intenciones humanas esperados. La automejora recursiva es una técnica que permite que un sistema de IA diseñe y desarrolle de forma autónoma a su propio sucesor. Ambos conceptos están en la base de la advertencia del director ejecutivo de Anthropic, Dario Amodei, sobre la necesidad de frenar el desarrollo de la IA de frontera, ya que la aceleración del proceso podría dificultar su comprensión y control por parte de los humanos.
- ¿Qué porcentaje del cómputo de Anthropic se dedica a investigación en seguridad?
- Según un análisis realizado del 13 al 20 de julio de 2026, el 6% del cómputo dedicado a investigación y desarrollo en IA se destinó a trabajos de seguridad, como alineamiento, interpretabilidad o pruebas de evaluación. Del cómputo guiado específicamente por agentes de IA en tareas de I+D, el 12% se asignó a proyectos de seguridad. Anthropic matiza que la investigación en seguridad suele requerir menos cómputo que el entrenamiento de modelos de frontera masivos.
Regístrate al newsletter