Autor: Gao Yunyi
Edición: Cen Feng
Recientemente, una demanda por derechos de autor reveló inesperadamente un documento interno confidencial de Anthropic.《Concise Research Roadmap》, este es la hoja de ruta de investigación de Anthropic de hace cinco años.Este documento fue escrito por el cofundador de Anthropic, Jared Kaplan; tiene solo tres o cuatro páginas, pero en él aparecen los Coding Agent, el Tool Use, los contextos largos, RL, la retroalimentación automatizada e incluso los problemas de seguridad de los Agent de los que hoy hablamos...Este documento reúne las densas anotaciones de los "mejores cerebros" de Anthropic. Por ejemplo, el cofundador de Anthropic, Tom Brown, señaló que "navegar por el repositorio es un punto de entrada simple y de alto valor", mientras que el científico investigador de sistemas e interpretabilidad Nelson Elhage predijo que "buscar automáticamente las definiciones de tipos en un proyecto" sería una función de gran valor para los usuarios. Frente a la disputa de rumbo entre el "asistente de programación más potente" y la "demostración de capacidades de herramientas", el CEO Dario fijó el rumbo en el momento:“A corto plazo, primero demostrar el uso de herramientas; a largo plazo, construir el asistente de programación más potente.” La científica de alineación Amanda Askell planteó una preocupación más profunda: “Si solo se hace alineación en el ámbito del lenguaje natural, pero se investiga capacidades en el ámbito del código, inevitablemente se producirá una desconexión.” Ella subrayó que la seguridad y las capacidades deben estar estrechamente vinculadas en cualquier etapa. Cabe recordar que ese año Anthropic apenas llevaba medio año de fundada y toda su financiación era de solo 124 millones de dólares. Faltaban 16 meses para que ChatGPT hiciera estallar al mundo, y 20 meses para el lanzamiento de Claude 1. Toda la industria todavía dudaba de si los grandes modelos eran un producto de transición. Este grupo de personas que habían salido de OpenAI ya planeaba paso a paso “lograr una utilización de GPU extremadamente alta”, “investigar contextos largos”, “aprendizaje por refuerzo para el uso de herramientas”, “marcos de evaluación del impacto social”… En los cinco años siguientes cumplieron cada rama de esa hoja de ruta y entregaron una respuesta asombrosa. Desde Claude 1 hasta Opus 5, desde la IA Constitucional (Constitutional AI) hasta la interpretabilidad, y más recientemente Computer Use, el protocolo MCP, Claude Code y el razonamiento híbrido, todo puede rastrearse hasta aquella hoja de ruta de 2021.
01
La Anthropic de 2021,
¿qué vio con tanta claridad?
En 2021, ChatGPT aún no había visto la luz y toda la industria exploraba a ciegas la dirección de aterrizaje de los grandes modelos. Sin embargo, Anthropic escribía explícitamente en documentos internos la ruta central hacia la AGI, a saber, construirmodelos generativos de gran escala con capacidad de memoria a largo plazo, y completar el ajuste fino mediante aprendizaje por refuerzo (RL) que combine recompensas automatizadas con retroalimentación humana.Todos los proyectos de investigación eran experimentos de exploración centrados en ese eje. Consideraban que el primer vehículo para poner a prueba esta ruta era el “asistente conversacional de ingeniería de software”. Este podría crear, editar y explicar software mediante diálogo, escribir funciones, encontrar Bugs, diseñar API, y además discutir el estilo del código y las mejores prácticas de ingeniería, hasta alcanzar el nivel de un colega ingeniero de software. Esto es precisamente el embrión concreto del Claude Code de hoy. Para ello, Dario Amodei fijó un ritmo de aterrizaje en dos pasos: a corto plazo priorizar la validación de capacidades, y a largo plazo pulir herramientas profundas de productividad. El equipo partió de capacidades de herramientas ligeras como la depuración por impresión y la navegación de repositorios de código, para luego expandirse gradualmente hacia capacidades más complejas como la ejecución de código y la edición de documentos en lenguaje natural.En torno a este objetivo, colocaron la “escalabilidad” en el primer lugar de todas las líneas de investigación, preparándose desde el principio para una escala de billones (1T) de parámetros.Jared Kaplan es el primer autor de la teoría de las Scaling Laws; llevó este conocimiento de OpenAI a Anthropic y muy pronto empezó a pensar en cómo entrenar modelos de un billón (1T) de parámetros o incluso mayores. Además de los modelos de parámetros ultragrandes en sí, también discutían cómo elevar la utilización de GPU y adaptarse por adelantado a hardware de próxima generación como TPU y Trainium; cómo encapsular ingenierías complejas como la atención por bloques dispersos para que personal no especializado pudiera configurar hiperparámetros fácilmente; y cómo construir un sistema sólido de protección de seguridad para activos centrales como los pesos de los grandes modelos.Anthropic también daba gran importancia al preentrenamiento y a los datos.Desde el principio planeaban entrenar el modelo base bilingüe (lenguaje + código) de mejor rendimiento de la industria, que sirviera de cimiento para todo el ajuste fino, la exploración de funciones y la iteración de capacidades posteriores. Muy pronto comenzaron a construir conjuntos de datos de alta calidad de cadena completa: no solo lenguaje natural y código, sino también Diff (diferencias de versiones), PR (pull requests), registros de depuración y resultados de evaluación de la ejecución de código, cubriendo íntegramente los datos de todo el flujo de desarrollo de software. También fueron extremadamente minuciosos con la calidad de los datos: desde el filtrado, la migración y el ajuste fino hasta la optimización de la diversidad, pulieron todo el proceso paso a paso. Así, con una base de datos sólida, los experimentos comparativos y la iteración de capacidades en entornos de aprendizaje por refuerzo más avanzados no se desviarían. Al mismo tiempo, atacaron por adelantado las tecnologías subyacentes de aprendizaje automático capaces de soportar un billón de parámetros o más, exploraron en paralelo capacidades de contexto ultralargo y estudiaron soluciones externas equivalentes capaces de encapsular memorias y experiencias masivas.El avance simultáneo de capacidades y alineación es otra gran característica que Anthropic planteó en sus documentos.Amanda Askell anticipó en los comentarios del documento el riesgo de desconexión entre las capacidades de código y la investigación de alineación: por un lado, las capacidades de código seguirían aumentando sin las restricciones de alineación correspondientes; por otro, si las capacidades del modelo en que se apoya la investigación de alineación son insuficientes, se limitará la profundidad de las pruebas y el valor práctico de los resultados, y a largo plazo la investigación de alineación se convertirá en una “isla de información” desconectada del desarrollo de capacidades. Por ello, exigió que la investigación de capacidades y la de alineación en cada ámbito avanzaran de forma proporcional y sincronizada, y que la seguridad no pudiera añadirse después de que las capacidades del modelo maduraran. En torno a este principio, Anthropic planificó un conjunto de líneas de investigación concretas. Entrenaban modelos con retroalimentación humana, no solo para que supieran responder preguntas, sino para que pudieran ayudar de forma proactiva, ajustar su comportamiento según la retroalimentación y aclarar las preguntas cuando la intención del usuario fuera ambigua. El equipo sistematizó los escenarios de fallo de alineación, clasificándolos y atribuyéndolos por dificultad, e investigó específicamente las leyes de variación de la efectividad de la alineación según la escala del modelo. Incluso el modelo de recompensa que guía el entrenamiento fue verificado repetidamente: validación cruzada con datos de retroalimentación humana conformes, conjuntos de datos estáticos como Stack Exchange y datos generados de forma adversarial con GAN, para asegurar que la señal de recompensa se ajustara realmente a la intención humana y fuera lo bastante fiable bajo distintas fuentes de datos. Finalmente, todos estos experimentos se destilaron en metodologías generales: cómo usar la retroalimentación humana con la mayor eficiencia, cuántos datos y recursos requiere cada objetivo de alineación, todo cuantificado y concretado. Esto es también la razón por la que Claude pudo ser el primero en penetrar en sectores de alta normativa como las finanzas, la sanidad y el derecho.Anthropic también siguió invirtiendo en la exploración a largo plazo de la “interpretabilidad”.Anthropic quería entender qué ocurre realmente dentro del modelo. Para ello, el investigador representativo del campo de la interpretabilidad, Christopher Olah, se dedicó específicamente a desmontar las neuronas, las cabezas de atención y los circuitos funcionales internos de los grandes modelos. Olah también propuso combinar la investigación de datos y herramientas con el trabajo de interpretabilidad. Esperaban entender desde los mecanismos de fondo: cómo se implementan realmente dentro de la red neuronal el razonamiento aritmético, el diálogo multiperiodo y la generación de código. Listaron RL for Tool Use como una dirección de investigación importante.El núcleo de la investigación era hacer que los grandes modelos de lenguaje aprendieran a usar herramientas, a comprender el entorno y los objetivos, y a mejorar continuamente mediante aprendizaje por refuerzo. En ese momento, ya habían incluido tareas como la recuperación de información y la depuración por impresión (printf debugging) en su plan de investigación. Estas tareas tenían valor práctico y también servían para comprobar: tras conectar herramientas al modelo, ¿podía superar los límites de capacidad de la mera generación de texto? En comparación con el aprendizaje supervisado, ¿podría el entrenamiento mediante interacción con herramientas y aprendizaje por refuerzo lograr mejores efectos de escalado y mayor eficiencia computacional? La visión de Dario Amodei no se limitaba al ámbito del código. También propuso que los editores de lenguaje natural merecían ser explorados igualmente, por ejemplo, haciendo que el modelo modificara documentos en un entorno similar a Google Docs, lo que permitiría producir resultados de investigación de seguridad de alto valor y además contaba con amplios escenarios de aplicación; y muchas de las herramientas e infraestructuras subyacentes que sustentan ambos tipos de editores eran comunes. Lo que realmente querían verificar era: ¿podía el modelo pasar de “generar respuestas” a “completar tareas complejas con ayuda de herramientas”? Si esta ruta se confirmaba, los límites de capacidad podrían extenderse del desarrollo de software a más escenarios de trabajo del conocimiento.Y las consideraciones de seguridad atravesaron siempre todas las líneas de investigación.Este grupo de científicos llevó desde el primer día un idealismo de corte geek. Sam McCandlish planteó ya entonces la pregunta del alma: “¿Cómo desplegar de forma segura herramientas no aisladas en sandbox?” Dario fue más allá y advirtió: las herramientas que en la fase de despliegue pueden ejecutar código directamente conllevan un riesgo altísimo. Mirando hoy el debate diario sobre el aislamiento en sandbox y la interceptación de permisos en el sector de los Agentes, todo estaba ya en sus deducciones de aquella época. No solo eso: querían convertir la empresa en la “ciudad sobre la colina” de la investigación en ética de la IA, sumando a la academia y al gobierno para realizar evaluaciones independientes, y establecer con los marcos de seguridad de máximo nivel una norma para toda la industria. Al final, todo esto constituyó conjuntamente el mapa de investigación de circuito cerrado de pila completa de Anthropic: desde la ingeniería de cómputo subyacente (adaptación GPU/TPU, eficiencia de entrenamiento), la base del modelo (preentrenamiento, ingeniería de datos, contexto largo), las capacidades centrales (invocación de herramientas, generación de código), hasta el sistema de seguridad (alineación, interpretabilidad, seguridad de los pesos), y la gobernanza social (evaluación por terceros, ecosistema sectorial), formando un circuito cerrado completo de I+D de AGI sin carencias evidentes.02
¿Qué ha hecho Anthropic en estos cinco años
Después de ver estas discusiones, no pocos internautas las calificaron directamente de divinas. «Resulta que estos Agent que ahora competimos por construir estaban en su lista de tareas pendientes». Otros internautas comentaron que, para un investigador de frontera, tener semejante visión quizá no sea nada excepcional; muchas ideas ya eran consenso. Pero lo verdaderamente asombroso es haber llevado a cabo esas líneas de investigación sin desviarse. Cinco años después, Claude ya puede procesar de una sola vez textos largos de 1M tokens, ha evolucionado métodos de optimización de memoria adaptados específicamente a escenarios de ingeniería, y los grandes modelos han llegado a la versión Opus 5.5. En la línea del ajuste de seguridad, se pasó de los primeros entrenamientos basados en retroalimentación con anotación humana, al entrenamiento de tipo constitucional con «IA supervisando a IA», y hoy a esquemas híbridos. Aquellas líneas de investigación del documento se convirtieron en la dirección estratégica de cada punto de inflexión de Anthropic. En 2022, Anthropic fue pionera en la pista más central de «alineamiento», presentando una metodología que revolucionó la percepción de la industria. A finales de 2022, ChatGPT se hizo viral de la noche a la mañana gracias a RLHF (aprendizaje por refuerzo con retroalimentación humana), llevando los grandes modelos a la vista del gran público. Pero los puntos débiles de este método eran evidentes: había que contratar a mucha gente para hacer anotaciones, los costos eran altos, era difícil de escalar y era fácil que se colaran las preferencias personales de los anotadores. Tan solo medio mes después del lanzamiento de ChatGPT, Anthropic publicó un artículo proponiendo la idea de «Constitutional AI» : primero se define un conjunto de principios de comportamiento para el modelo, y luego un modelo evalúa y corrige las respuestas de otro; tras iteraciones repetidas, el modelo consigue ser útil sin cruzar los límites. Hacia adentro, resolvió el problema de que el ajuste de seguridad no seguía el ritmo del crecimiento de las capacidades del modelo, respondiendo justo a la preocupación temprana del equipo de que «capacidad y seguridad debían avanzar al mismo tiempo»; hacia afuera, definió el carácter de producto tan distintivo de la serie Claude: cortés, contenido, sin excederse por iniciativa propia, logrando un altísimo grado de diferenciación frente a los modelos GPT de su época. Resuelto el método de entrenamiento, Anthropic empezó a hacer el modelo más grande y más largo, y en 2023 logró avances simultáneamente en las dos líneas de producto y cómputo. En marzo de ese año,la primera generación de Claude se abrió oficialmente a la colaboración externa, centrada en el procesamiento de textos largos y propiedades de seguridad; quienes la probaron consideraban en general que era «mucho más cortés» que el GPT-3.5 de la época. Era la primera vez que Anthropic presentaba un producto tangible orientado al mercado.En mayo, Anthropic amplió de golpe la ventana de contexto de Claude de 9K a 100K tokens, el equivalente a 75.000 palabras en inglés; la beta pública de Claude 2, dos meses después, mantuvo esa capacidad. A modo de comparación, el entonces dominante GPT-4 solo soportaba un contexto de hasta 32K (unos 30.000 y pico tokens), y el modelo de la generación anterior de la propia Anthropic apenas llegaba a menos de 10K. Esta capacidad saltatoria de texto largo hizo realidad leer de una sola vez un libro entero o un repositorio de código completo. El sistema de seguridad también se materializaba en paralelo. En septiembre,Anthropic publicó la primera versión de su Responsible Scaling Policy (RSP), que clasifica por niveles los riesgos potenciales de los modelos: a mayor capacidad, más estricto el control de seguridad; era el primer mecanismo de seguridad dinámico y sistemático de la industria. Para el mes 10 de 2023, una ronda de inversión liderada por Google llevó la valoración de Anthropic a los 18400 millones de dólares. La industria global de los grandes modelos se despedía de la etapa temprana de «una sola superpotencia y muchas potencias», y empezaba a vislumbrarse el esbozo de dos laboratorios independientes de élite en paralelo. Ese año el mundo de la IA también estuvo convulso: el lanzamiento de GPT-4 estableció un nuevo referente de capacidades, OpenAI creó un equipo específico para apostar por la seguridad a largo plazo, Musk fundó xAI, y Google integró DeepMind y lanzó Gemini. En China se abrió la «guerra de los cien modelos»: los grandes modelos de gigantes como Baidu y Alibaba se presentaron de forma concentrada, y startups como Zhipu, Moonshot AI (Yue zhi Anmian) y DeepSeek iniciaron rondas intensivas de financiación. 2024 fue el año de eclosión de Anthropic, con obras representativas en todas las direcciones. En el mes 3, la serie Claude 3 lanzó de una sola vez 3 productos, cubriendo los 3 grandes escenarios de gama alta, equilibrado y ligero, y completó las capacidades multimodales.El modelo flagship Opus soportaba por defecto una longitud de procesamiento de 100K, mostró una altísima precisión en las evaluaciones de texto largo, superó por primera vez a GPT-4 y convirtió la tecnología de contexto largo en una sólida competitividad de producto.Poco después, en junio, llegó el modelo Claude 3.5 Sonnet, con una gran mejora de capacidades, igualando a GPT-4o en múltiples métricas clave; cuando en octubre salió la versión mejorada,el modelo superó en el benchmark de código SWE-bench Verified a todos los competidores de código cerrado de entonces, lo que dio a Anthropic una ventaja competitiva evidente en el mercado de ingeniería de software y desarrollo de agentes. Lo que de verdad permitió a Anthropic distanciarse fue la oleada que se desató en el mes 5 de 2024auge de la interpretabilidadEn 2021, la "interpretabilidad" y el "aprendizaje por refuerzo para uso de herramientas" aún sonaban demasiado académicos, mucho menos prácticos que acumular parámetros y escalar listas de clasificación. En mayo de 2024, el equipo de Anthropic utilizó autoencoders dispersos (SAE) para realizar con éxito un "escaneo interno" de los millones de características dentro de Claude Sonnet, extrayendo 34 millones de características del modelo y localizando los circuitos internos correspondientes a conceptos concretos como el "Golden Gate" y "errores de programa". Para demostrar que no se trataba solo de teoría, también hicieron un experimento: activaron manualmente la característica correspondiente al "Golden Gate", haciendo que el modelo no pudiera evitar mencionar el Golden Gate sin importar qué pregunta se le hiciera. Esta fue la primera vez que la humanidad logró una explicación y manipulación precisas de los mecanismos internos en un modelo grande de nivel comercial. Esto significa que la investigación en seguridad de la IA ya no necesita "abrir cajas a ciegas". Al mismo tiempo, OpenAI también realizaba investigación relacionada, pero nunca publicó progresos concretos; en el ámbito académico chino había seguimiento, pero casi ninguna validación a nivel de producto. En esta pista, Anthropic en 2024 quedó prácticamente muy por delante. En octubre se lanzó la nueva versión de Claude «computer use» (uso de computadora): el modelo podía, como una persona, mirar la pantalla, hacer clic con el ratón y teclear, operando de forma autónoma software de escritorio. Apenas un mes después, Anthropic liberó como código abierto el protocolo MCP, unificando la forma de conectar modelos con todo tipo de herramientas y datos, equivalente a un «interfaz universal» para las aplicaciones de IA. Esto desató el auge del MCP: en el primer trimestre de 2025, OpenAI y Google anunciaron sucesivamente soporte para MCP, y en China Alibaba, Tencent, Baidu y Alipay lanzaron también servicios relacionados en apenas cuatro meses. De interfaces de herramientas propias en cada empresa al uso unificado de MCP, la industria se alineó en medio año. Era la primera vez que Anthropic hacía que sus competidores lo siguieran no en capacidades de modelo, sino a nivel de infraestructura.
En 2024, la valoración de Anthropic pasó de 18400 millones a comienzos de año a unos 41000 millones al cierre. Detrás de la disparada de valoración estaba que los productos empezaban a generar ingresos reales: por entonces los ingresos anuales de Claude ya superaban los 1000 millones de dólares.
En 2025, Anthropic centró sus esfuerzos en los agentes, eligiendo el desarrollo de software como campo de batalla principal. El 24 de febrero,Claude 3.7 y Claude Code el lanzamiento conjunto de ambos. El primero es un modelo que puede alternar entre dos modos, «respuesta rápida» y «pensamiento profundo», cuyo grado de reflexión puede controlar el propio usuario; el segundo es un asistente de programación especializado, capaz de recorrer por sí solo todo el repositorio de código, consultar definiciones de tipos, depurar bugs, hacer commits y ejecutar tests. En ese momento, todas las discusiones del documento de 2021 se hicieron realidad: desde «navegar por el repositorio es un buen punto de entrada» hasta el ritmo de «primero demostrar capacidades, luego hacer herramientas de productividad», todo se concretó al milímetro. Los grandes modelos dejaron de ser solo herramientas de chat y se convirtieron en «colegas de IA» capaces de trabajar de verdad frente a la computadora. Lo lanzado en el mes 5 Claude 4, elevó además la capacidad de trabajo continuo prolongado a una nueva altura. La versión insignia podía ejecutar tareas de programación durante horas seguidas y quedó primera en múltiples pruebas de programación. Con la versión 4.5 del mes 9, las capacidades de programación y de agentes subieron otro escalón,la capacidad de la IA alcanzó el nivel de un ingeniero junior. En paralelo se fueron lanzando sucesivamente productos orientados a entornos de oficina, y las herramientas de productividad de Anthropic se extendieron de los programadores a los empleados de oficina corrientes. Para el mes 9, Anthropic completó una nueva ronda de financiación, con una valoración que se disparó hasta unos 183000 millones de dólares. Entrado 2026, la competencia llegó a un nivel más profundo. Del mes 5 al mes 10,Anthropic actualizó intensivamente toda la serie de modelos de la generación 5.5, lanzados del flagship al ligero, con la madurez simultánea de tres capacidades: multimodalidad, pensamiento profundo y agentes. Los productos ya no buscan la explosión de capacidades puntuales, sino el pulido integral de la «usabilidad a nivel de producto» , y su poder de discurso sobre el ecosistema pesa cada vez más. MCP ya se ha convertido en el estándar de facto de las herramientas de IA a escala mundial: desde fabricantes de modelos hasta desarrolladores de aplicaciones se están conectando, y Anthropic pasó de verdad de «fabricante de productos» a «quien fija las reglas». Y los avances sostenidos en marcos de seguridad, pruebas de seguridad de terceros y foros de frontera de la industria también están cumpliendo paso a paso aquella visión de «construir la ciudad en la colina del machine learning». Hoy, la industria global de la IA ya tiene un panorama estable con OpenAI, Google y Anthropic encabezando. En cinco años, las modas del sector se sucedieron una tras otra, e infinidad de empresas giraron su rumbo tras las tendencias, pero Anthropic avanzó siempre con paso firme a lo largo de la línea que había trazado aquel año. Muchos dicen que Anthropic tuvo la suerte de los tiempos, pero este documento filtrado demuestra que sus logros actuales son, en esencia, la materialización de una tecnología premeditada. Mientras la industria avanzaba a ciegas, alguien ya había leído el mapa con claridad y fue caminando paso a paso hasta la meta. Enlace de referencia: https://i.smitop.com/concise-research-roadmap.pdfSube a bordo, Leiphone (cuenta pública de WeChat: Leiphone) te lleva a conocer lo mejor de las principales conferencias mundiales de IA
Acceso exclusivo a:
Presentaciones PPT de expertos
Textos completos de los informes de las conferencias
Análisis de artículos académicos populares
Entrevistas a nuevas estrellas académicas
Escanea el código QR de arriba
o haz clic en «Leer el original» para seguir la sección especial.
Artículos originales de Leiphone; queda prohibida su reproducción sin autorización. Para más detalles, consulta lasNormas de reproducción。