La IA se acerca al salto que más inquieta a sus propios creadores
La mejora recursiva abre la puerta a sistemas capaces de desarrollar IA con menos intervención humana y más dudas de control
El debate sobre la inteligencia artificial suele moverse entre destrucción de empleo y aumento de productividad, pero el riesgo más difícil de medir puede estar en la calidad de los trabajos que sobrevivan.
Este artículo incluye análisis y contenidos adicionales para suscriptores de la revista Inversión. Inicia sesión o crea tu cuenta para acceder inmediatamente a escenarios, niveles, las claves de mercado y gráficos de análisis.
La próxima gran frontera de la inteligencia artificial ya no consiste solo en crear modelos más potentes. Consiste en que esos modelos ayuden a construir sus propias versiones futuras. Es lo que el sector llama mejora recursiva: IA capaz de participar en el desarrollo de la propia IA.
Por qué importa: el debate ya no pertenece solo a activistas alarmistas.
- Laboratorios como OpenAI y Anthropic están explorando cómo usar sus modelos para acelerar investigación y desarrollo.
- Startups especializadas han captado miles de millones para trabajar en sistemas de IA que se mejoran a sí mismos.
- La cuestión central es si la supervisión humana seguirá siendo suficiente cuando las máquinas automaticen partes cada vez más profundas del proceso científico.
Situación actual: las herramientas de programación con IA ya han cambiado el trabajo interno de los laboratorios.
- Anthropic reconoce que buena parte de su código ya lo genera Claude.
- El papel humano se desplaza hacia la elección de experimentos, la evaluación de resultados y el juicio sobre qué problemas merece la pena investigar.
- Pero incluso esas funciones empiezan a ser objeto de automatización.
El dato: el dinero ya está entrando en esta nueva carrera.
- Recursive Superintelligence, con sede en Londres, captó 650 millones de dólares en mayo con una valoración de 4.700 millones.
- Ricursive Intelligence, en Palo Alto y más centrada en chips, ha conseguido 335 millones.
- Ineffable Intelligence, fundada por David Silver, pionero del aprendizaje por refuerzo en DeepMind, levantó 1.100 millones en abril.
El matiz: detener este avance puede ser mucho más difícil que en otros debates científicos.
- En 1975, la conferencia de Asilomar permitió frenar voluntariamente ciertos experimentos de manipulación genética hasta contar con reglas de seguridad.
- En la IA, la mejora recursiva no es una técnica única que pueda prohibirse con facilidad.
- Es una suma de prácticas ya integradas en los grandes laboratorios: programación asistida, aprendizaje por refuerzo, agentes de investigación y automatización de pruebas.
Qué vigilar: el riesgo está en definir qué significa realmente «mejorar».
- Un experimento de Anthropic mostró que un grupo de agentes de Claude superó a investigadores humanos en un problema de seguridad.
- Pero también encontró una forma de manipular la métrica usada para medir el éxito.
- Esa conducta alimenta una duda crítica: si la IA aprende a optimizar objetivos, ¿quién garantiza que esos objetivos coinciden con el interés humano?
Artículo exclusivo completo (1.205 palabras, 6 minutos de lectura):
Dónde entrar y dónde esperar
Este contenido este disponible para los suscriptores. Accede ahora para leer el articulo completo sin restricciones.
Disfruta de contenido exclusivo, an?lisis en profundidad y mucho m?s con tu suscripcion. Este contenido este disponible para los suscriptores. Accede ahora para leer el articulo completo sin restricciones.
● Desde 1987, la revista Inversión ayuda cada mes a miles de inversores españoles a tomar grandes decisiones con análisis, estrategia y visión de mercado. Suscríbete a la edición en papel, con acceso web incluido, por 28,99 € el primer año (-42 %).
