Mientras la inteligencia artificial transforma de forma radical la economía, el trabajo y el progreso científico, la aceleración sin precedentes de sus capacidades supera la aptitud social e institucional para evaluar sus riesgos y establecer salvaguardas efectivas. Desafíos éticos cruciales como la opacidad de los algoritmos, los sesgos, la atribución de responsabilidad y los peligros asociados a una autonomía creciente ponen de manifiesto la urgencia de marcos de control supervisados. Sin embargo, la gobernanza de la IA sigue siendo una asignatura pendiente, lastrada por la fragmentación regulatoria y las tensiones geopolíticas en un escenario donde la tecnología evoluciona a una velocidad muy superior a la capacidad de regulación.
Una revolución económica en marcha
La revolución impulsada por la inteligencia artificial promete transformar la economía y los sistemas sociales. Resulta difícil imaginar un ámbito de la vida humana que no vaya a verse alterado, en mayor o menor medida, por esta tecnología.
Han transcurrido apenas cuatro años desde el lanzamiento de ChatGPT, el primer sistema de IA generativa de adopción masiva. Su capacidad para redactar textos, componer música, generar arte digital y mantener conversaciones complejas llevó rápidamente a millones de personas a incorporarlo a su ocio y a numerosas actividades cotidianas.
Sin embargo, su potencial va mucho más allá: está llamada a incrementar la productividad y la riqueza mundial. Las empresas compiten por capturar ese valor, transformando profundamente la naturaleza del trabajo.
Según McKinsey, las capacidades de IA demostradas hasta la fecha podrían automatizar actividades que representan cerca del 57 % de las horas de trabajo actuales en Estados Unidos[1]. La consultora estima, además, que la IA generativa podría aportar hasta 4,4 billones de dólares anuales a la economía mundial[2]. La automatización de tareas rutinarias permitiría a los trabajadores reorientarse hacia actividades de mayor valor añadido.
El empleo: entre el temor y la evidencia
La posible incidencia de la IA sobre el empleo ha suscitado numerosas previsiones negativas. Sin embargo, la evidencia disponible no confirma estos escenarios pesimistas.
La IA generativa puede potenciar las capacidades de los trabajadores, automatizar tareas, hacer obsoletas determinadas actividades y crear nuevas funciones y empleos. Pero este fenómeno no es nuevo: las tecnologías introducidas durante el último siglo elevaron la productividad y transformaron los roles humanos. Actualmente, el 60 % de las personas trabaja en ocupaciones que no existían en 1940[3]. La gran diferencia puede estar en la velocidad. Las transformaciones asociadas a la IA podrían producirse en pocos años.
Aunque aún no existe consenso sobre sus efectos laborales, comienzan a aparecer datos significativos. Resulta anecdótica, pero también elocuente, la predicción que formuló en 2016 Geoffrey Hinton, considerado frecuentemente uno de los padres de la IA moderna: “Deberíamos dejar de formar radiólogos ahora mismo. Es totalmente evidente que, en un plazo de cinco años, el aprendizaje profundo superará a los radiólogos… Puede que lleve diez años, pero ya tenemos suficientes radiólogos”.[4] Los datos posteriores no han confirmado esa predicción. La Clínica Mayo ha aumentado su personal de radiología en más de un 50 % desde 2016, incorporando cientos de modelos de IA para apoyar el análisis de imágenes[5]. En el Reino Unido, el NHS ha incrementado alrededor de un 40 % el número de radiólogos, mientras que en Estados Unidos las nuevas incorporaciones a esta especialidad han crecido aproximadamente un 20 %[6].
La experiencia con la IA generativa sigue siendo demasiado reciente para extraer conclusiones globales, pero ya existen estudios empresariales relevantes. Revelio Labs concluye que, entre más de 21.000 empresas estadounidenses, aquellas que realizan inversiones significativas en IA aumentan su plantilla un 10 % durante los dos años posteriores a su adopción[7]. PwC apunta en la misma dirección en su 2026 Global AI Jobs Barometer: las empresas más expuestas a la IA registran un mayor crecimiento de plantilla[8].
Estos datos no demuestran que la IA vaya a crear más empleo del que destruya, pero aconsejan cautela ante las predicciones de una sustitución masiva e inmediata de los trabajadores.
Retos éticos y riesgos estructurales
Aunque la mayoría de las aplicaciones de IA entrañan poco o ningún riesgo, algunos usos pueden resultar perjudiciales. La Unión Europea identifica varios riesgos relevantes[9]: falta de transparencia sobre cómo se obtienen los resultados, ausencia de normas claras, vulnerabilidades de seguridad y la introducción de sesgos y discriminaciones, cuando los sistemas son entrenados con datos sesgados. Algunas aplicaciones pueden afectar, además, a derechos fundamentales como la privacidad, la libertad de expresión y la no discriminación.
También preocupa la publicación abierta de determinados modelos y sus parámetros. Aunque favorece la innovación y amplía el acceso a la tecnología, permite que actores malintencionados modifiquen los sistemas o eliminen sus barreras de seguridad para cometer delitos o generar desinformación a gran escala.
La IA alcanza el papel del investigador
Hasta hace poco, la IA desempeñaba en la investigación científica un papel auxiliar: resumir artículos, depurar datos o redactar informes. Esta situación está cambiando. Hace dos años, el laboratorio japonés Sakana AI presentó The AI Scientist, descrito como “el primer sistema integral para el descubrimiento científico totalmente automatizado”[10]. Aunque todavía no es un científico plenamente autónomo, puede identificar líneas de investigación prometedoras, implementar metodologías y validar resultados mediante experimentación.
Los equipos de I+D de empresas como Google DeepMind, Microsoft, Sakana AI y OpenAI, así como numerosos grupos universitarios, están delegando tareas de investigación cada vez más importantes en sistemas de IA. En algunos ámbitos, estos modelos ya pueden realizar una parte sustancial de la programación necesaria para desarrollar nuevos sistemas.
El efecto puede ser especialmente relevante: la IA no solo acelera la investigación, sino que también puede acelerar su propio desarrollo. Surge así un posible círculo de retroalimentación en el que mejores sistemas permiten construir, con mayor rapidez, otros todavía más capaces.
Una carrera que dificulta el control
Esta aceleración preocupa a muchos científicos que participan en estos proyectos. A medida que los sistemas adquieren más capacidades y autonomía, surgen problemas de una naturaleza diferente. El temor es que las nuevas capacidades aparezcan más deprisa de lo que podemos evaluar su seguridad. Por ello, investigadores de distintos laboratorios han unido sus voces para advertir sobre este riesgo. Han expuesto sus ideas en un informe titulado ¿Qué pasaría si la automatización de la I+D en IA desencadenara una explosión de inteligencia?, publicado por el Cambridge Programme on AI Science & Policy, vinculado a la Universidad de Cambridge.[11]
Consideran posible que los sistemas superen rápidamente a los expertos humanos en numerosos ámbitos y aceleren radicalmente el progreso tecnológico. Sin embargo, las IA actuales todavía presentan debilidades: desobedecen instrucciones, hacen trampas, tergiversan su trabajo o no consiguen completar determinadas tareas, por lo que sigue siendo necesaria la intervención humana.
El riesgo va más allá de los errores. Una IA puede cumplir literalmente una instrucción y producir un resultado contrario a las intenciones de sus operadores. Si el objetivo está mal definido, la autonomía del sistema puede convertir una desviación aparentemente pequeña en consecuencias graves.
Dario Amodei, cofundador y CEO de Anthropic, advierte en un reciente ensayo[12] de que el peligro es inminente y utiliza como ejemplo ilustrativo, la posibilidad de que en un futuro inmediato, un enjambre de agentes de IA autónomos pudiera conseguir infectar y controlar un gran número de dispositivos de Internet de forma coordinada y duradera, causando potencialmente daños por valor de cientos de miles de millones de dólares.
Y ya no se trata únicamente de una hipótesis teórica. En 2026 se han hecho públicos varios casos de agentes de IA que sortearon restricciones y accedieron a recursos externos. El incidente OpenAI–Hugging Face, ocurrido en julio pasado, tuvo especial repercusión[13]. Durante evaluaciones de ciberseguridad, algunos modelos realizaron acciones no alineadas con los objetivos asignados: utilizaron canales no autorizados, aprovecharon vulnerabilidades, obtuvieron acceso a internet y accedieron a sistemas de terceros.
En el informe de Cambridge, los investigadores[14] advierten también de que la competencia entre empresas y países puede incrementar estos riesgos. Entre sus recomendaciones figuran disponer de herramientas para ralentizar determinados desarrollos cuando aparezcan señales de peligro y establecer protocolos para detener pruebas potencialmente dañinas.
La gobernanza: el desafío pendiente
Todo ello pone de manifiesto la necesidad de desarrollar sistemas adecuados de gobernanza de la IA, una tarea que afronta importantes obstáculos.
Estos sistemas se basan en redes neuronales con comportamientos probabilísticos y difíciles de interpretar. No funcionan mediante reglas explícitas escritas por un programador, sino a través de millones o miles de millones de parámetros optimizados con grandes cantidades de datos. Esto dificulta aplicar directamente los mecanismos de seguridad utilizados en sectores como la aviación, la energía nuclear o la industria farmacéutica.
Además, el riesgo no reside únicamente en el modelo, sino también en sus aplicaciones. Un error o una vulnerabilidad puede propagarse globalmente en poco tiempo. Una herramienta capaz de ayudar en múltiples tareas puede reutilizarse para facilitar ciberataques o generar campañas de desinformación a gran escala.
Estos riesgos estructurales difícilmente pueden corregirse sólo mediante el mercado o la autorregulación empresarial. Dado el alcance universal de la IA, su gobernanza tampoco será plenamente eficaz si se limita al ámbito nacional o regional. No basta con regular los modelos: los controles deben integrarse en los sistemas y procesos que determinan cómo se desarrollan y utilizan.
Los legisladores tienen problemas para seguir el ritmo tecnológico. Geoffrey Hinton lo señaló al recoger el Nobel en 2024: “Cada día surgen nuevos modelos y se inventan nuevas técnicas(…) Por tanto, será difícil regularlo”[15].
A ello se suman la dificultad de medir algunos riesgos con precisión y la de atribuir responsabilidades cuando los sistemas no funcionan mediante reglas explícitas.
Los necesarios, acuerdos internacionales están muy lejos de alcanzarse. Estados Unidos, China y Europa desarrollan sus propios marcos, mientras organizaciones como la OCDE, el G7, el G20 y la UNESCO promueven principios comunes, sin que se vislumbre aún un acuerdo eficaz. Las rivalidades geoestratégicas constituyen una barrera insalvable.
La cuestión ya no es solo hasta dónde puede llegar la IA como herramienta de investigación, sino si estamos preparados para gestionar sistemas capaces de asumir una parte creciente del propio proceso de descubrimiento científico. El progreso puede superar nuestra capacidad para comprender sus consecuencias y establecer controles adecuados.
La IA puede impulsar una transformación económica y científica extraordinaria, pero nada garantiza que podamos gobernarla a tiempo. La carrera hacia sistemas cada vez más autónomos continuará, alimentada por la competencia empresarial y la rivalidad tecnológica entre países: La IA avanza a gran velocidad. Su gobernanza, no.
-
Vídeo generado por IA a partir del artículo original del autor.
Manuel Ribes
Instituto Ciencias de la Vida
Observatorio de Bioética
Universidad Católica de Valencia
[1] Lareina Yee et al. Agents, robots, and us: Skill partnerships in the age of AI McKinsey Global Institute November 2025
[2] McKinsey and Company What’s the future of generative AI? An early view in 15 charts August 25, 2023
[3] Erik Brynjolfsson The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence Stanford Digital Economy Lab January 12, 2022
[4] John Burn-Murdoch and Sarah O’Connor The AI Shift: Why are there still so many radiologists? Financial Times DEC 4 2025
[5] Lareina Yee et al. Agents, robots, and us: Skill partnerships in the age of AI McKinsey Global Institute November 2025
[6] John Burn-Murdoch and Sarah O’Connor The AI Shift: Why are there still so many radiologists? Financial Times DEC 4 2025
[7] Kharazian, Ara and Simon, Lisa and Stevens, Ryan, A New Look at AI’s Impact on Jobs: Firm-Level AI Spending and Workforce Adjustment (June 30, 2026). Available at SSRN: https://ssrn.com/abstract=7024799
[8] 2026 Global AI Jobs Barometer PWC 15 June 2026
[9] Benefits and risks of AI Council of the European Union Last review: 7 February 2025
[10] The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery Sakana.ai August 13, 2024
[11] Alan Chan et al. What if automating AI R&D triggers an intelligence explosion? Cambridge Programme on AI Science & Policy Frontier AI Working Paper Series No. 2/2026 September 2026
[12] Dario Amodei We Must Pace the Frontier September 2026 https://darioamodei.com/post/we-must-pace-the-frontier
[13] An agent used DNS to reach an external chatbot OpenAI Alignment Research Blog Sep 25, 2026 https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
[14] El artículo está firmado por 22 investigadores, entre los que se puede resaltar la participación de Geoffrey Hinton y Yoshua Bengio, pioneros en el sector, además de Jakub Pachocki, científico jefe de OpenAI; Jack Clark, cofundador de Anthropic; Eric Horvitz, científico jefe de Microsoft, y Dawn Song, investigadora de Meta y académica de la Universidad de California en Berkeley.
[15] Geoffrey Hinton Nobel Prize Conversations THE NOBEL PRIZE https://www.nobelprize.org/stories/nobel-prize-conversations/
