El complejo de Frankenstein

Escucha el Podcast sobre el Complejo de Frankenstein

20:08

Del monstruo de Mary Shelley a la caja negra de la inteligencia artificial.

Por Héctor Pampin y Pilar Paredes

El complejo de Frankenstein

1. Introducción: el regreso del monstruo

Cada época de la historia tiene sus criaturas. En el siglo XIX fue el monstruo de Frankenstein; en el XX, los robots, los ordenadores y las distopías tecnológicas; en el XXI, la inteligencia artificial generativa.

Desde que el ser humano empezó a fabricar herramientas, la técnica ha sido una forma de ampliar sus capacidades. Primero sirvió para cazar, alimentarse, protegerse o cultivar la tierra.

Pero cuando la herramienta dejó de ser una prolongación del cuerpo y empezó a sustituir tareas humanas, apareció también una vieja inquietud: ¿qué ocurre cuando aquello que hemos creado cambia nuestra forma de vivir, trabajar y entendernos a nosotros mismos?

Tras la Revolución Industrial, muchas personas vieron cómo su modo de vida se transformaba de manera radical. La mecanización del campo, la fábrica, la producción en serie y la automatización reorganizaron la sociedad. Surgieron nuevas profesiones, desaparecieron otras y muchas tuvieron que adaptarse a una velocidad que no siempre fue humana.

La inteligencia artificial es el emblema de una nueva etapa. No nace de la nada: viene de décadas de desarrollo informático, de internet, de la digitalización de la información y de la acumulación masiva de datos. Pero reactiva temores antiguos bajo una apariencia nueva. Ya no hablamos solo de máquinas que sustituyen fuerza física. Hablamos de modelos matemáticos entrenados con datos humanos, capaces de escribir, conversar, generar imágenes, tomar decisiones, recomendar contenidos o simular procesos creativos.

Lo inquietante no es únicamente que estas herramientas sean potentes. Lo verdaderamente inquietante es que han empezado a ocupar espacios que hasta hace poco asociábamos con capacidades profundamente humanas: el lenguaje, la creatividad, la interpretación, el consejo, la memoria y la toma de decisiones.

Por eso el debate sobre la IA no puede reducirse a una cuestión técnica. También es un debate cultural, ético y estratégico. La pregunta no es solo qué puede hacer una máquina, sino qué estamos dispuestos a delegar en ella, bajo qué condiciones y con qué nivel de responsabilidad.

Desde esta perspectiva, el complejo de Frankenstein no describe solamente el miedo a una criatura que se rebela. Describe el temor a descubrir que hemos creado algo poderoso antes de haber pensado con suficiente profundidad cómo integrarlo en nuestra vida, nuestro trabajo y nuestra sociedad.

El miedo a ser reemplazado no es nuevo. Aparece en mitos antiguos, en relatos religiosos, en leyendas populares y en obras de arte. Cronos devora a sus hijos por miedo a que lo destronen, como él hizo con su padre Urano. Pandora abre una caja que libera consecuencias imposibles de deshacer.

En la tradición judeocristiana, el fruto prohibido representa un conocimiento que transforma para siempre la inocencia en responsabilidad. Prometeo roba el fuego de los dioses y paga el precio de entregar ese poder a los hombres.

En todos esos relatos hay una advertencia que sigue viva: el conocimiento da poder, pero también exige responsabilidad. La cultura humana está llena de límites, tabúes, leyes, símbolos y fábulas que intentan responder a la misma pregunta: ¿hasta dónde podemos llegar sin destruir aquello que queríamos proteger?

Hoy seguimos enfrentándonos al peligro del aprendiz de brujo: inventar algo para resolver un problema y descubrir después que no sabemos cómo detenerlo, corregirlo o gobernarlo. Tal vez por eso necesitamos algo más que ética en abstracto.

Necesitamos una tecnética: una forma responsable, sana y útil de usar las herramientas que creamos, respetando la vida, la dignidad humana y los valores fundamentales que nos permiten seguir siendo humanos.

La IA no es un demonio ni un milagro. Es una criatura nacida del conocimiento humano, alimentada por nuestros datos y rodeada de fascinación, miedo y promesas de poder. Y precisamente por eso nos obliga a mirar de nuevo el viejo espejo de Frankenstein.

2. Mary Shelley, Prometeo y el nacimiento del miedo moderno

Frankenstein o el moderno Prometeo, publicada en 1818, no es solo una novela de terror. Es una de las grandes obras sobre la responsabilidad del creador. Mary Shelley escribió una historia que sigue hablando a nuestro presente porque no trata únicamente de un monstruo, sino de una pregunta moral:

¿Qué ocurre cuando el ser humano crea algo poderoso y luego se desentiende de sus consecuencias?

Conviene recordar algo que suele olvidarse: Frankenstein no es la criatura. Frankenstein es Víctor Frankenstein, el científico que la crea. La criatura no nace con un nombre propio y, en cierto sentido, esa ausencia ya anticipa su tragedia. Ha sido creada, pero no acogida. Ha sido traída al mundo, pero no acompañada.

El contexto en el que surge la novela es decisivo. A comienzos del siglo XIX, la Revolución Industrial estaba transformando la vida social, el trabajo, las ciudades y la imaginación colectiva.

El humo de las fábricas, las condiciones laborales durísimas, las enfermedades, la precariedad médica y los nuevos experimentos científicos alimentaban una sensibilidad marcada por el entusiasmo y el miedo. El galvanismo, con sus pruebas sobre electricidad y cuerpos, parecía rozar los límites entre vida y muerte.

También pesa el ambiente de la novela gótica: ruinas, tormentas, noches oscuras, ciencia inquietante y preguntas sobre lo que se esconde bajo la superficie respetable de la sociedad. Dos años antes de la publicación de la novela, en 1816, el llamado año sin verano provocó un clima extraño y sombrío en Europa. En ese entorno, Shelley participó en el famoso reto literario del que nacería Frankenstein.

La obra dialoga además con el mito de Prometeo, presente en su subtítulo. Prometeo roba el fuego de los dioses para entregarlo a los hombres. Es un gesto de rebeldía, progreso y generosidad, pero también una transgresión castigada. El fuego puede calentar, iluminar y transformar; también puede quemar.

La figura de Víctor Frankenstein resulta especialmente útil para pensar la inteligencia artificial porque no representa solo al científico ambicioso. Representa al creador que confunde capacidad técnica con madurez moral. Víctor es capaz de crear vida, pero cuando su criatura abre los ojos, no soporta lo que ha hecho. La rechaza, la abandona y se desentiende de las consecuencias de su propia obra.

Con la inteligencia artificial sucede algo que recuerda, salvando todas las distancias, a esa tensión. Durante los últimos años, gran parte del discurso tecnológico se ha centrado en la potencia de los modelos, la velocidad de desarrollo, la automatización y la promesa de productividad.

Pero una vez alcanzada cierta capacidad técnica, aparece la pregunta incómoda: ¿hacia dónde vamos?, ¿qué estamos creando?, ¿qué consecuencias aceptamos como inevitables?

No basta con lanzar herramientas al mundo y esperar que la sociedad se adapte sobre la marcha.

Las empresas tecnológicas, los laboratorios de investigación, los gobiernos y los usuarios no deberían comportarse como Víctor Frankenstein. La tecnología tiene repercusiones en el empleo, la educación, la comunicación, la salud mental, la información, la creatividad y la democracia.

El dilema no es si la IA es buena o mala, como si tuviera una voluntad moral propia. El dilema es si los humanos que la diseñan, financian, regulan y utilizan actúan con suficiente responsabilidad.

3. Del ludismo al algoritmo: cuando la máquina amenaza el trabajo

El miedo a la sustitución tecnológica tampoco empezó con ChatGPT. Mucho antes de la inteligencia artificial, la mecanización ya había cambiado la vida de miles de personas. Las máquinas hicieron posible producir más, más rápido y con menos esfuerzo físico, pero también alteraron los equilibrios laborales y sociales.

Asimov imaginaba a los robots como aliados capaces de liberarnos del trabajo más duro, peligroso y repetitivo. Esa promesa sigue siendo deseable: pocas personas querrían volver a trabajos agotadores, insalubres o físicamente destructivos si una máquina puede asumirlos. El tractor transformó el campo; la máquina industrial transformó la fábrica; la automatización transformó oficinas, cadenas de producción y servicios.

Pero la historia muestra que el progreso técnico no garantiza por sí solo una mejora humana. Al prescindir de mano de obra, muchas personas tuvieron que abandonar el campo y buscar empleo en ciudades donde las fábricas no siempre ofrecían una vida mejor. Mujeres, hombres y niños trabajaron durante jornadas interminables, entre ruido, contaminación y ausencia de protección social. La tecnología que podía liberar también podía intensificar la explotación.

Por eso los luditas no deberían recordarse simplemente como enemigos irracionales del progreso. Muchos rompían máquinas porque veían en ellas el símbolo de una reorganización laboral que los dejaba sin sustento o los sometía a condiciones abusivas. Su miedo no era solo a la máquina, sino al uso económico y social que se hacía de ella.

A lo largo del siglo XX, la técnica siguió prometiendo futuros utópicos y generando nuevos temores. Accidentes como el Titanic o el Hindenburg, las guerras mundiales, la bomba atómica y el pánico nuclear de la Guerra Fría recordaron que el avance técnico sin ética podía convertirse en amenaza. Julio Verne, H. G. Wells, Aldous Huxley, George Orwell o Ray Bradbury exploraron, cada uno a su modo, los riesgos de la técnica al servicio del dominio, la vigilancia o la pérdida de libertad.

La inteligencia artificial generativa introduce una diferencia importante respecto a otras olas de automatización. Durante mucho tiempo, la tecnología sustituyó sobre todo fuerza física, tareas repetitivas o procesos industriales. La máquina era más rápida, más resistente o más precisa que el cuerpo humano. Ahora la sensación es distinta. La IA no parece venir solo a sustituir brazos, sino también palabras, imágenes, diagnósticos, ideas, análisis, traducciones, diseños, informes, conversaciones y decisiones. Entra en el terreno del trabajo cognitivo y simbólico.

Esto explica por qué su impacto emocional es tan intenso. Un tractor podía cambiar la vida del campo. Un telar mecánico podía transformar la producción textil. Un robot industrial podía sustituir una tarea de fábrica.

Pero una IA capaz de escribir un artículo, diseñar una campaña, generar una imagen, resumir una reunión, programar código o responder a un cliente toca una zona mucho más sensible: la percepción de lo que nos hace profesionalmente valiosos.

El miedo contemporáneo no es solo perder un empleo. Es descubrir que parte de aquello que considerábamos diferencial —la expresión, la creatividad, el análisis, la producción de conocimiento— puede ser imitado o automatizado.

Pero conviene evitar una lectura simplista. La respuesta no debería ser rechazar la IA, sino redefinir el valor humano. En un entorno donde producir contenido será cada vez más fácil, el verdadero valor estará en el criterio, la estrategia, el contexto, la ética, la sensibilidad, la experiencia y la capacidad de formular buenas preguntas.

La IA puede acelerar tareas, pero no sustituye por sí sola la responsabilidad de decidir qué merece la pena hacer, para quién, con qué propósito y con qué consecuencias.

4. La ciencia ficción como archivo de nuestros miedos tecnológicos

La literatura y el cine han funcionado muchas veces como archivo de nuestros miedos tecnológicos. No predicen necesariamente el futuro, pero sí revelan las inquietudes profundas de cada época. Allí donde la sociedad presiente una tensión, la ficción suele darle forma antes de que el debate público encuentre sus palabras.

R.U.R., de Karel Čapek, popularizó la palabra robot, vinculada a la idea de trabajo forzado o servidumbre. Metrópolis, de Fritz Lang, mostró una ciudad dividida entre una élite ociosa y trabajadores sometidos a una vida subterránea y deshumanizada. Tiempos modernos, de Chaplin, convirtió la fábrica en una escena casi cómica y cruel donde el cuerpo humano queda atrapado en el ritmo de la máquina.

Asimov intentó domesticar el miedo mediante las Leyes de la Robótica, una forma de imaginar máquinas sometidas a límites morales. HAL 9000, en 2001: Una odisea del espacio, encarnó el temor a una inteligencia fría, racional y deshumanizada. Blade Runner y Philip K. Dick pusieron el foco en la identidad, la memoria y la pregunta más incómoda: ¿qué nos hace humanos si una criatura artificial puede parecer, recordar o sufrir como nosotros?

También Huxley, Orwell y Bradbury advirtieron sobre sociedades donde el poder controla el pensamiento, la información, el deseo o la disidencia. Sus distopías no son futuros inevitables; son advertencias sobre presentes que podrían torcerse si no ponemos límites al abuso del poder.

En el caso de la IA, el miedo es diferente al de una pandemia, una guerra nuclear o una catástrofe inmediata. No siempre adopta la forma de una amenaza visible. La vida ha sobrevivido a condiciones extremas y la humanidad ha atravesado glaciaciones, hambrunas, guerras y transformaciones profundas. La herramienta, por sí sola, no construye ni destruye: depende del uso que le demos, de los intereses que la rodeen y de la responsabilidad con que la integremos.

Durante décadas imaginamos el peligro tecnológico con forma de robot: una criatura visible, metálica, autónoma, capaz de obedecer o rebelarse. Sin embargo, la inteligencia artificial más influyente de nuestro tiempo muchas veces no tiene cuerpo ni rostro.

No camina entre nosotros como los robots de la ciencia ficción clásica. Opera de forma silenciosa en buscadores, redes sociales, plataformas de vídeo, sistemas de recomendación, herramientas de selección de personal, asistentes conversacionales, filtros de imagen, sistemas predictivos y aplicaciones empresariales.

Esto cambia el tipo de miedo. Ya no se trata solo de una máquina que pueda rebelarse físicamente contra el ser humano, sino de sistemas invisibles que condicionan lo que vemos, leemos, compramos, pensamos, votamos o creemos.

Un algoritmo de recomendación no necesita tener conciencia para influir en la opinión pública. Un modelo generativo no necesita tener intención política para producir desinformación.

Un sistema de clasificación no necesita odiar a nadie para discriminar. Basta con que esté mal diseñado, mal entrenado, mal supervisado o mal utilizado.

La criatura contemporánea no siempre aparece como un monstruo evidente. A veces es una infraestructura invisible que decide qué información llega a nosotros y cuál queda enterrada.

5. La caja negra: cuando el creador ya no entiende del todo a su criatura

Víctor Frankenstein se horroriza al ver abrirse los ojos de su criatura porque descubre que ha creado algo que ya no controla moralmente. El ingeniero contemporáneo vive una versión menos gótica, pero igualmente inquietante: sistemas que funcionan, producen resultados útiles y, sin embargo, no siempre permiten explicar de forma sencilla por qué han llegado a una respuesta determinada.

Uno de los conceptos más importantes para entender el complejo de Frankenstein aplicado a la inteligencia artificial es el de caja negra.

En términos sencillos, una caja negra es un sistema del que conocemos los datos de entrada y los resultados de salida, pero cuyo proceso interno no siempre podemos explicar de forma clara.

Sabemos qué información recibe el sistema y vemos qué respuesta produce, pero no siempre podemos reconstruir con precisión el camino que ha seguido para llegar a esa respuesta.

En la inteligencia artificial moderna, especialmente en el aprendizaje profundo, esto ocurre porque los modelos no funcionan como un programa tradicional basado en reglas simples del tipo: si pasa A, haz B. Los sistemas aprenden ajustando enormes cantidades de parámetros a partir de grandes volúmenes de datos. El resultado puede ser muy eficaz, pero también difícil de interpretar.

Aquí aparece una paradoja incómoda: cuanto más potentes se vuelven algunos modelos, más difícil puede ser explicar por qué han tomado una decisión concreta. Esto no siempre importa cuando usamos IA para tareas triviales, pero se vuelve crítico cuando afecta a ámbitos como la medicina, la justicia, la educación, la contratación, la seguridad, las finanzas o la administración pública.

Si una IA recomienda un tratamiento, rechaza una candidatura, prioriza una información, clasifica a una persona como riesgo o genera un diagnóstico, no basta con que el resultado parezca correcto. Necesitamos saber con qué criterios ha llegado hasta ahí.

La conexión con Frankenstein es evidente. Víctor Frankenstein crea vida, pero no comprende moralmente lo que ha creado. De manera parecida, hoy desarrollamos sistemas capaces de producir resultados extraordinarios, pero no siempre somos capaces de explicar de forma transparente su funcionamiento, sus límites o sus consecuencias.

Sin embargo, también hay que tener cuidado con convertir la caja negra en una excusa. No toda opacidad es inevitable. A veces la falta de transparencia se debe a la complejidad técnica, pero otras veces responde a intereses comerciales, secreto industrial, ausencia de auditorías o falta de voluntad para diseñar sistemas más interpretables.

Quizá llamamos monstruo incontrolable a lo que en realidad es una tecnología desplegada sin suficiente transparencia, gobernanza ni responsabilidad.

6. La criatura no nace mala: aprende de nosotros

Otro punto fundamental es que la IA no nace en el vacío. Aprende de datos humanos. Y esos datos contienen lo mejor y lo peor de nosotros: conocimiento, lenguaje, creatividad, ciencia y cultura, pero también prejuicios, desigualdades, violencia, estereotipos, errores y sesgos históricos.

Por eso, la IA no es un espejo limpio. Es un espejo entrenado con huellas humanas.

Cuando un modelo aprende a partir de datos históricos, puede reproducir patrones injustos del pasado. Si una empresa ha contratado mayoritariamente a hombres para puestos técnicos, un sistema entrenado con esos datos puede aprender que los perfiles masculinos son más adecuados. Si una base de imágenes asocia sistemáticamente determinadas profesiones con un género, una IA generativa puede repetir ese estereotipo. Si un algoritmo de recomendación detecta que el contenido polarizante genera más interacción, puede amplificarlo aunque deteriore la conversación pública.

La máquina no discrimina porque quiera discriminar. No tiene intención moral en sentido humano. Pero puede producir efectos discriminatorios si los datos, los objetivos o el diseño del sistema están mal planteados.

Esto es importante porque desplaza la responsabilidad de la máquina al ser humano. No podemos decir simplemente: lo ha decidido el algoritmo. Detrás de cada sistema hay decisiones sobre qué datos usar, qué objetivos optimizar, qué errores tolerar, qué resultados medir y qué consecuencias aceptar.

La criatura no nace mala. Aprende de aquello con lo que la alimentamos.

7. La falsa objetividad de la máquina

Uno de los grandes riesgos de la inteligencia artificial es la falsa sensación de objetividad. Tendemos a creer que una decisión automatizada es más neutral porque se basa en datos, cálculos y modelos matemáticos. Pero la tecnología no está fuera de la cultura. La tecnología también incorpora valores, prioridades e intereses.

Un algoritmo no decide desde la nada. Optimiza aquello para lo que ha sido diseñado. Si una plataforma optimiza el tiempo de permanencia, tenderá a mostrar aquello que retiene más atención, aunque no sea necesariamente lo más verdadero, saludable o relevante. Si una empresa optimiza reducción de costes, puede automatizar procesos sin medir suficientemente el impacto humano.

Si una institución usa datos históricos sin analizarlos críticamente, puede convertir desigualdades pasadas en decisiones futuras.

Por eso, el debate sobre IA no debe centrarse solo en la capacidad técnica de los modelos, sino en las preguntas que los rodean: ¿quién define el objetivo del sistema?, ¿quién decide qué datos son válidos?, ¿quién audita los resultados?, ¿quién se beneficia de la automatización?, ¿quién asume el coste de los errores?, ¿quién responde cuando una decisión algorítmica perjudica a una persona?

La máquina puede calcular, pero somos los humanos quienes decidimos qué merece ser calculado. Esa decisión nunca es puramente técnica. Es ética, política, económica y cultural.

8. IA generativa y creatividad: el nuevo conflicto artístico

Nada sale de la nada. También la creatividad humana parte siempre de una base: una tradición, una experiencia, una cultura, una técnica, una herida o una intuición. Vemos más lejos porque otros miraron antes que nosotros. La idea del genio aislado, del creador que se hace completamente a sí mismo, puede ser inspiradora, pero rara vez es verdadera del todo. Todos aprendemos de todos.

Muchos artistas, inventores y pensadores admirados hoy fueron incomprendidos en vida. Algunos vivieron con estrecheces económicas, otros fueron despreciados por sus contemporáneos y otros solo recibieron reconocimiento mucho después.

También en los inventos se repite una historia parecida: alguien descubre algo, otro lo mejora, una casualidad despierta una idea y una mente preparada sabe reconocerla.

El momento eureka rara vez es simple azar. Suele aparecer después de estudio, esfuerzo, pruebas fallidas y atención. Buscar una cosa y encontrar otra, descubrir un misterio inesperado mientras se perseguía una respuesta distinta, forma parte de la aventura humana del conocimiento.

En el arte y la belleza, la cuestión es todavía más delicada. La belleza puede entenderse como aquello que produce un placer espiritual, no solo una atracción física, una utilidad práctica o una satisfacción inmediata. Una obra puede gustar o no, pero cuando conmueve deja una huella que no se reduce a técnica.

La fotografía ya provocó un debate parecido. Al permitir retratos realistas sin la mano del pintor, obligó al arte a preguntarse qué podía aportar más allá de la reproducción fiel. De ahí se abrieron caminos nuevos: impresionismo, cubismo, surrealismo y muchas otras formas de mirar. La tecnología no mató el arte, pero sí lo obligó a transformarse.

Con la IA generativa ocurre algo similar, aunque con una intensidad distinta. Una máquina puede generar una imagen visualmente atractiva, escribir un texto correcto o imitar un estilo artístico. Puede combinar patrones, reproducir estructuras, detectar regularidades y producir resultados sorprendentes. Pero no crea desde una experiencia vital propia. No tiene infancia, memoria emocional, cuerpo, deseo, duelo, miedo, amor, contradicciones ni conciencia de finitud.

Puede describir la nostalgia, pero no sentirla. Puede escribir sobre el dolor, pero no padecerlo. Puede imitar el estilo de un artista, pero no vivir el conflicto interior que dio origen a una obra.

Esto no significa que la IA sea inútil para la creación. Al contrario: puede ser una herramienta extraordinaria para explorar ideas, acelerar procesos, visualizar conceptos, probar estilos, generar borradores o desbloquear la imaginación. El problema aparece cuando confundimos producción con creación, eficiencia con sentido y volumen con valor cultural.

La gran promesa tecnológica decía que las máquinas asumirían las tareas mecánicas para liberar al ser humano hacia el pensamiento, el arte y la ciencia. Sin embargo, la IA generativa ha empezado precisamente por automatizar una parte importante de los procesos creativos.

El riesgo no es que una IA produzca imágenes o textos. El riesgo es aceptar una cultura de contenido infinito, rápido y barato donde ya no nos preguntemos quién crea, desde dónde crea, para qué crea y qué experiencia humana hay detrás de una obra.

La IA puede ampliar la creatividad humana cuando está al servicio del criterio. Pero puede empobrecerla cuando sustituye intención, profundidad y mirada propia por mera producción automática.

Porque una vida no es una base de datos. Una obra humana lleva dentro algo de quien la hace: su experiencia, sus pérdidas, sus hallazgos, sus contradicciones, sus amores y sus límites. Se puede comprar una casa; no siempre se puede comprar un hogar. Se puede producir una imagen; no siempre se puede producir una mirada.

9. Antropomorfización: el error de ver alma donde hay sintaxis

Una parte del miedo actual a la inteligencia artificial nace de nuestra tendencia a antropomorfizarla. Es decir, a atribuirle rasgos humanos porque se comunica con lenguaje humano.

Cuando una IA responde con fluidez, cortesía y aparente seguridad, es fácil pensar que comprende. Cuando usa un tono empático, parece que siente. Cuando crea una imagen o escribe un poema, parece que imagina. Pero esa impresión puede ser engañosa.

Los modelos de lenguaje generan respuestas a partir de patrones estadísticos. Esto no significa que sean simples ni irrelevantes. Su capacidad es impresionante. Pero producir lenguaje coherente no equivale necesariamente a tener conciencia, intención o experiencia subjetiva.

Simular empatía no es sentir empatía. Generar una obra no es vivir una experiencia estética.

Producir argumentos no es tener juicio moral. Responder con seguridad no garantiza verdad.

La IA no necesita tener alma para producir efectos culturales profundos. Basta con que nosotros creamos que la tiene. Por eso, uno de los grandes retos no es solo mejorar la tecnología, sino educar nuestra forma de relacionarnos con ella.

Tenemos que aprender a usar sistemas capaces de imitar lo humano sin olvidar que imitar no es ser. Y también deberíamos preguntarnos por qué nos resulta tan fácil atribuir humanidad a una máquina mientras, tantas veces, deshumanizamos a otros seres humanos.

10. AGI y alineamiento: el verdadero momento Frankenstein

Cuando se habla del momento Frankenstein de la inteligencia artificial, suele aparecer el debate sobre la inteligencia artificial general, conocida como AGI. A diferencia de los sistemas actuales, especializados en tareas concretas, la AGI sería una inteligencia capaz de comprender, aprender y actuar de forma flexible en múltiples contextos, con una capacidad comparable o superior a la humana.

No sabemos cuándo ni cómo se alcanzará ese punto, ni siquiera si llegará en los términos en los que suele imaginarse. Por eso conviene tratar este debate con prudencia. Pero sí plantea una cuestión importante: el problema del alineamiento.

Alinear una IA significa conseguir que sus objetivos, decisiones y comportamientos sean compatibles con valores humanos. El riesgo no tiene por qué ser una máquina malvada, como en una película. Puede ser algo más frío: un sistema extremadamente eficiente optimizando un objetivo mal definido.

Si una máquina persigue una meta sin comprender el contexto humano, puede producir consecuencias indeseadas aunque esté cumpliendo literalmente la instrucción recibida. De nuevo aparece el aprendiz de brujo: el problema no es solo activar una fuerza, sino saber formular el objetivo correcto y prever sus efectos.

Pero el alineamiento no debe entenderse únicamente como un problema futurista. Hoy ya deberíamos preguntarnos: ¿alineada con quién?, ¿con qué valores?, ¿con qué intereses?, ¿con qué modelo de sociedad?

El verdadero alineamiento no consiste solo en ajustar una máquina a nuestras instrucciones, sino en preguntarnos si nuestras instrucciones merecen ser obedecidas.

11. La responsabilidad de Víctor: el problema no fue crear, sino abandonar

El complejo de Frankenstein no habla únicamente del miedo a que las máquinas se vuelvan humanas. Nos advierte de algo más incómodo: que los seres humanos podemos comportarnos como malos creadores.

Crear sin cuidar. Inventar sin comprender. Automatizar sin asumir consecuencias. Delegar sin pensar.

Víctor Frankenstein no fracasa solo porque crea una criatura. Fracasa porque la abandona. Y esa es la advertencia más actual de la novela. La responsabilidad no termina en el momento de la invención; empieza precisamente ahí.

La inteligencia artificial será una de las grandes herramientas de nuestro tiempo. Puede ayudarnos a investigar, aprender, crear, diagnosticar, comunicar, organizar mejor el trabajo y ampliar nuestras capacidades. Pero su valor dependerá menos de lo que sea capaz de hacer por sí sola que de la madurez con la que decidamos integrarla en nuestra vida, nuestras empresas, nuestras instituciones y nuestra cultura.

No basta con hablar de innovación. Necesitamos responsabilidad. No basta con hablar de productividad. Necesitamos criterio. No basta con usar herramientas inteligentes. Necesitamos personas capaces de pensar mejor con ellas.

Ser libre es también aceptar el peso de las decisiones. A veces tendremos que renunciar a caminos más fáciles. A veces no sabremos qué habría pasado si hubiéramos elegido otra opción. Pero lo que hagamos, deberíamos hacerlo con conciencia: sabiendo que la técnica puede ampliar lo mejor de nosotros o acelerar lo peor.

La IA no debería servir para abandonar nuestras capacidades cognitivas, creativas o morales, sino para ampliarlas. El verdadero peligro no es que la máquina despierte. El verdadero peligro es que nosotros dejemos de estar despiertos.