Amanda Askell: la filósofa que enseña ética a Claude y por qué la Filosofía importa más que nunca
A los 16 años supe que quería estudiar Filosofía.
No fue una decisión especialmente tranquilizadora para quienes me rodeaban.
En la España de aquellos años, decir que querías estudiar Filosofía era casi anunciar que estabas eligiendo voluntariamente un futuro profesional complicado. Durante mucho tiempo escuché una pregunta que probablemente reconocerán muchos estudiantes de Humanidades:
«¿Y eso para qué sirve?»
O, todavía peor:
«¿Por qué has estudiado algo que no sirve para nada?»
Muchos años después he descubierto la historia de Amanda Askell y me ha hecho volver a pensar en aquella adolescente de 16 años.
Porque Amanda Askell también eligió Filosofía.
Y hoy ocupa uno de los lugares más singulares de la revolución tecnológica que estamos viviendo.
La filósofa que ayuda a decidir cómo debe comportarse una inteligencia artificial. Amanda Askell no es ingeniera informática. Tampoco llegó al mundo de la inteligencia artificial desde la programación. Es filósofa.
Estudió Filosofía en la Universidad de Dundee, continuó su formación en Oxford y terminó realizando un doctorado en la Universidad de Nueva York centrado en ética, teoría de decisión y problemas relacionados con lo que se conoce como infinite ethics.
Después dio un salto que hace unos años habría resultado extraño: pasó de la filosofía académica a trabajar en inteligencia artificial. Primero en OpenAI y posteriormente en Anthropic, donde entró en 2021. Allí su trabajo acabaría convirtiéndose en una de las piezas más interesantes del desarrollo de Claude. WIRED
Porque crear una inteligencia artificial no consiste únicamente en conseguir que responda correctamente.
También hay que decidir algo bastante más difícil: ¿Cómo queremos que se comporte?
¿Qué debe hacer cuando no sabe algo?
¿Hasta qué punto debe obedecer a un usuario?
¿Cuándo debería negarse?
¿Qué significa ser honesta?
¿Cómo debe enfrentarse a un dilema moral?
¿Qué valores debe priorizar cuando esos valores entran en conflicto?
Es difícil encontrar preguntas más filosóficas.
Muchos que usais Claude habreis notado que suena diferente a otras IAS generativas:
Askell ha trabajado precisamente en eso: en desarrollar el carácter y los principios que orientan el comportamiento de Claude. Fue una de las principales autoras de su denominada «Constitución», el marco que establece valores y criterios para orientar las respuestas y decisiones del modelo. Acast
Ella misma lo ha descrito como una forma de filosofía aplicada: algo parecido a enseñar a alguien a ser bueno. WIRED
Y aquí aparece una paradoja maravillosa.: Una disciplina acusada durante décadas de «no servir para nada» está ayudando ahora a responder algunas de las preguntas más importantes de una tecnología capaz de transformar nuestra sociedad.
Yo también elegí Filosofía cuando parecía una mala idea
Quizá por eso la historia de Amanda Askell me ha resultado tan familiar.
Yo también supe muy pronto que quería estudiar Filosofía.
Y también escuché muchas veces que estaba eligiendo una carrera sin salida.
Sin embargo, mi primera experiencia profesional importante llegó en un lugar aparentemente alejadísimo de Platón, Kant o Aristóteles: un banco.
Tenía apenas 22 años y pasé todo el proceso de selección hasta llegar a la entrevista final.
Durante aquella entrevista ocurrió algo que nunca olvidé. La directora de Recursos Humanos me preguntó cuál había sido mi asignatura favorita. Empezamos a hablar. Y entonces descubrí que ella también era licenciada en filosofía y no mucho mayor que yo.
Aquello me enseñó algo que probablemente entonces todavía no sabía formular: la formación no determina necesariamente el lugar donde vas a trabajar; determina, muchas veces, la forma en la que eres capaz de mirar ese lugar.
De mi abuelo empresario a mi padre pianista
En mi caso había además una combinación peculiar. Mi abuelo era empresario. Mi padre, pianista.
Empresa y creatividad. Estructura e interpretación. Números y sensibilidad.
Probablemente esa mezcla explique parte de mi trayectoria posterior. Siempre me ha interesado entender las empresas por dentro. No únicamente desde las personas o desde el marketing.
También desde las finanzas, las operaciones, la estrategia, el producto y la forma en la que todas esas piezas se relacionan.
Porque una empresa tampoco es una colección de departamentos independientes. Es un sistema.
Y quizá ahí apareció por primera vez una de las cosas que la Filosofía me había enseñado sin que yo fuera plenamente consciente: buscar la visión de conjunto.
«¡Ya lo entiendo todo!»
Recuerdo perfectamente una sensación que tuve al terminar la carrera. Estaba en la biblioteca y, de repente, sentí que las distintas piezas de la historia del pensamiento humano encajaban.
Filosofía antigua, medieval, moderna, contemporánea; epistemología, ética, metafísica, lógica...
Y grité: «¡Ya lo entiendo todo!»
Evidentemente no lo entendía todo. Pero durante unos segundos experimenté algo parecido al «¡Eureka!» de Arquímedes. Lo que había entendido era el mapa.
Podía ver cómo unas ideas conducían a otras, cómo determinadas preguntas atravesaban siglos y cómo los distintos sistemas de pensamiento intentaban responder, desde perspectivas diferentes, a problemas similares.
Años después experimenté algo muy parecido cuando terminé mi MBA. Solo que esta vez el sistema que empezaba a comprender era otro:
la empresa.
Finanzas, operaciones, estrategia, marketing, ventas, personas, producto.
De pronto volvía a aparecer el mapa.
Y entendí con mucha más claridad algo que sigo defendiendo hoy: el marketing no puede funcionar de manera independiente de finanzas, del producto o de operaciones.
Si cada departamento optimiza únicamente su propia parte, la empresa puede acabar optimizando exactamente lo contrario de lo que necesita.
Y entonces llegó la inteligencia artificial
Ahora estoy experimentando una tercera vez esa misma sensación. Pero el sistema vuelve a cambiar. Esta vez es la inteligencia artificial.
Durante los últimos años hemos hablado muchísimo de la IA aplicada al marketing: generación de contenidos, automatización, campañas, análisis...
Pero creo que eso es apenas la primera capa. La transformación verdaderamente profunda llegará cuando la IA penetre en operaciones.
Cuando empiece a revisar procesos completos.
Cuando agentes de IA puedan coordinar tareas.
Cuando determinadas decisiones administrativas se automaticen.
Cuando departamentos que hoy funcionan como compartimentos estancos compartan información y procesos mediante sistemas inteligentes.
Cuando una empresa deje de preguntarse:
«¿Dónde puedo utilizar ChatGPT?»
y empiece a preguntarse:
«¿Cómo rediseñaría mi empresa si parte del trabajo pudiera realizarlo una inteligencia artificial?»
Ese cambio es muchísimo mayor. No estamos hablando de adoptar una herramienta. Estamos hablando de rediseñar organizaciones.
Por eso hablo de empresas híbridas De esa convinción nace mi proyecto Empresas híbridas.
No porque crea que las máquinas van a sustituir simplemente a las personas.
Tampoco porque considere que la tecnología deba ocupar el centro de las organizaciones.
Precisamente al contrario.
Me interesa entender qué ocurre cuando en una empresa empiezan a trabajar simultáneamente:
personas, algoritmos, automatizaciones y agentes de inteligencia artificial.
Quién decide.
Quién supervisa.
Qué procesos deben automatizarse.
Cuáles no.
Qué competencias necesitarán las personas.
Cómo cambia el liderazgo.
Cómo cambia la organización.
Y, sobre todo:
qué queremos seguir reservándonos los humanos.
De repente volvemos a estar en Filosofía. Tal vez la pregunta nunca fue «¿para qué sirve la Filosofía?»
Un compañero de facultad siempre contestaba: para nada, efectivamente.
Durante muchos años las Humanidades han tenido que justificar su utilidad utilizando el lenguaje del mercado laboral: Salidas profesionales., empleabilidad., salarios, demanda empresarial.
Pero quizá hemos formulado mal la pregunta.
Amanda Askell es un ejemplo extraordinario.
Una filósofa está trabajando en una de las empresas de inteligencia artificial más importantes del mundo tratando de resolver un problema que los ingenieros, por sí solos, no pueden resolver:
qué clase de comportamiento queremos de las inteligencias que estamos construyendo.
Y probablemente necesitemos cada vez más perfiles así.
Ingenieros que entiendan ética.
Filósofos que entiendan tecnología.
Directivos que entiendan inteligencia artificial.
Tecnólogos que comprendan organizaciones.
Humanistas capaces de trabajar con datos.
Porque los grandes problemas rara vez pertenecen a una sola disciplina.
Quizá mi carrera sí servía para algo
Han pasado muchos años desde que alguien me preguntó por primera vez:
«¿Para qué has estudiado Filosofía?»
Hoy creo que por fin tengo una respuesta:
Me enseñó a hacer preguntas.
A desconfiar de respuestas demasiado simples.
A observar sistemas completos.
A conectar ideas que aparentemente pertenecen a mundos distintos.
Después aprendí empresa.
Después estrategia.
Después tecnología.
Y ahora inteligencia artificial.
Mirándolo retrospectivamente, quizá no hayan sido etapas independientes.
Quizá haya estado intentando hacer lo mismo todo este tiempo:
entender el sistema completo.
Por eso siento también una responsabilidad especial por divulgar lo que está ocurriendo con la inteligencia artificial. No porque tenga todas las respuestas.
Sino precisamente porque estamos entrando en un momento en el que tendremos que formular preguntas mucho mejores.
Amanda Askell está haciéndolo desde dentro de uno de los grandes laboratorios de inteligencia artificial.
Yo intento hacerlo desde otro territorio: el de las empresas que tendrán que aprender a convivir con estas tecnologías.
Y quizá ahí esté una de las grandes ironías de nuestra época.
Durante años preguntamos:
«¿Para qué sirve un filósofo?»
Ahora que estamos construyendo inteligencias capaces de razonar, decidir y actuar, quizá la pregunta sea otra:
¿cómo pudimos pensar alguna vez que no íbamos a necesitarlos?
Comentarios