De la delegación cognitiva a la delegación moral

Últimamente se viene hablando mucho de algo que causa mucha preocupación en casi todos los ámbitos que estudian los fenómenos relacionados a la Inteligencia Artificial. Esto es la delegación cognitiva, que básicamente es trasladar acciones que realizamos con la mente a otros artefactos que están por fuera de nuestro cuerpo. Es decir algunas acciones que realizamos cognitivamente como recordar, sumar números, etc, las podemos realizar hace mucho tiempo con otros objetos que utilizamos en nuestra vida diaria, tales como una libreta con cosas que debemos hacer u agendas telefónicas nos han servido para liberar ese espacio que ocuparían en nuestra mente. Los humanos hemos fabricado cada vez más objetos con esta capacidad, así han llegado las calculadoras, los primeros celulares, las computadoras y demás objetos.

En la actualidad creamos un sistema suficientemente robusto que está a nuestro servicio para poder realizar muchísimas operaciones que nos llevarían muchísimo desgaste cognitivo. A este sistema interconectado lo llamamos Inteligencia Artificial y suele aparecer en nuestra vida como un Chatbot que tiene una interfaz lo suficientemente amigable como para poder generar una sensación de diálogo con una máquina. Este servicio se viene usando fuertemente hace 3 años (aproximadamente) de forma creciente entre los usuarios.

Hubo especulaciones por todos lados sobre lo que sucedería si utilizamos en exceso este tipo de tecnologías, pero 3 años en la era que vivimos con la cantidad de datos y análisis que producimos puede darnos algún indicio sobre lo que pasó hasta ahora. Ya tenemos métricas lo suficientemente confiables como para poder analizar los usos que le hemos dado a estas tecnologías y esto despertó la preocupación de los expertos sobre lo que había mencionado más arriba: la delegación cognitiva.

Informes de ChatGPT

OpenIA, la empresa encargada de proporcionar el servicio de ChatGPT, en septiembre del año pasado nos brindó un informe sobre el uso que le damos a su Chatbot:

Tres de cada cuatro conversaciones se enfocan en obtener orientación práctica, buscar información y redactar; la escritura es la actividad laboral más común, mientras que la programación y la expresión personal siguen siendo actividades de nicho.

Buscar información, redactar y escribir son actividades cognitivas. Todas se pueden realizar sin necesidad de usar una IA, pero buscar información se resignificó con la llegada de Internet, redactar y escribir viene siendo una actividad relativamente “manual” desde la llegada de la máquina de escribir y su digitalización con el computador portátil agilizó esta práctica. Pero la redacción a partir de la inteligencia artificial adquiere nuevas características dado que se realiza fácilmente de forma artificial y lo que queda para los humanos es una leve actividad de curaduría, en donde seleccionamos las partes que necesitamos, copiamos y pegamos en función de nuestros objetivos. Sin embargo, lo que antes realizábamos in extesum hoy se hace en unos segundo.

Esto causa preocupaciones en instituciones educativa. Justo el viernes pasado di una clase de filosofía a mis alumnos de 6to año, les di un trabajo práctico sobre Descartes y lo hizo sin disimular en unos 5 minutos, algo que estaba preparado para realizarse en 60 minutos. No soy tecnofóbico y aprecio el uso de IA en actividades intelectuales, pero le pregunté que había aprendido y no supo responder. Ese es uno de los peligros más fuertes de la Inteligencia Artificial: la atrofia cognitiva. El hecho de dejar de escribir, leer y buscar información finamente seleccionada, puede significar problemas graves para nuestra capacidad de pensar y reflexionar, dos características que hemos considerado intrínsecamente humanas a lo largo de la historia.

Sin embargo, tal y como ven en el título, este artículo se trata de otro tipo de delegación: la moral.

¿Qué es la delegación moral?

Esta preocupación la vi por primera y única vez en un artículo de Ted Chiang llamado No, Artificial Intelligence Is Not Conscious en The Atlantic. Recomiendo fervientemente su lectura porque desmitifica gran parte de las consideraciones filosóficas que circunscriben al ámbito de la Inteligencia Artificial. Pero sobre el final el autor plantea una inquietud de la que vale la pena prestar suma atención:

Delegar tareas como escribir código puede provocar atrofia cognitiva a largo plazo, lo cual es problemático en sí mismo, pero delegar decisiones éticas conlleva una atrofia del razonamiento moral, lo cual es aún peor.

El razonamiento moral, para Chiang, implica una experiencia subjetiva:

Es necesariamente subjetivo porque no solo depende de la respuesta intelectual de un individuo ante un problema, sino también de su respuesta emocional, y esta última se fundamenta en una vida de experiencia subjetiva.

Requiere no sólo un tipo de razonamiento, sino haber tomado decisiones y haberlas padecido, haber empatizado con aquellos que sufrieron las decisiones. Recordemos que de los cuatro usos fundamentales de ChatGPT se encuentra “obtener orientación práctica”. Cerca de un 28% del uso de ChatGPT se usa para guía práctica:

¿Esto quiere decir que se usa específicamente para decisiones morales? No. Pero dentro dentro de lo que consideramos guía práctica, muy probablemente incluyan decisiones personales. Open IA dice explícitamente:

Una de las principales formas en que se genera valor es mediante el apoyo a la toma de decisiones: ChatGPT ayuda a mejorar el juicio y la productividad, sobre todo en trabajos que requieren gran conocimiento.

¿Qué significa “mejorar el juicio”? Chiang argumenta:

Si una empresa crea una máquina que, al introducirle descripciones de diversos dilemas éticos, emite frases como «Comprométete con tus valores» o «No comprometas tus valores», no está creando una herramienta que ayude a las personas a tomar decisiones, sino que las está incitando a dejar de tomarlas.

Esto quiere decir que si una máquina te ayuda a decidir sobre acciones de tu vida no está mejorando tu juicio, te está incitando a dejar de tenerlo. Reemplazar tus juicios por los de un tercero significa dejar de tomarlos. Evidentemente, la toma de decisiones morales, lejos de ser una capacidad que tenemos incorporada desde nacimiento es algo que se aprende, entrena y desarrolla con la vida. Por consecuencia, si lo dejamos de hacer, corremos el riesgo de atrofiar esa capacidad.

¿Qué ocurre cuando comenzamos a delegar decisiones cuya importancia depende justamente de nuestra experiencia, nuestros valores, nuestras emociones y de las consecuencias que estamos dispuestos a asumir?

Atrofia moral

Leer, investigar y consultar opiniones de amigos/as para tomar una decisión importante conlleva incorporar subjetivamente las diversas fuentes consultadas y tal vez también, aceptar las consecuencias que implique tal decisión. Ahora, pedir en bandeja servida qué es lo que tenemos que hacer no lleva un razonamiento ni una incorporación subjetiva.

Ahora bien, lejos de establecer un principio universal del tipo:

Uso de ChatGPT = atrofia moral

No es la intención del artículo despertar fobia en el lector, sino más bien recomendar un uso crítico de las nuevas herramientas de IA. Dado que éstas tecnologías imponen un diálogo fluido por el tipo de UX (user experience) no son herramientas que inviten a la reflexión per sé. Pero sí creo que estamos en un momento histórico para lograr pensar nuevas alternativas para no perder nuestras capacidades cognitivas, sino, intentar reforzarlas.

Conclusiones

Estas tecnologías efectivamente tienen la capacidad de crear cosas que antes no existían, de recomendar decisiones, de leer por nosotros, de escribir, etc. Esto está dado, según Luciano Floridi, por el ecosistema informacional que creamos alrededor de las tecnologías. A esto lo llama: Infoesfera. Estos agentes, no pueden aconsejarnos con experiencias personales como un amigo, dado que sólo actúan gracias al ecosistema que creamos para que funcionen. Es importante saber esa diferencia al momento de utilizar estas tecnologías que por diseño funcionan para dialogar con nosotros y, por diseño también, su funcionamiento permanece oculto.

La cuestión, entonces, no es si debemos dejar de utilizar la Inteligencia Artificial para tomar decisiones. Tampoco se trata de establecer una frontera rígida entre aquello que podemos delegar y aquello que no. Como mencioné, la delegación forma parte de nuestra relación con la tecnología desde mucho antes de la aparición de la IA. El problema aparece cuando aquello que delegamos no es solamente una tarea, sino la capacidad misma de juzgar.

Quizás el desafío de la Inteligencia Artificial no consista solamente en aprender a utilizarla mejor, sino en aprender qué cosas no deberíamos dejar de hacer por nosotros mismos. Si el juicio moral se construye mediante la experiencia, el error, la empatía y la responsabilidad sobre nuestras propias decisiones, entonces delegarlo sistemáticamente podría no liberarnos de una carga, sino privarnos de una capacidad.

La pregunta que queda abierta es, entonces: ¿qué decisiones estamos dispuestos a delegar y cuáles necesitamos seguir tomando por nosotros mismos para no dejar de ser quienes deciden?

Bibliografía

Chiang, T. (2026) No, Artificial Intelligence Is Not Conscious, The Atlantic.

Crawford, K. (2022). Atlas de la inteligencia artificial: Poder, política y costos planetarios. Ciudad de México, México: Fondo de Cultura Económica.

Floridi, L. (2014). La Cuarta Revolución. Oxford University Press.

OpenIA, (2025). Cómo usan las personas ChatGPT , 2025)