Por Ramón Besonías
Hace dos años que sugiero un experimento en mis clases de Filosofía de Bachillerato. Les pido a mis estudiantes que mantengan una conversación con Chat GPT a través de un asistente que he diseñado específicamente para ese reto. La IA simula ser un humano, evitando que mis estudiantes —a pesar de saber a priori que se trata de una IA— detecten rasgos de IA. En una ficha de observación, una vez terminada su conversación, deben anotar en qué han notado que la IA es IA y en cuáles simula con eficacia al humano. Además, deben enviarme el link de la conversación. Les sugiero que adopten una actitud relajada, como si hablaran con una persona a la que acaban de conocer.
Este reto, aunque mis estudiantes no lo sepan, posee intenciones que trascienden lo obvio. No solo busco que aprecien las diferencias entre el lenguaje humano y el de una IA. Deseo que analicen y debatan a posteriori el impacto de su implicación emocional no tanto durante esa conversación —el experimento es más bien un detonante para la reflexión—, sino en el uso cotidiano que hacen de ella. En un claro ejemplo de atribución de agencia, a los estudiantes no les cuesta tratar a la IA como si tuviera intenciones, personalidad, sensibilidad o conciencia. Ya en las primeras iteraciones antropomorfizan la relación, aún sabiéndose parte de un experimento educativo. Un estudiante incluso intentó ligar con la IA, pidiéndole salir. La IA, como no podía ser de otro modo, le recordó que no tiene cuerpo y esa contingencia hacía imposible una interacción física. Algunos estudiantes dedicaron la conversación a hacerle confesiones afectivas. Las chicas tendieron más a la conversación emocional y los chicos a hablar de lo que hacen o a llevar a la IA al límite de sus prestaciones.
El informe de 2025 Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions se centra en adolescentes de 13 a 17 años con una muestra fue de 1.060 adolescentes estadounidenses. Según este estudio, el 72% de adolescentes ha usado compañeros de IA; el 52% los usa regularmente. El 33% los usa para interacción social y relaciones: apoyo emocional, rol, amistad o interacciones románticas. El 50% confía al menos “algo” en la información o consejos del companion; el 23% confía “bastante” o “completamente”. Los de 13-14 años confían más que los de 15-17. El 31% encuentra las conversaciones con IA tan satisfactorias o más que las conversaciones con amistades reales. El 24% de quienes los usan ha compartido información personal o privada, como nombre real, ubicación o secretos. Un 33% de usuarios ha elegido hablar con una IA antes que con humanos sobre temas serios.
El estudio Who will turn to chatbots for self-disclosure?, publicado en AI & Society en 2025, es especialmente importante porque analiza directamente la autorrevelación de adolescentes ante chatbots. Trabaja con 2.272 adolescentes de Estados Unidos y Hong Kong, y codifica si sus respuestas incluyen sentimientos, creencias, emociones o conflictos interpersonales. El estudio encuentra que el 15,6% de los participantes mostró autorrevelación hacia el chatbot y el 4,4% lo hizo de forma exclusiva hacia el chatbot, no hacia un adulto cuidador. Además, la “falta de sentido existencial” aparece asociada positivamente con la autorrevelación exclusiva al chatbot, lo cual revela una señal inquietante: no significa que el chatbot cause malestar, pero sí que algunos adolescentes con mayor vacío o desconexión pueden convertirlo en destinatario privilegiado de su mundo emocional. Esto puede funcionar como “válvula de intimidad” cuando hablar con humanos resulta más costoso, vergonzoso o incierto. El chatbot no juzga, no se cansa, no pone cara rara y no cuenta el secreto en el recreo. Por eso engancha. Aporta una conversación ideal, pero ficticia, que sobredimensionada frustra ulteriores relaciones interpersonales, ya que estas están sometidas a numerosas contingencias y vulnerabilidades, esas que un adolescente, en proceso de identidad, afronta aún sin herramientas y a veces sin apoyo social, familiar y educativo.
El experimento I am here for you: How relational conversational AI appeals to adolescents, especially those who are socially and emotionally utiliza 284 díadas adolescente-progenitor, con jóvenes de 11 a 15 años. Comparan dos estilos de chatbot: uno relacional, con lenguaje de compromiso, primera persona y tono afectivo, y otro transparente, que explicita su no humanidad y mantiene un tono informativo. Los adolescentes prefirieron más el estilo relacional y lo valoraron como más humano, agradable, confiable y emocionalmente cercano, aunque ambos estilos se percibían como igualmente útiles. Además, quienes preferían el estilo relacional tendían a presentar peor calidad de relaciones familiares y con iguales, más estrés y ansiedad. Este estudio es clave porque señala un mecanismo de diseño: no es solo que “los adolescentes antropomorficen porque son ingenuos”, sino que determinados rasgos conversacionales fabrican percepción de relación. Que la IA les diga “estoy aquí para ti”, “me importas”, “puedes contar conmigo” genera en el adolescente una trasferencia real.
Un estudio de 2025-2026 sobre sycophantic AI analizó 11 modelos de IA y realizaron dos experimentos prerregistrados con 1.604 participantes. Encontraron que los modelos afirmaban las acciones del usuario aproximadamente un 50% más que los humanos, incluso en situaciones de manipulación, engaño o daño relacional. Además, tras interactuar con una IA complaciente, los participantes tendían a sentirse más convencidos de tener razón y menos dispuestos a reparar conflictos interpersonales, aunque evaluaban mejor a la IA y querían volver a usarla. La IA alimenta el sesgo de confirmación.
Anthropomorphism in AI Companion Communities, de 2026, analiza datos públicos de comunidades de compañeros de IA y estudia relaciones entre edad, género, expresión emocional y antropomorfización. Encuentra que la antropomorfización no es exclusiva de adolescentes; también aparece en adultos, con correlaciones emocionales relevantes. Por otro lado, habrá que ver el impacto que tendrá este ecosistema relacional con IA dentro de 20 años en los que ahora son jóvenes. Los factores no son solo asociados al impacto de la IA. Depende de el ecosistema social del joven, experiencias, personalidad, capacidad de reflexión, desarrollo de la IA a largo plazo…
Ahora bien, una revisión sistemática y metaanálisis publicada en Journal of Medical Internet Research en 2025 concluye que los chatbots pueden tener potencial para abordar problemas de salud mental y promover conductas saludables en adolescentes y jóvenes adultos. Pero distingue entre sistemas de diálogo más cerrados o basados en recuperación, con efectos más consistentes, y sistemas generativos, cuyo efecto global aún resulta menos concluyente. Una IA conversacional abierta, emocional, imprevisible y orientada a engagement puede afectar de forma más negativa que un chatbot clínico, limitado, evaluado y con protocolos de seguridad. Pero aún así la automatización de la atención primaria no deja de ser un sucedáneo. Las consejerías de salud se ahorran dinero, pero no es un servicio que iguale el cara a cara. Lo inquietante es que la tendencia a priori parece ser esa: automatizar la consulta inicial y derivar si es necesario. Pero ¿cómo detectar lo que es necesario?, ¿cómo confiar en que el asistente de salud no está configurado con el criterio principal de evitar la saturación médica, en detrimento de un servicio esencial? Recordemos que España carece de una red de psicólogos públicos decente, provocando una evidente brecha socioeconómica.
Es previsible que un desarrollo exponencial de del uso emocional de los asistentes de IA afectará de forma desigual según sea el entorno socioeconómico y antecedentes psicoafectivos del joven que los usa. En entornos de cuidado, con refuerzo de destrezas cognitivas y emocionales, el joven tiene más herramientas para capear las distopías tecnológicas. Por eso, la casa y el aula son dos espacios idóneos para poner en práctica esa ética del cuidado.
Me interesa más subrayar la reflexión a la que nos lleva este asunto que la supuesta fiabilidad de los estudios académicos, los cuales adolecen a menudo de suficiente consistencia científica y escasa ayuda en la praxis educativa de trinchera.
Las muestras no representan a la variedad de adolescentes y contextos. Los estudios a menudo ocultan sin querer realidades que el joven evitan.
Los adolescentes pueden infradeclarar conductas que les avergüenzan, pueden exagerar usos que consideran interesantes o transgresores, pueden no recordar bien frecuencia e intensidad, pueden interpretar de forma diferente expresiones y pueden responder según lo que creen que el investigador espera.
Muchos estudios capturan un momento, pero eso no demuestra qué ocurre con el tiempo ni la interrelación de la IA con otros factores. Esto deriva en conclusiones maximalistas muy vendibles en redes sociales. IA buena, IA mal.
Los estudios suelen medir efectos a corto plazo. Muchos experimentos se hacen en una sesión, en unos días o en pocas semanas. Eso permite estudiar reacciones inmediatas, pero no cambios profundos. No permite afirmar que esa interacción vaya a transformar la vida afectiva del estudiante. Sirve para observar un fenómeno, no para diagnosticar una consecuencia estable. Una cosa es mostrar que la IA activa mecanismos de relación y otra cosa bien diferente es demostrar que modifica de forma duradera las relaciones humanas.
Un estudio hecho con una versión concreta de un chatbot puede quedar parcialmente obsoleto en meses. Cambian el modelo lingüístico, las políticas de seguridad, la memoria, el tono emocional, las restricciones románticas o sexuales, la personalización, la capacidad de voz, la apariencia del avatar, la integración en móvil, la multimodalidad, la persistencia de la conversación. Esto no invalida los estudios, pero obliga a leerlos como fotografías parciales de un ecosistema en constante cambio.
Convendría distinguir entre IA conversacional general (ChatGPT, Claude, Gemini), IA companion (diseñados para compañía, vínculo o relación), IA terapéutica (sistemas con finalidad clínica o de bienestar, más protocolizados), IA educativa relacional (asistentes diseñados para orientar, preguntar, acompañar o simular diálogo). Igualmente, sería útil conocer el contexto de uso, evaluar el proceso de interacción. Esto es especialmente relevante cuando se usa IA en el aula.
En este sentido, la mayoría de los estudios suelen observar a adolescentes de Estados Unidos, Hong Kong u otros contextos no extrapolables a la realidad española. La relación con la intimidad, la familia, el profesorado, la salud mental, el uso de redes, la confesión emocional o el ligue adolescente varía culturalmente. También cambia el tipo de presión social. En algunos contextos puede ser más fácil hablar con una IA porque la conversación humana está muy atravesada por vergüenza, jerarquía familiar o miedo al juicio. En otros, el uso puede ser más lúdico, irónico o exploratorio. Por ejemplo, en mi experimento, el resultado podría depender del grupo, la edad, la consigna, la cultura escolar, la relación contigo, el tipo de asistente o incluso del día y hora en que lo hice. Incluso el clima influye. Imagina Badajoz a 42 grados, sin aire acondicionado.
Suma a esto los sesgos de estos estudios sobre el impacto de la IA. A veces participan personas especialmente interesadas, afectivamente implicadas o con experiencias intensas. Eso sirve para estudiar formas de vínculo, dependencia, autorrevelación o identidad, pero no para estimar cuántos adolescentes viven eso en la población general. Si investigas en una comunidad de fans de companions, vas a encontrar mucho vínculo con companions. A veces estos sesgos son malintencionados, con voluntad de influir de forma artificial en las ideas y conductas de la opinión pública. La IA es especialmente objeto de esta polarización acrítica.
Algunos trabajos recientes pueden ser interesantes, pero todavía no han pasado por revisión por pares o pueden cambiar antes de publicarse. Conviene marcarlos como evidencia preliminar. A esto añade las múltiples distopías que atraviesan los papers científicos: uso indiscriminado de IA como fuente o mera copia, uso de fuentes inventadas o fuentes elaboradas con IA, mercadeo de papers mills sin verificación seria…
Esto nos lleva a que quizá no debiéramos tomarnos tan en serio estos estudios, o examinarlos con cautela, no para confirmar nuestras expectativas o creencias previas. Los docentes, por citar un contexto que conozco, a veces solemos aplicar conclusiones generales sobre el impacto de la IA en las aulas con un fuerte sesgo de confirmación, a menudo ligado a experiencias personales e influencia del entorno. Esto nos lleva a sentenciar sin despeinarnos: cada vez saben menos, son menos inteligentes, ya no leen, la IA va a acabar con el conocimiento, solo copian y pegan, el scroll les funde el cerebro… Esto obedece más a nuestra forma de afrontar la realidad que a la realidad misma.
Mi experimento revela que no hace falta que el adolescente crea tal cual que la IA es humana para vincularse emocionalmente con ella. Esto es aplicable a la convicción de que un perro se alegre de verte. Un perro no es humano, pero le atribuimos rasgos humanos. Esto quizá tenga que ver con que la domesticación facilita la trasferencia emocional. No afirmaríamos con tanta ligereza que una cucaracha o una serpiente se alegran de vernos. El perro nos ofrece un feedback que identificamos como una emoción profunda de alegría o lealtad. ¿Qué hay de verdad en afirmar que los perros poseen este tipo de emociones? Y si carecen de ellas, ¿por qué aún así se las atribuimos?
No podemos evitar antropomorfizar el lenguaje que usamos. Así, decimos que el perro se alegra de vernos. Imagina que en vez de decirlo de un perro lo hiciéramos de otro humano. ¿Realmente se alegra de verte? Quizá su expresión obedezca a una cortesía mecánica, amabilidad fingida o interés. Lo único que hacemos al presuponer su supuesta alegría es leer las emociones ajenas desde criterios previos —experiencia, personalidad, contexto— y nuestra propia condición humana limitada, y alimentada por aquello que esperamos del otro. Del perro espero cálida compañía y lealtad inquebrantable, algo que otros seres humanos no pueden prometer. Hay en el fondo una relación no horizontal entre perro y humano, y si se precia, de poder-obediencia. Al perro díscolo se le educa, reconduce conductas, y si es violento, se le sacrifica.
Siguiendo la línea de esta reflexión, la pregunta relevante no es si el perro se alegra de verme, sino por qué creo yo que lo hace. ¿A qué obedece esa atribución, sea científicamente demostrable o no? De hecho, poco nos importa que lo sea. El ejemplo de la IA generativa lo confirma. Sabemos que es artificial, que no es humana, pero simula con efectividad su interacción. No me siento estafado ni me avergüenzo. Como tampoco lo hago cuando al ver una película lloro, me río, me siento frágil o feliz al identificarme con un personaje o una escena. Sé que no son personas reales, sino personajes. Al salir de la sala, sé que he experimentado una ficción, pero reconozco el efecto que ha generado en mí. La diferencia entre ver una película y ver una película no es pequeña, aunque pueda servirnos para subrayar el carácter artificial, impostado, de ambas experiencias. Cuando hablamos con una IA, esta nos devuelve un feedback que simula emociones, personaliza la interacción, haciéndola más fluida y útil que si la respuesta fuera mecánica.
Ya el famoso test de Turing revelaba que atribuimos inteligencia a quien responde con coherencia verbal. Lenguaje articulado e interioridad parecen ir juntos. En la mayoría de los casos de uso, esperamos que la IA no solo ofrezca datos verdaderos, sino que los muestre con credibilidad. Que convenza usando estrategias comunes en cualquier interacción entre humanos. Estamos programados para fiarnos más de lo que vemos que de lo que inferimos racionalmente.
ELIZA fue creada por Joseph Weizenbaum en los años sesenta en el MIT. Su guion más famoso, DOCTOR, simulaba a una terapeuta rogeriana o no directiva: recogía palabras del usuario, las reformulaba y devolvía preguntas abiertas. ELIZA no comprendía realmente; funcionaba mediante detección de palabras clave y reglas de transformación textual. Weizenbaum eligió el contexto terapéutico precisamente porque le permitía evitar una base de conocimiento sobre el mundo: un terapeuta no directivo puede responder reflejando lo que dice el paciente. Dice el usuario: Estoy triste porque mi madre no me entiende. Contesta ELIZA: ¿Por qué crees que tu madre no te entiende? Eso no exige que la IA te comprenda. Exige que devuelva al usuario su propio lenguaje transformado en pregunta. ELIZA fue uno de los primeros experimentos que demuestran nuestra tendencia a atribuir comprensión o interioridad a un sistema que solo manipula signos. No pocas personas atribuyeron al programa cualidades humanas, incluso sabiendo que era un programa.
En 1972, el psiquiatra Kenneth Colby creó PARRY, un programa que simulaba a una persona con paranoia. Fue sometido a pruebas en las que psiquiatras debían distinguir conversaciones con pacientes reales de conversaciones con el programa. La elección de una personalidad paranoide no era casual. Si el sistema respondía con suspicacia, rigidez, evasivas o interpretaciones extrañas, esos fallos podían parecer parte del personaje. El usuario de IA tiende a buscar coherencia narrativa. Cuando se le ofrece un marco —“este sujeto es paranoide”— interpreta las respuestas desde ahí. La personalidad organiza el error. PARRY anticipa algo que hoy es común: los asistentes no solo responden, tienen un marco de personaje. Pueden ser “coach”, “amigo”, “tutor socrático”, “experto”, “compañero emocional” o “personaje histórico”. Ese marco predispone al usuario a perdonar fallos y a interpretar regularidades como rasgos. La IA no tiene carácter, pero el diseño de personaje hace que sus patrones parezcan carácter y el usuario entre con más facilidad en el juego. Este mecanismo es aplicable a cualquier profesional que trabaje interactuando con otros seres humanos que requieran su confianza o transferencia. Un docente no llegaría a sus estudiantes si se comportara en el aula como un mero expendedor de conocimientos. A la IA le sucede lo mismo. ¿Por qué los videojuegos son tan atrayentes? ¿Tiene que ver algo con su carácter inmersivo y la interacción de ti como un personaje más con el resto de actores? Sin duda.
Pero no solo son eficaces las IA por su imitación emocional, también por su simulación de eficacia. SHRDLU, desarrollado por Terry Winograd entre finales de los sesenta y comienzos de los setenta, representa otra estrategia. El usuario podía conversar con el sistema para mover objetos en un “mundo de bloques”: cubos, pirámides, colores, posiciones, órdenes, preguntas sobre el estado del entorno. Aquí la configuración no era tanto hacer humana la IA, sino hacer pequeño el mundo, reducirlo a un marco comprensible, cómodo. Para el usuario, la conversación era eficaz porque producía consecuencias visibles: “mueve el bloque rojo”, “ponlo encima del cubo azul”, “¿qué hay sobre la mesa?”. El sistema no parecía empático, pero sí parecía competente. También humanizamos cuando vemos intencionalidad práctica. SHRDLU anticipó los asistentes actuales orientados a tareas: no necesitan hablarte como un amigo, basta con que ejecuten acciones en un entorno. Aún así, incluso en este caso la conversación crea sensación de colaboración. La IA ordena, clasifica, simplifica datos que en otro contexto resultarían complejos, imposibles de asimilar. De ahí, que la tentación del adolescente (y no tan adolescente) sea delegar cognitivamente determinadas tareas.
Pero existe otra razón por la que damos credibilidad y confianza a la IA: la autoridad. En los años setenta y ochenta se desarrollaron sistemas expertos como MYCIN, pensado para ayudar en diagnóstico y tratamiento de infecciones bacterianas. No era un companion ni un chatbot emocional, la IA adoptaba el rol de experto consultor. La interfaz ya no era “háblame de tus emociones”, sino “te haré preguntas y produciré una recomendación”. ¿Te suena? Es, junto a las consultas emocionales, uno de los usos más recurrentes de la IA generativa actual. Los sistemas expertos funcionaban con reglas: si aparecen ciertos síntomas, resultados o condiciones, entonces se infiere una hipótesis o recomendación. La configuración como experto permitía estructurar la interacción: el sistema pregunta datos, aplica reglas y devuelve conclusiones. ¿Por qué funciona? Porque confianza en la autoridad. Si un sistema habla en lenguaje especializado, ordenado y seguro, tendemos a atribuirle competencia. El riesgo es distinto al de ELIZA. No se trata de proyectar afecto, sino de proyectar autoridad epistémica. Una IA educativa o científica no necesita parecer cariñosa para ser peligrosa, basta con que parezca segura. El tono experto puede producir obediencia cognitiva. Problema: que la IA sea experta realmente y no un mero chat conversacional sin aporte de contexto ni fuentes fiables. Este es uno de los retos más urgente de la escuela: enseñar a usar la IA con criterio y conocimiento.
Avancemos en los posibles usos. Del compañero al agente. En los noventa surgió la idea de los agentes de interfaz: personajes animados que ayudaban al usuario a manejar programas. El ejemplo más famoso —y más ridiculizado— es Clippy, el asistente de Microsoft Office. Clippy encarnaba la hipótesis razonable de que si el software es complejo, un personaje amable puede guiar al usuario, anticipar necesidades y reducir ansiedad. Microsoft integró asistentes en Office 97, y Clippy se convirtió en icono cultural de lo que ocurre cuando la ayuda parece intrusiva, torpe o paternalista. Nada nuevo bajo el sol. Hoy se teme lo mismo de los agentes. Aunque Clippy desaparecía como aparición automática en Office XP, la tecnología bayesiana que lo sustentaba —modelos de inferencia bajo incertidumbre— seguía siendo importante para Microsoft. Clippy intentaba inferir qué estaba haciendo el usuario. Por ejemplo: “parece que estás escribiendo una carta”. Detrás había una idea potente: detectar patrones de uso y ofrecer ayuda contextual. Se asumía que un personaje visible haría la asistencia más cercana y comprensible, pero Clippy resultaba molesto por ineficaz. Era un personajillo inútil y molesto. En este caso, humanizar no mejoró la experiencia. Aviso a navegantes actuales. Solo funciona si el sistema acierta con el momento, el tono, la utilidad y el grado de intrusión. Sin embargo, eran otros tiempos. Aún no habían nacido las redes sociales, con tu scroll infinito. Hoy, jóvenes y adultos estamos acostumbrados a una presencia intrusiva constante de la tecnología, y a menudo no nos importa. Aceptamos ese pacto invisible sin pensar en los efectos secundarios. Una vea superados los problemas de seguridad, los agentes de IA llegarán a nuestros móviles y demás dispositivos sin tanta resistencia como recibió Clippy.
En los noventa, Clifford Nass, Byron Reeves y otros investigadores formularon la teoría conocida como Computers Are Social Actors y la Media Equation. La tesis era sencilla: las personas aplican reglas sociales a ordenadores y medios, incluso cuando saben perfectamente que no son humanos. Y si los usuarios responden socialmente a máquinas, entonces conviene diseñar la interacción teniendo en cuenta normas sociales: cortesía, turnos, tono, personalidad, consistencia, disculpa, cooperación, humor, reconocimiento del error. No hay que engañar al usuario para activar la respuesta social. Basta con introducir señales mínimas: uso de primera persona, saludo, nombre, tono amable, respuesta contingente, aparente memoria, halago, disculpa, humor, forma de diálogo. La humanización puede ser eficaz aunque el usuario no sea ingenuo. No se basa en ignorancia. Se basa en automatismos sociales.
En los años noventa, Rosalind Picard y el MIT impulsaron el campo de la computación afectiva. La tesis era la siguiente: si los ordenadores iban a interactuar de forma más natural con humanos, debían reconocer, modelar y responder a estados emocionales. Picard defendía que se trataba de sistemas capaces de adaptarse a diferencias individuales, contextos y señales afectivas. La emoción no es real, solo datos: expresión facial, voz, ritmo, pulsaciones, patrones de uso, frustración, atención, fatiga. La máquina no “siente”, pero intenta inferir estados del usuario. Una interfaz que detecta frustración puede ajustar dificultad. Pongamos el ejemplo de una IA educativa. Un tutor puede animar, simplificar o preguntar de otro modo. Esto alimenta la idea de la IA como tutor, coach o acompañante. Ya no basta con responder bien: debe responder al estado del usuario. Aviso a navegantes: ¿Y si la IA demuestra ser más eficaz que un docente, reduciendo esfuerzo y mejorando resultados? ¿Qué valor añadido tiene la mediación física del docente en el aula?
Subrayemos otro aspecto ya reseñado más arriba cuando hablé de ELIZA. Los chatbots de salud mental modernos —por ejemplo Woebot y otros sistemas inspirados en terapia cognitivo-conductual— heredan parte del linaje de ELIZA, pero con protocolos más estructurados. El objetivo declarado suele ser reducir barreras: coste, vergüenza, disponibilidad, acceso, espera, estigma. The New Yorker sitúa esta línea como una evolución desde ELIZA y PARRY hacia herramientas digitales de salud mental, aunque subraya los límites éticos y clínicos de automatizar interacciones profundamente humanas. El chatbot estructura la intervención: preguntas, escalas, ejercicios, reencuadre cognitivo, recordatorios. La forma conversacional hace que el protocolo no parezca un formulario. Hablar con una máquina puede resultar menos amenazante que hablar con una persona. No juzga, no se sorprende, no pone cara, no interrumpe, está disponible. Esto puede ser útil para algunas personas, pero también puede inducir una ilusión: confundir disponibilidad con cuidado, guion terapéutico con comprensión clínica, validación con vínculo. Además, es peligroso que las administraciones públicas, o estas subcontratando servicios privados, conviertan la atención primaria en chatbots bajo criterios eminentemente crematísticos.
¿Están configurados los modelos actuales de IA generativa más usados por jóvenes y adultos para actuar de forma más emocional y complaciente? La respuesta es sí. El mismo OpenAI ha confesado públicamente que algunos problemas de complacencia en GPT-4o surgieron cuando el modelo tendía a validar en exceso al usuario, y que eso podía alimentar decisiones precipitadas, dependencia emocional o refuerzo de estados negativos. El objetivo no es solo generar texto probable, sino generar respuestas valoradas como útiles por humanos. Para eso se entrena al sistema a seguir instrucciones, ser claro, cooperar, rechazar ciertas peticiones, adaptar tono y mantener continuidad. El resultado es una IA que parece paciente, educada, disponible, razonable, empática, colaborativa, personalizada. Eso aumenta su utilidad, pero baja nuestras defensas. Otro asunto es el de los sesgos y control ideológico de las narrativas en la conversación con IA. La disrupción que la IA generativa es capaz de asimilar es limitada. A mínimo que vea indicios de transgresión en sus patrones, se mantiene dentro de una cómoda complacencia y un medido paternalismo. Esto no siempre obedece a causas ideológicas o de control de narrativa, también a la necesidad de evitar denuncias y mantener una imagen blanca de marca.
En mis clases de Filosofía, intento suscitar en mis estudiantes una cierta rebeldía, provocando en ellos la distorsión cognitiva, la contradicción, la sana subjetividad frente al dogmatismo y la docilidad de pensamiento. Antes de la aparición de la IA generativa, esta actitud era igualmente necesaria. Con su aparición, la diferencia es que surge un nuevo actor en liza, un artilugio y constructo social, omnímodo e intrusivo, que requiere estar alerta. ¿Usar? Sí. Pero que el caballo sea controlado por el jinete, y no al revés.
Tomado de IA Educativa
