Más allá de los Asistentes virtuales: Cómo diseñar una arquitectura segura con #AgentesGuardianes

 Por Paola Dellepiane

Un agente de IA es un asistente digital personalizado que utiliza inteligencia artificial para realizar tareas, responder preguntas, generar materiales o acompañar procesos de forma autónoma y adaptada a un propósito concreto. 

Así, un agente es un sistema que recibe instrucciones, interpreta información -por ejemplo, lo que escribe el usuario, documentos o datos-  y actúa en consecuencia para cumplir una función específica.

No es simplemente un chatbot:

• Tiene un rol definido 
• Mantiene un contexto de trabajo 
• Puede producir acciones o productos concretos

Hace unos días me encontré con un documento Market Guide for Guardian Agents que alerta sobre las políticas de uso de IA y gobernanza en las empresas. Así, el problema que hoy se plantea es que la adopción de agentes está superando la madurez de controles, cuando la mayoría de las empresas usan IA sin reglas.

Guardian agents supervise AI agents, helping ensure agent actions align with goals and boundaries. They monitor and block risky actions and are evolving from a collection of services to autonomous agents that enforce policies across platforms. AI leaders can use this Guide to understand the market and vendors. 

Según el informe, las empresas actualmente destinan menos del 1% de su presupuesto en IA agéntica a los mecanismos que supervisan y protegen esos mismos agentes.

Gartner también anticipa que el 40% de los proyectos de IA agéntica fracasará antes de 2027 precisamente por la falta de controles de gobernanza. 

La adopción de agentes de IA se está acelerando a un ritmo sin precedentes. Según datos de #Gartner, el 17% de los CIOs ya ha desplegado agentes de IA y otro 42% planea hacerlo a muy corto plazo. Sin embargo, esta autonomía introduce riesgos operativos y de cumplimiento que avanzan mucho más rápido que la capacidad de revisión humana.

Los números de adopción que Gartner documenta para 2026 son significativos, y no tienen equivalente en ciclos tecnológicos más recientes: 

• Menos del 5% de las aplicaciones empresariales tenían agentes de IA específicos para tareas en 2025
• 40% las tendrán antes de que termine 2026
• 17% de los CIOs encuestados ya los desplegó
• 42% planea hacerlo en los próximos 12 meses

Ese salto — de menos del 5% a 40% en menos de 18 meses — no tiene paralelo en la historia de adopción corporativa de tecnología reciente. 

Gartner predice también que hasta 2028, al menos el 80% de las transacciones no autorizadas de agentes de IA serán causadas por violaciones internas de las políticas de la empresa, como intercambio excesivo de información, uso inaceptable o comportamientos desalineados, no por ataques maliciosos externos.

A medida que los agentes interactúan de forma nativa con datos confidenciales, la frontera entre la gestión de identidad y el gobierno de datos se vuelve casi invisible. 

Para 2027, más del 70% de los proveedores de IA clasificará la sensibilidad de los datos como parte del proceso de concesión de accesos.

En este contexto, para escalar la IA de forma segura, surgió una nueva categoría: los Agentes Guardianes (Guardian Agents).

¿Qué son exactamente y por qué cambiarán las reglas del juego de la ciberseguridad antes de que termine la década? 

Un Agente Guardián es una entidad de software que combina gobierno de IA y controles en tiempo de ejecución, diseñado específicamente para supervisar a otros agentes de IA. Su función es garantizar que las acciones de los “agentes autónomos” no violen las políticas de la empresa ni se desvíen de sus objetivos preestablecidos.

A diferencia de las herramientas de seguridad tradicionales, los guardianes están evolucionando de ser simples servicios de monitoreo pasivo a convertirse en agentes semiautónomos o completamente autónomos capaces de bloquear o redirigir acciones riesgosas en tiempo real.

Muchos proveedores de plataformas, como Microsoft -con Agent 365- o Salesforce -con Agentforce- ya incluyen sus propias funciones guardianas embebidas. Esto es importante pero no es suficiente, ya que ningún proveedor de nube puede hacer cumplir políticas de forma unilateral cuando un agente delega tareas en la nube de un competidor o en un entorno local. 

Según el informe, el impacto de esta arquitectura será masivo: para 2029, los agentes guardianes independientes eliminarán la necesidad de casi la mitad de los sistemas tradicionales de riesgo y seguridad destinados a proteger las actividades de IA agéntica en más del 70% de las organizaciones.

¿El Camino Hacia la Autonomía Responsable?

La autonomía sin supervisión no es innovación; es un riesgo operativo inaceptable. Los agentes de IA simplemente no se pueden lanzar al entorno corporativo esperando que sigan instrucciones ambiguas a la perfección.

Las empresas que actúen hoy implementando pruebas piloto con agentes guardianes independientes y diseñando estructuras de metagobernación para "guardar a los propios guardianes" asegurarán una ventaja competitiva masiva, desbloqueando el verdadero potencial productivo de los sistemas autónomos de forma segura, auditable y responsable.

Fuentes: 

Market Guide for Guardian Agents https://airrived.ai/wp-content/uploads/2026/03/Market-Guide-for-Guardian-Agents.pdf?

PAPER REVIEW N°72: Del piloto al fracaso: cómo el 40% de los proyectos agénticos caerán antes de 2027

https://futuria.substack.com/p/paper-review-n72-del-piloto-al-fracaso

Tomado de Aplicaciones deucativas en entornos virtuales

Un análisis sobre los datos de la identificación

 Por Javier Tourón

Muchas veces dije que la fuga de cerebros no comienza en el aeropuerto, lo hace en las aulas donde muchos alumnos no están adecuadamente estimulados ni retados intelectualmente. En el blog hay muchas entradas referidas a la problemática de la identificación. Aquí tienes algunas que puedes leer o releer. Los datos van cambiando pero el problema subsiste. Es una cuestión estructural, a mi juicio.

Esta es una entrada que se conecta a otra página en un formato que he realizado con la ayuda de la IA (Anthropic, 2025. Claude (claude-sonnet-4-6) [Large language model]. https://claude.ai ). La imagen de esta entrada está generada con Gemini. El enlace que incluyo abajo os llevará a una página dinámica en la que todo esta explicado sencillamente y sin grandes peroratas. Hay también un simulador que permite hacer muchas cábalas y estimaciones sobre las diversas dimensiones del problema al gusto de cada uno y cómo las diversas prevalencias que señalemos repercuten en la situación de cada comunidad.

Me parece que no es necesario extenderse más. Espero que podáis sacarle mucha punta a este asunto que es el primero y principal cuando hablamos de atender las altas capacides. Solo incluyo lo que se dice en la sección seis del referido documento para incitaros al estudio completo del mismo:

Los datos no mienten. Lo que duele es lo que no cuentan.

Detrás de cada cifra de este informe hay una decisión —protocolar, presupuestaria, social— que ha definido quién encaja en la etiqueta de «altas capacidades» y quién se queda fuera. Las niñas, los niños de Aragón o Cataluña, los que están en Infantil, los que cursan FP. Todos ellos, sistemáticamente menos identificados.

«Diagnosticar tarde no es diagnosticar bien. Y no diagnosticar nunca, simplemente, es renunciar.»

Estos datos invitan a una conversación incómoda pero necesaria sobre cómo nuestro sistema educativo detecta —o ignora— el talento. Porque cada niño no identificado es una oportunidad perdida; y cada niña no detectada, una doble injusticia.

Para acceder al documento dinámico que he preparado, a partir de los datos de población e identificados ofrecidos por el Ministerio de Educación para el curso 24/25, puedes pulsar abajo.

El retrato incompleto de la inteligencia silenciada

Tomado de Javier Tourón

Aitoxicación: hiperestimulación digital y crisis de la atención en la era algorítmica

 Por Mercedes Leticia Sánchez Ambriz y Carlos Bravo Reyes

“Solo iba a jugar cinco minutos”.

¡Eso pensé mientras abría Block Blast! antes de empezar la tarea. Una partida rápida. Solo una. Pero después apareció otra combinación de colores, otro sonido satisfactorio, otra recompensa inmediata. Perdí la noción del tiempo.

Luego abrí Roblox.

Entré “un momento” para explorar un mapa nuevo y terminé saltando entre mundos, recompensas, sonidos, chats y estímulos visuales constantes. Todo cambiaba rápido. Todo se movía. Todo estaba diseñado para mantenerme ahí.

Más tarde intenté leer un texto para la escuela.

Dos páginas.

No pude continuar.

El cerebro me pedía otra cosa.

Quería movimiento.

Quería imágenes.

Quería sonido.

Quería velocidad.

Y entonces apareció una escena cada vez más común en muchos hogares y aulas: niños que observan un libro y preguntan inmediatamente si “hay video”. Estudiantes que encuentran difícil sostener la atención en un texto escrito porque su cerebro se ha habituado a dinámicas de hiperestimulación digital donde siempre ocurre algo nuevo cada pocos segundos.

Muchos niños ya no solo desean entretenimiento: demandan acción constante. Necesitan ver personajes moviéndose a toda velocidad, colores cambiando rápidamente, sonidos inmediatos, recompensas instantáneas y pantallas donde siempre ocurra algo nuevo. La quietud comienza a percibirse como aburrimiento. El silencio se vuelve incómodo. La pausa pierde valor frente al estímulo permanente.

Ya no basta leer.

Ahora muchos necesitan “ver”.

Necesitan movimiento constante, recompensas inmediatas, estímulos visuales rápidos y cambios permanentes de atención. Pero además aparece otro fenómeno silencioso: la necesidad continua de información digital.

Muchos niños, adolescentes e incluso adultos ya no toleran fácilmente los espacios de silencio, pausa o desconexión. Existe una necesidad permanente de revisar notificaciones, consumir videos, desplazarse infinitamente en redes sociales, consultar contenido nuevo o mantenerse continuamente estimulados digitalmente. El cerebro comienza a acostumbrarse a un flujo ininterrumpido de información y entretenimiento. Antes de salir de la casa, el primer objeto que llevamos con nosotros es el celular.

Incluso momentos cotidianos que antes implicaban espera o contemplación ahora son ocupados por pantallas:

·         mientras comen,

·         mientras viajan,

·         antes de dormir,

·         al despertar,

·         durante tareas escolares,

·         o incluso mientras conversan con otras personas.

La ausencia de estímulos digitales comienza a generar incomodidad.

El problema no es únicamente tecnológico; también es neurocognitivo, educativo y cultural.

Las plataformas digitales, los videojuegos, las redes sociales y muchos sistemas basados en inteligencia artificial han perfeccionado mecanismos de recompensa capaces de producir pequeñas descargas constantes de satisfacción inmediata. Cada sonido, notificación, animación, nivel superado o video corto activa procesos de gratificación rápida que el cerebro comienza a buscar continuamente.

En otras palabras, el cerebro empieza a habituarse a la dopamina digital.

Aquí emerge uno de los fenómenos más preocupantes de nuestra época: la aitoxicación.

La aitoxicación no se refiere solamente al uso intensivo de inteligencia artificial. Implica la saturación permanente de estímulos digitales, respuestas automatizadas y dinámicas algorítmicas que reducen progresivamente la capacidad de concentración profunda, reflexión sostenida y pensamiento crítico.

A diferencia de la infoxicación, centrada en el exceso de información, la aitoxicación implica algo más complejo: la automatización creciente del pensamiento y la dependencia cognitiva hacia sistemas diseñados para evitar el silencio, la pausa y el esfuerzo reflexivo.

Hoy millones de estudiantes alternan continuamente entre:

1.       videojuegos,

2.       videos cortos,

3.       inteligencia artificial,

4.       notificaciones,

5.       plataformas digitales,

6.       recompensas inmediatas,

7.       información constante

8.       y contenido hiper estimulante.

El problema aparece cuando el cerebro comienza a percibir la lectura profunda, la escritura o el análisis como procesos “demasiado lentos”.

Muchos docentes ya observan este fenómeno en el aula:

·         dificultad para sostener atención

·         ansiedad frente a textos extensos

·         necesidad permanente de estímulos visuales,

·         aburrimiento rápido,

·         baja tolerancia al esfuerzo cognitivo,

·         dependencia creciente de recursos audiovisuales,

·         y necesidad constante de revisar dispositivos o consumir nueva información digital.

Incluso algunos estudiantes comienzan a rechazar materiales escritos si no vienen acompañados de videos, animaciones o elementos interactivos. Otros experimentan frustración cuando una explicación exige concentración prolongada o lectura reflexiva.

Esto no significa que la tecnología sea negativa por sí misma. La inteligencia artificial y las plataformas digitales también ofrecen oportunidades valiosas para el aprendizaje, la personalización educativa y el acceso al conocimiento.

Sin embargo, el problema aparece cuando la tecnología deja de ser una herramienta y se convierte en un reemplazo del pensamiento propio, de la lectura crítica y de la capacidad de sostener la atención.

La integridad intelectual no solo implica evitar el plagio o citar correctamente. También supone conservar la capacidad humana de pensar, analizar, interpretar y reflexionar sin depender completamente de estímulos automáticos o respuestas inmediatas generadas por algoritmos.

La educación contemporánea enfrenta entonces un desafío profundo: enseñar a convivir con la tecnología sin renunciar a la concentración, la lectura profunda y el pensamiento crítico.

Porque tal vez el mayor riesgo de esta era no sea únicamente la desinformación.

Tal vez el verdadero problema sea que cada vez nos cuesta más detenernos a pensar.

 

Referencias

Caldevilla-Domínguez, D. (2024). Usos éticos de la IA en la universidad moderna: Más allá del plagio. EDU Review, 12(1), 57–65. https://doi.org/10.37467/revedu.v12.5184

Egan, L. (2024). Plagiarism: History, Culture, and Prevention. University of North Dakota.

Flor-Terán, G. A., & Sandoval-Reyes, P. A. (2024). La ética en el uso de la inteligencia artificial (IA) en la educación: desafíos y oportunidades. Polo del Conocimiento, 9(11), 255–282.

Gallent-Torres, C., Zapata-González, A., & Ortego-Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica. RELIEVE, 29(2). http://doi.org/10.30827/relieve.v29i2.29134

Ibarra Beltrán, Á. de J., Aguayo Álvarez, Z., & Velázquez García, R. E. (2023). Desmitificando el plagio digital: percepciones y realidades de la ética estudiantil desde el Centro Universitario de Tonalá. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 4(5), 1418–1431. https://doi.org/10.56712/latam.v4i5.1403

Vargas-Morúa, E. (2021). El plagio: consideraciones para su prevención. Espiga, 21(41), 68–85.

Vílchez Ruiz, M. I. (2024). Contenido educativo con inteligencia artificial: ¿Restringir o enseñar a personalizar éticamente en el ámbito educativo? Revista Científica Ciencia y Tecnología, 24(44).

Tomado de 366-días

¿Tus estudiantes copian con IA en los exámenes? Repensando la evaluación

 Por Ramón Besonías

La irrupción de la IA generativa ha venido a poner patas arriba los modelos de evaluación. Los estudiantes usan la IA de forma mecánica, copiando y pegando el contenido sin filtro ni iteración reflexiva. Hacen trampa con IA en los exámenes sin que nos demos cuenta. 

El docente a priori adopta una actitud a la defensiva, buscando huellas de la IA en las tareas y vigilando al estudiante en los exámenes. Pero más pronto que tarde se da cuenta de que no sirve para mucho. Entonces, ¿qué hacer? ¿Qué alternativa hay a ejercer de policía o inspector?

Repensar los medios de evaluación, rediseñar la experiencia de aprendizaje.  

Hoy cualquiera puede generar un texto aparentemente perfecto en segundos, pero comprender, relacionar, argumentar, adaptar ideas, explicar decisiones o transferir conocimientos a situaciones nuevas sigue siendo profundamente humano… y profundamente difícil de automatizar. Los estudiantes, ante el esfuerzo cognitivo que exigen estas destrezas, tiende a delegar en la IA, debilitando competencias esenciales.

Por eso, en lugar de entrar en una carrera infinita de vigilancia y control, quizá tenga más sentido desplazar el foco: menos “pillar” y más “hacer pensar”. 

Comparto tres láminas visuales que nacen precisamente de esa idea. ¿Qué aporta cada una? 

Puedes descargarlas aquí

• Plantea un cambio de mirada: pasar de un enfoque defensivo basado en la sospecha a un enfoque transformador centrado en el aprendizaje, el proceso y la confianza. 

• Reúne estrategias concretas para dificultar la copia en exámenes escritos sin convertir el aula en una cárcel digital: preguntas de transferencia, explicaciones orales breves, variantes mínimas, rastros de proceso, reformulaciones improvisadas o tareas menos delegables. 

• Propone formatos de examen más creativos y competenciales: exámenes narrativos, visuales, comparativos, abiertos, con materiales permitidos, análisis de errores, construcción progresiva o toma de decisiones justificadas. 

No son “trucos mágicos”. Tampoco eliminan completamente la posibilidad de copiar. Eso probablemente sea imposible. Pero sí ayudan a construir algo mucho más importante: situaciones donde copiar sirva cada vez menos… porque pensar sea la mejor estrategia disponible. 

Te añado un ejemplo práctico a aplicar en Lengua y Literatura en Bachillerato:

La IA no solo nos obliga a replantear herramientas, sino también qué entendemos por aprender, evaluar y enseñar. Porque un buen examen no es el que evita toda copia. Es el que consigue que el pensamiento tenga más valor que el atajo.

Tomado de IA Educativa

El arte de decodificar la realidad

 Mercedes Leticia Sánchez Ambriz.y Carlos Bravo Reyes

En el contexto digital actual, el acceso masivo e inmediato a la información ha transformado profundamente la manera en que los estudiantes se relacionan con el conocimiento. Si bien esta disponibilidad amplía las oportunidades de aprendizaje, también incrementa la exposición a contenidos poco confiables, sesgados o carentes de respaldo académico. Frente a esta realidad, la capacidad de analizar críticamente la información y decodificar los mensajes presentes en distintos tipos de textos se ha convertido en una competencia esencial para la formación académica y ciudadana.

La sobreabundancia informativa propia de los entornos digitales exige que los estudiantes desarrollen habilidades para identificar la validez de las fuentes, distinguir entre información verificable y contenidos manipulados, y construir criterios propios frente a los discursos que circulan en la red. En este escenario, la lectura crítica deja de ser únicamente una habilidad académica para convertirse en una herramienta indispensable en la sociedad contemporánea.

¿Qué significa decodificar en el siglo XXI?

En el siglo XXI, la decodificación textual supera la simple identificación de palabras o estructuras gramaticales, ya que implica un proceso integral de análisis e interpretación del discurso. Esta competencia puede comprenderse en tres niveles fundamentales: el nivel lingüístico, orientado al reconocimiento de la sintaxis y del vocabulario; el nivel semántico, enfocado en la comprensión de significados, conceptos y relaciones entre ideas; y el nivel pragmático, dirigido a identificar la intención comunicativa, los posibles sesgos y el contexto desde el cual se construye el mensaje.

La relevancia de esta habilidad se intensifica en los entornos digitales actuales, donde gran parte de la información circula a través de discursos que combinan datos, opiniones e intenciones persuasivas. En este escenario, la decodificación crítica permite analizar el contenido más allá de su superficie, reconocer posibles sesgos y evitar interpretaciones guiadas únicamente por reacciones emocionales inmediatas. De este modo, se convierte en una herramienta esencial para la comprensión crítica de la información y para la toma de decisiones informadas en la vida académica y social.

La alfabetización crítica

Constituye una competencia esencial para que los estudiantes desarrollen la capacidad de analizar la información de manera reflexiva y autónoma. En este sentido, Cassany (2006) sostiene que la literacidad crítica permite al lector interpretar los discursos más allá de su significado literal, reconociendo las intenciones, los intereses y los contextos que influyen en la producción de los mensajes. En los entornos digitales actuales, esta competencia adquiere especial relevancia, ya que la abundancia de información exige habilidades para discriminar entre contenidos confiables, interpretaciones sesgadas y mensajes con fines persuasivos.

Desde una perspectiva pedagógica, fortalecer la alfabetización crítica requiere estrategias didácticas orientadas al análisis activo de la información. Una de ellas es la verificación de fuentes, que consiste en identificar el origen de la información, contrastarla con otras fuentes independientes y analizar el contexto en que se produce. Otra estrategia es el reconocimiento de marcas lingüísticas de subjetividad, mediante la identificación de expresiones valorativas o afirmaciones que presentan opiniones como hechos verificables.

Asimismo, el análisis de textos generados por inteligencia artificial puede contribuir a que los estudiantes reconozcan patrones discursivos, detecten aparentes criterios de autoridad sin sustento y desarrollen una postura crítica frente a los contenidos digitales. Estas prácticas favorecen la formación de lectores analíticos capaces de interactuar con la información de manera ética, crítica y responsable.

Conclusiones

La decodificación crítica de textos constituye una competencia fundamental en la formación académica y ciudadana del siglo XXI, especialmente en contextos digitales caracterizados por la sobreabundancia informativa y la circulación de discursos persuasivos.

Desde esta perspectiva, la enseñanza debe orientarse al desarrollo de habilidades analíticas que permitan a los estudiantes cuestionar, contrastar y validar la información a la que acceden.

Además de la comprensión de la información digital, la cual requiere reconocer que la validez de los contenidos depende de procesos rigurosos de verificación, análisis de fuentes y evaluación de sesgos. Por ello, formar en decodificación crítica implica fortalecer en los estudiantes criterios de análisis que les permitan actuar con responsabilidad frente a la información que consumen y comparten.

La integración de herramientas tecnológicas en los procesos educativos solo será verdaderamente formativa si se orienta al fortalecimiento del pensamiento crítico. El uso de la inteligencia artificial y de otros recursos digitales debe contribuir a ampliar la capacidad de análisis del estudiante, sin sustituir su juicio autónomo ni su responsabilidad intelectual. En consecuencia, promover la decodificación crítica en la educación significa fortalecer la capacidad de comprender, evaluar y utilizar la información de manera ética, reflexiva y responsable.

Referencias

Álvarez, T. (2001). Textos expositivos-explicativos y argumentativos. Octaedro.

Cassany, D. (2006). Tras las líneas: Sobre la lectura crítica. Anagrama.

Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (2021). Alfabetización mediática e informativa: Currículum para profesores y educadores. https://unesdoc.unesco.org/ark:/48223/pf0000377068

Tomado de 366-dias