¿Qué porcentaje de este artículo ha sido generado por la IA?
No debemos obsesionarnos con saber si un texto se ha redactado con alguna herramienta tecnológica
Recientemente se han producido algunos debates acerca de que algunos artículos (publicados en prensa o redes sociales) han sido creados con la ayuda de la IA, cuya participación en la redacción de los artículos se mide en porcentajes evaluados por detectores de IA en el texto final presentado. Ni siquiera la encíclica Magnifica Humanitas de León XIV ha escapado a este debate, ya que algunos analistas afirman que párrafos importantes de la encíclica habrían sido generados por la IA (ver, por ejemplo, los artículos de Daniel Filan y Lynch Zhang del 26 de mayo de 2026 en el foro LessWrong).
La pregunta es: ¿qué importancia tiene que un determinado porcentaje de un texto haya sido generado con ayuda de la IA, suponiendo que dicho porcentaje pueda calcularse correctamente? Aunque los detectores de texto generado por la IA estén mejorando, han cometido errores tremendos. La prensa americana recuerda de manera jocosa cómo los detectores de IA afirmaron que la mayoría del texto de la Constitución de los EEUU (firmada por 39 delegados de los 12 estados asistentes a la Constitución de los EEUU en 1787) había sido generada por la IA. Pero supongamos que podemos calcular un porcentaje, aunque sea aproximado, del texto en un artículo que ha sido escrito o modificado por la IA. ¿Qué indicaría este porcentaje?
El 2 de agosto de 2026 entran en vigor la mayor parte de los artículos de la Ley de IA de la UE. Entre otros, entra en vigor el artículo 50, que define las Obligaciones de transparencia para proveedores e implantadores de determinados sistemas de IA. El artículo establece que “los proveedores de sistemas de IA, incluidos los sistemas de IA de propósito general, que generen contenidos sintéticos de audio, imagen, vídeo o texto, garantizarán que los resultados del sistema de IA estén marcados en un formato legible por máquina y detectable como generado o manipulado artificialmente”. Es decir, si alguien genera audio, imágenes, vídeo o texto con IA, deberá marcar estos contenidos para que la persona que acceda a los mismos sepa que han sido generados por la IA. Sin embargo, más adelante, en el apartado 4, refiriéndose a los usuarios de un sistema de IA que genere o manipule texto que se publique con el fin de informar sobre asuntos de interés público, se aclara: “Esta obligación no se aplicará cuando […] el contenido generado por IA haya sido sometido a un proceso de revisión humana o control editorial y cuando una persona física o jurídica tenga la responsabilidad editorial de la publicación del contenido". Es de sentido común. Cuando alguien revisa y firma un artículo, independientemente de qué herramientas haya usado, se hace responsable de su contenido. No tiene ningún sentido buscar porcentajes (por otra parte, de dudoso valor) escritos por la IA. La responsabilidad de un artículo sobre temas de interés público es de quien lo firma, independientemente de cómo lo ha escrito.
Ahora bien. Las últimas herramientas de IA, capaces de generar o completar textos cada vez más completos, mejor escritos, sobre cualquier ámbito de conocimiento, están generando problemas importantes en las instituciones educativas. Hoy, resolver un problema de matemáticas, realizar un ejercicio de programación o escribir un comentario de texto puede conseguirse en unos segundos. Aunque un estudiante firme el documento que entrega, no quiere decir que el estudiante (o el grupo de trabajo) haya entendido nada, sepa aplicar su contenido, o sepa explicarlo. Por lo tanto, las instituciones educativas de todo el mundo están estudiando cómo adaptarse a esta nueva situación sin que, hasta ahora, se perfile una solución satisfactoria para todos.
En algunos casos se está volviendo a los exámenes orales, en los que los estudiantes deben explicar cómo llegaron a las conclusiones en el documento entregado y responder a preguntas sobre su contenido. En otros casos, cuando hay proyectos de algún tipo, los estudiantes deben ser capaces de explicar los avances en cada fase, los problemas encontrados y cómo han corregido los errores encontrados. Finalmente, ante un contenido generado por la IA, se puede pedir al estudiante que audite, critique y corrija dicho contenido.
Es precisamente este cambio de paradigma —pasar del quién lo ha redactado al quién lo asume y defiende— lo que nos lleva a un desafío mucho mayor, especialmente en el ámbito académico y del desarrollo profesional. Si ya no podemos depender exclusivamente del texto final para medir el conocimiento o la competencia de una persona, estamos obligados a innovar profundamente en la forma en que evaluamos.
No podemos seguir aplicando las métricas del pasado a las herramientas del futuro. Necesitamos desarrollar sistemas que vayan más allá de la entrega de un documento. El enfoque debe trasladarse hacia la evaluación de competencias reales y dinámicas: la capacidad de hacer, la habilidad para resolver problemas, la destreza para argumentar con sentido crítico frente a lo que se expone y, sobre todo, la capacidad de seguir aprendiendo.
Paradójicamente, la solución a este reto tecnológico pasa por la propia tecnología. El futuro no está en prohibir la IA ni en obsesionarse con detectores de texto que, como hemos visto, fallan estrepitosamente. El camino es utilizar la propia inteligencia artificial en el proceso de evaluación.
Imaginemos sistemas evaluadores donde la IA no sea solo el escritor fantasma del alumno o del profesional, sino el examinador interactivo. Una IA que, tras leer ese artículo firmado por un humano, sea capaz de debatir con él, cuestionar sus premisas, pedirle que argumente sus conclusiones o proponerle variaciones del problema para ver cómo lo resuelve en tiempo real.
De esta forma, el porcentaje de texto generado por la máquina pasará a ser una simple anécdota. Lo que realmente importará, y lo que la nueva evaluación nos permitirá medir, es la capacidad humana para dirigir la máquina, comprender el resultado y defender con criterio el valor de lo que hemos creado.
En cualquier caso, el énfasis ya no estará en los conocimientos ni en las competencias para aplicarlos, sino en la capacidad de juicio crítico.
Este y otros temas relacionados con la tecnología para el bien común serán debatidos en el acto que celebraremos en Barcelona el próximo 23 de octubre. No se trata únicamente de alertar sobre problemas planteados por la tecnología en distintos ámbitos como la educación y la salud, sino de presentar propuestas y de discutir su idoneidad en un entorno participativo y constructivo.