Plag lanza en España una aplicación que identifica los textos escritos con ChatGPT
La herramienta evitará que contenidos generados por una inteligencia artificial sean asumidos por humanos como propios. Puede ayudar, entre otras cosas, a combatir las noticias falsas, muy fáciles de crear con IA
El protagonismo de ChatGPT, el robot conversacional de OpenAI capaz de responder a preguntas, escribir textos y resumir contenidos de reuniones y artículos científicos, no para de crecer desde que se lanzó hace un año. Pero, ligado a ello, también crecen los desafíos y preocupaciones porque textos elaborados por una inteligencia artificial sean asumidos por humanos como propios. Ante este riesgo, la conocida plataforma lituana Plag, dedicada desde hace años a detectar y prevenir el plagio ha lanzado en España una nueva herramienta capaz de identificar textos generados por ChatGPT y otros chatbots.
“Se prevé que en los próximos cinco años, el contenido generado por IA representará más del 90% del total, y creemos que la gente debe tener derecho a saber si lo que tiene delante es un texto creado por un humano o por la inteligencia artificial. Es algo que podría resultar muy beneficioso para luchar contra las noticias falsas, pues es muy fácil crear este tipo de informaciones con IA generativa”, asegura a CincoDías Chorst Klaus, fundador de Plag.
El directivo pone otros ejemplos para demostrar el valor de detectar contenido generado por IA. Según explica, “ya existe un gran problema en la educación”, porque muchos estudiantes utilizan la inteligencia artificial generativa para hacer tareas y escribir ensayos. “Realizamos una encuesta en Lituania que mostró que la mitad de los alumnos de las escuelas utilizaban esa herramienta para ese fin, por eso es importante tener la posibilidad de controlar esos contenidos para garantizar un alto nivel de calidad educativa”. En su opinión, también es beneficioso para los medios de comunicación identificar si un contenido está generado por IA, “simplemente porque el valor de un texto generado por IA es mucho menor que el escrito por humanos”.
La compañía planea expandir pronto su nueva herramienta Plag AI a diez países europeos, adaptando su detector a los diferentes idiomas. De momento, está funcionando en modo de prueba en italiano, francés, inglés, lituano y alemán.
En el caso de España, la empresa presume de lograr una alta precisión a la hora de reconocer textos generados algorítmicamente gracias a la información morfológica del idioma que se utilizó para entrenar su modelo. Para el idioma español se utilizan 101 criterios lingüísticos diferentes, como la parte del discurso o su distribución en la oración; información estadística como la longitud media de la frase y la longitud media de la palabra, aspectos gramaticales, como la puntuación. “El análisis se realiza a nivel de oración, por lo que es posible rastrear el texto generado por IA incluso si solo una parte del documento está escrito por IA”, dice Klaus.
El ejecutivo avanza que planean lanzar la solución a finales de 2024 en América Latina, y que adaptarán el modelo a las diferencias del español en esta región. “Lo que haremos es entrenar el modelo con contenido local, porque algunas frases, palabras, forma de hablar y de escribir de la gente varían de un país a otro”.
Sus primeros clientes están siendo escuelas y universidades, pero aseguran que ya están recibiendo consultas de agencias de SEO (optimización en buscadores), empresas de creación de contenidos y algunos bufetes de abogados.
La plataforma multilingüe ofrece actualmente un plan gratuito para uso general. Esta versión es limitada: acepta textos de 2.000 caracteres y es posible comprobar 14.000 caracteres por día. Unos límites que no tiene la versión de pago, que recibe, además, actualizaciones del modelo, por lo que será más preciso a medida que funcione. El precio para usuarios individuales es de 10 euros al mes por uso ilimitado.
A la hora de evaluar los resultados obtenidos, Klaus advierte que la herramienta tiene una limitación, ya que lo que ofrece es una evaluación probabilística. Pero asegura que si una frase está marcada como creada por IA, existe un 99,8% de posibilidades de que así sea.
La nueva solución llega al mercado al mismo tiempo que la UE se convierte en la primera región en promulgar una ley para regular el uso y desarrollo de la inteligencia artificial. El acuerdo alcanzado en Europa hace poco más de una semana exige que los sistemas y modelos de IA de uso general, como ChatGPT, cumplan con los requisitos de transparencia antes de su lanzamiento al mercado, reconociendo la ley de derechos de autor, resúmenes de datos utilizados en el entrenamiento de modelos de IA, y documentos técnicos.
Klaus, que trabaja en el campo de la integridad académica desde 2011 y desarrolla productos basados en tecnologías lingüísticas, recuerda que el software de Plag también detecta plagio en trabajos escritos, y advierte que el uso de texto generado por ChatGPT podría provocar plagio accidental. Según detalla el emprendedor, este chatbot y otras herramientas similares pueden utilizar extractos de los datos con los que fueron entrenados y, a veces, “estos extractos son lo suficientemente grandes como para ser considerados plagio, por lo que cualquiera que utilice textos generados por ChatGPT debe tener en cuenta el plagio accidental”. “Nuestra herramienta”, defiende, “puede ayudar a evitar este tipo de situaciones”.
Sigue toda la información de Cinco Días en Facebook, X y Linkedin, o en nuestra newsletter Agenda de Cinco Días