Este es el motivo por el que ChatGPT no pone marca de agua en los textos que crea
OpenAI debe tomar una decisión respecto a si libera esta herramienta
De acuerdo con The Wall Street Journal, OpenAI ya cuenta con un sistema para establecer marcas de agua en el texto generado por ChatGPT. No obstante, la empresa está considerando si debería lanzarlo o no, debido a todo lo que esto conlleva… especialmente el riesgo de alejar a los usuarios que no quieren ser descubiertos utilizando texto generado por IA.
En una publicación sobre su investigación en la detección de texto generado por IA, OpenAI declara: “Nuestros equipos han desarrollado un método de marca de agua para texto que seguimos considerando mientras investigamos alternativas”. De todas formas, hay que indicar que las marcas de agua en los textos no están exentas de problemas y complejidades, y pueden afectar negativamente al contenido generado. Sin embargo, la empresa afirma que su método, desarrollado exclusivamente para contenido generado por ChatGPT, es muy preciso y tiene tasas de falsos positivos muy bajas.
OpenAI dice que su desarrollo es casi infalible
Según la fuente de la información, la “tecnología creada por OpenIA puede detectar texto escrito por inteligencia artificial con un 99% de certeza”, por lo que el método de marca de agua no afectará la calidad de salida de ChatGPT. El método de marca de agua, por cierto, funciona ajustando ligeramente cómo la IA selecciona palabras y creando patrones predecibles de cómo aparecen las palabras y frases.
Aunque el método resulta eficaz contra la paráfrasis y la manipulación localizada, OpenAI señala que “es menos robusto contra la manipulación globalizada; como usar sistemas de traducción, reescribir con otro modelo generativo o pedirle al modelo que inserte un carácter especial entre cada palabra y luego eliminar ese carácter, lo que facilita la elusión por parte de actores malintencionados”. Por lo tanto, todavía está lejos de ser perfecto.
Los motivos para no lanzar la herramienta
Para abordar estos problemas, OpenAI, creadora de ChatGPT, ha comenzado a trabajar en otro método de marca de agua que utiliza metadatos incrustados y no produce falsos positivos, mientras que la marca de agua de texto puede generar más falsos positivos cuando se aplica a grandes volúmenes de texto. Según su investigación, la compañía también cree que el método de marca de agua de texto puede afectar de manera desproporcionada a algunos grupos más que a otros y podría llevar a la estigmatización de los chatbots de IA entre los hablantes no nativos.
Pero más allá de eso, la empresa teme que muchos usuarios utilizarían menos ChatGPT si se implementaran los métodos de marca de agua. Por ahora, el debate interno sobre si liberar o no el método de marca de agua de texto continúa por lo que parece. En cuanto al método alternativo con metadatos, OpenAI aún se encuentra en las primeras etapas de exploración. Por lo tanto, es demasiado pronto para saber si el enfoque será efectivo o no.
Ventajas y desventajas de las marcas de agua
La marca de agua de texto ofrece una serie de ventajas evidentes. En primer lugar, proporciona a los educadores y otros usuarios la capacidad de verificar si un texto ha sido generado por IA, lo que puede ser crucial en entornos académicos y profesionales donde la autenticidad es fundamental. Además, al disuadir a los usuarios de utilizar herramientas de IA para crear contenido de manera no ética, se podría fomentar un uso más responsable de la tecnología.
No obstante, existen desventajas significativas asociadas con esta técnica. Un problema importante es la posibilidad de que el watermarking pueda afectar la calidad del texto generado. Si la selección de palabras del modelo se ve limitada por la necesidad de insertar patrones específicos, esto podría resultar en un texto que no sea tan natural o fluido como el modelo es capaz de producir. Además, las tácticas para evadir la detección, como la traducción de texto o la reescritura con otros modelos generativos, pueden dificultar la eficacia de la marca de agua.
El dilema ético y práctico que enfrenta OpenAI no es menor. La empresa debe considerar no solo la eficacia técnica de sus métodos de detección, sino también las implicaciones que tendría el uso. Por ejemplo, la implementación de la marca de agua podría tener un impacto desproporcionado en ciertos grupos, especialmente aquellos que no son hablantes nativos de inglés. Estos individuos podrían ser injustamente señalados o discriminados debido a la percepción de que dependen de herramientas de IA para comunicarse de manera efectiva.
Sigue toda la información de Cinco Días en Facebook, X y Linkedin, o en nuestra newsletter Agenda de Cinco Días
