Google Gemini estaría accediendo a documentos sin permiso, ¿qué está pasando?
Estos estarían alojados en la nube de la propia compañía
El avance de la inteligencia artificial (IA) deja claro que esta ofrece unas posibilidades para mejorar nuestras vidas que son importantes a la vez que útiles. Sin embargo, este progreso no está exento de desafíos y algunas complicaciones. Uno de los más importantes es la privacidad de los datos y en el caso de Gemini de Google parece que existe un problema relacionado que podría ser importante.
Se ha conocido que un usuario de Google Docs, se encontró con una sorpresa inesperada: Gemini, la IA de Google, había resumido automáticamente su declaración de impuestos sin su consentimiento. Este incidente no solo es una clara intrusión en la privacidad, sino que también plantea dudas sobre las prácticas internas en cuanto al manejo de datos que tiene la herramienta de la firma de Mountain View.
Un laberinto de incógnitas… ¿un fallo del sistema?
Las posibles causas de este incidente no se han conocido, pero el usuario afectado cree que la activación de Google Workspace Labs en 2023 o un fallo en los sistemas de Google podrían ser los responsables del acceso a la inflación antes mencionada y sobre la cual, en principio, la IA no tenía permitió el acceso. Habrá que esperar para conocer lo que se indica al respecto desde la propia desarrolladora de Gemini.
Just pulled up my tax return in @Google Docs--and unbidden, Gemini summarized it. So...Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.
— Kevin Bankston (@KevinBankston) July 10, 2024
La privacidad de los datos es un derecho fundamental de todos. Las empresas tecnológicas, independientemente de la que sea, tienen la responsabilidad de proteger la información personal de sus usuarios. Incidentes como el que se ha conocido ponen en tela de juicio la eficacia de las medidas de seguridad existentes, aunque bien es cierto que todo podía ser un error puntual en el que se ha visto envuelto el usuario que ha destapado lo que ocurre.
Confianza y transparencia son claves
La confianza de los usuarios es esencial para la adopción responsable de la IA. Google y el resto de las compañías tecnológicas deben ser transparentes en sus prácticas de manejo de datos y ofrecer mecanismos claros para que los usuarios controlen su privacidad.
Lo cierto es que este caso no solo involucra a Google. Los desarrolladores de IA deben garantizar que sus productos cumplan con los estándares de privacidad y seguridad. Los gobiernos y resto de entidades también deben establecer marcos regulatorios adecuados para supervisar el desarrollo y la implementación de la IA con el objetivo de proteger al máximo a los usuarios
El potencial de la IA es innegable, pero este desarrollo debe ir acompañado de un compromiso firme con la ética y la responsabilidad. La protección de la privacidad, la transparencia y la rendición de cuentas son pilares fundamentales para construir un futuro donde la IA beneficie a la sociedad sin comprometer la confianza y la seguridad de las personas.
Datos a tener en cuenta asociado a lo ocurrido
- El caso de Gemini es un recordatorio de que la IA aún está en sus primeras etapas de desarrollo y que se deben tomar medidas para garantizar su uso responsable.
- Es necesario fomentar la educación y la conciencia sobre la privacidad de los datos entre los usuarios para que puedan tomar decisiones informadas sobre cómo se maneja su información.
- La colaboración entre empresas, gobiernos y la sociedad civil es crucial para establecer estándares éticos y marcos regulatorios adecuados para la IA.
El incidente que se ha conocido de Gemini sirve como una llamada de atención para que todas las partes interesadas trabajen juntas para garantizar que la IA se desarrolle y utilice de manera responsable, respetando la privacidad de los datos y los derechos de los usuarios.
ACTUALIZACIÓN
Desde Google nos han comunicado lo siguiente respecto a esta información: “Nuestras funciones de IA generativa están diseñadas para que los usuarios puedan elegir y mantener el control de sus datos. El uso de Gemini en Google Workspace requiere que el usuario lo habilite de forma proactiva y, cuando lo hace, su contenido se utiliza de una forma que preserva la privacidad para generar respuestas útiles a sus indicaciones, pero no se almacena sin su permiso”. - un portavoz de Google
Sigue toda la información de Cinco Días en Facebook, X y Linkedin, o en nuestra newsletter Agenda de Cinco Días
