Por qué ChatGPT responde preguntas que Gemini prefiere evitar: así funcionan los guardrails de la IA
Si alguna vez has formulado la misma pregunta a ChatGPT y Gemini, es posible que te hayas encontrado con una sorpresa: dos reacciones completamente distintas. Mientras una inteligencia artificial desarrolla una respuesta con aparente normalidad, la otra puede mostrar una advertencia, cambiar de tema o limitarse a decir que no puede ayudarte.
¿Qué ha pasado? Pues seguramente han entrado en funcionamiento los guardrails, o guardarraíles, un conjunto de reglas y sistemas de seguridad que condicionan lo que un modelo de inteligencia artificial puede responder.
Qué son los guardrails de una inteligencia artificial
El término guardrails podría traducirse como barreras de protección o guardarraíles. Su función es evitar que un modelo genere contenido peligroso, ilegal, discriminatorio o potencialmente dañino, aunque también intervienen en terrenos más cotidianos, como los consejos médicos, las recomendaciones financieras o las preguntas relacionadas con la privacidad.
¿Recuerdas cuando a Grok le dejaron libre y se lió con todo tipo de contenidos fuera de lugar, la función para desnudar a personas y otras polémicas? Pues es justo un modelo de IA sin guardrails.
Por ejemplo, Google explica que la API de Gemini cuenta con filtros de seguridad para categorías como el acoso, el discurso de odio, el contenido sexualmente explícito y las actividades peligrosas. Además, los desarrolladores pueden ajustar ciertos umbrales para hacer una aplicación más o menos restrictiva, aunque algunas protecciones permanecen siempre activas.
Por qué ChatGPT y Gemini no responden de la misma manera
Cada compañía diseña sus propias políticas, entrena sus modelos con datos diferentes y establece distintos niveles de tolerancia ante una posible situación de riesgo. Por eso, una pregunta puede parecer completamente inofensiva para ChatGPT y resultar problemática para Gemini, o viceversa.
Además, los guardrails deben interpretar el contexto, y no es lo mismo preguntar cómo funciona un ataque informático con fines educativos que solicitar instrucciones detalladas para acceder a un ordenador ajeno. Tampoco es igual pedir información general sobre un medicamento que reclamar una dosis personalizada sin intervención médica.
Y, si quieres saber el motivo por el que ChatGPT responde a cosas que Gemini se niega de forma tajante, es porque OpenAI ha empezado a sustituir algunas negativas tajantes por lo que denomina respuestas seguras. De esta manera, en lugar de rechazar por completo una consulta sensible, el modelo intenta ofrecer la parte útil de la información sin incluir instrucciones que puedan provocar daños.
Como habrás podido ver, los guardrails son fundamentales para que ChatGPT, Gemini y otros modelos puedan utilizarse con seguridad. Pero cada compañía decide dónde coloca estas barreras. Y esa es la razón por la que una IA puede responder con todo lujo de detalles mientras otra, ante exactamente la misma pregunta, prefiere guardar silencio.