La IA cambia el comportamiento del consumidor: ¿beneficio o limitación?

Las empresas de trabajar para que la inteligencia artificial empodere, y no restrinja, la experiencia humana

No es un secreto que las decisiones y experiencias de consumo están cada vez más mediadas digitalmente. Como consecuencia, el comportamiento del consumidor es progresivamente fruto del conjunto de la psicología humana y de los algoritmos omnipresentes. La maduración de los Modelos Extensos de Lenguaje (LLMs) está acelerando aún más la diseminación e impacto de la inteligencia artificial (IA). Ésta promete mejorar la vida de los consumidores en todo el mundo, tanto en aspectos pequeños como grandes. Al mismo tiempo, la implementación de esta tecnología no está exenta de peligros. El discurso social sobre los riesgos potenciales de la IA tiende a centrarse en cuestiones de discriminación y privacidad, o en riesgos “existenciales” lejanos (por ejemplo, la posibilidad de extinción humana o una catástrofe global irreversible), pero nuestro enfoque es diferente. Siguiendo el trabajo de investigadores del consumidor que han comenzado a identificar tensiones psicológicas en la experiencia del consumidor con la IA, un grupo de autores y yo contribuimos a esta discusión naciente explorando cómo la IA puede reducir el rango de expresión y elecciones de las personas, así como las oportunidades disponibles para su desarrollo en el artículo How Artificial Intelligence Constrains the Human Experience*.

El término “inteligencia artificial” fue acuñado por John McCarthy y sus colegas en 1955 como “la ciencia e ingeniería de crear máquinas inteligentes”, con énfasis en la capacidad de las máquinas para aprender, al menos en parte, como lo hacen los humanos. En la actualidad, la IA representa una tecnología de propósito general con el potencial de afectar a todas las industrias y transformar la economía. En este contexto, una línea de negocio en rápida expansión es desarrollar el potencial empresarial de la IA y el Big Data.

La promesa digital

Para los consumidores, la IA promete apoyo a la toma de decisiones más eficientes y efectivas: ahorrar tiempo y disfrutar de mejores productos y experiencias que se ajusten con mayor precisión a tus preferencias. Por ejemplo, los sistemas de recomendación como los de Netflix y los productos personalizados como las listas de reproducción “hechas para ti” de Spotify mejoran la calidad de nuestras experiencias. Las aplicaciones de IA generativa como ChatGPT. que pueden ayudar a las personas a escribir informes tediosos en minutos, nos ayudan a ser más productivos y ahorrar tiempo. Finalmente, los “chatbots” y otros sistemas de apoyo a la decisión nos ayudan también a aumentar la calidad de las decisiones y mejorar los resultados.

Si bien estas ganancias son reales y significativas, es fundamental considerar igualmente los resultados potencialmente restrictivos que pueden surgir de nuestra creciente dependencia de la IA para tomar decisiones. Igualmente, debemos evaluar sus riesgos potenciales, que parecen intrínsecos en una tecnología poderosa que sigue siendo, en la mayoría de los casos, una “caja negra” tanto para consumidores como para investigadores. En otras palabras, la delegación de un número creciente de tareas a sistemas de IA plantea serias preocupaciones sobre su potencial para alterar elementos fundamentales del comportamiento y la motivación humana. Hasta la fecha, pocas investigaciones se han centrado en el potencial de las tecnologías inteligentes como la IA para limitar, restringir o reducir la experiencia humana.

Impacto en el comportamiento del consumidor

Nuestro enfoque es examinar el potencial de la IA para restringir la experiencia humana. Por “experiencia humana”, nos referimos a las percepciones, sentimientos y comportamientos generales de las personas mientras participan en interacciones con la tecnología (IA), particularmente en su rol como consumidores y a lo largo del recorrido del cliente. En otras palabras, pretendemos entender cómo el uso de la IA en estas interacciones puede imponer costos –entendidos como reducciones o limitaciones de la experiencia de las personas en contextos de consumo-.

La IA puede restringir la experiencia humana tanto directa como indirectamente. Directamente, los sistemas IA pueden proporcionar a los usuarios una gama limitada de opciones que les impide explorar nuevas alternativas y perspectivas. En paralelo, la IA también puede constreñir la experiencia humana de manera indirecta. Esto ocurre cuando las personas utilizan la IA de formas que limitan la extensión de su propia participación debido a preocupaciones sobre privacidad, autonomía, consideraciones éticas o las limitaciones impuestas por el sistema IA mismo (por ejemplo, la incapacidad de un asistente de voz para comprender expresiones largas y complejas).

La paradoja de la autolimitación digital

A través de la autolimitación, las personas restringen directamente el alcance y la funcionalidad de sus interacciones con la IA, reduciendo efectivamente su impacto potencial y el acceso a sus capacidades. Por ejemplo, un consumidor podría decidir desactivar la función de reconocimiento de voz en su altavoz inteligente debido a preocupaciones sobre escuchas no deseadas o privacidad de datos, o podría preferir anular manualmente la configuración en dispositivos como termostatos en lugar de confiar en las funciones de optimización o personalización del sistema IA. La autolimitación de la experiencia humana se caracteriza por consumidores que modifican su comportamiento, lenguaje o patrones de interacción para “defenderse” de un sistema de IA o simplemente por conformarse a sus parámetros operativos.

Esta adaptación puede resultar en un consumidor que utilice un conjunto reducido de sus propias capacidades o altere sus estilos de interacción para acomodarse a su IA. Estas reducciones pueden conducir a sentimientos de disminución o de ser “menos que”, porque el consumidor debe interactuar de maneras que no representan completamente su potencial o modos preferidos de interacción. Por ejemplo, los consumidores podrían simplificar su lenguaje o alterar sus preguntas para ajustarse a las capacidades de reconocimiento y respuesta de los asistentes de IA activados por voz o conformarse a las recomendaciones u opciones presentadas por el sistema. Con el tiempo, tal autorreducción podría estrechar la exposición del consumidor a diferentes opciones, reduciendo su capacidad de agencia en la toma de decisiones.

Implicaciones de estos mecanismos experienciales

En nuestra investigación, proponemos tres mecanismos diferentes que pueden estar en el núcleo de estas fuerzas restrictivas de la experiencia humana: transferencia de agencia al AI, reduccionismo paramétrico del consumidor a un algoritmo, y expresión regulada debido a los sistemas de interacción impuesto por la AI. Definimos estos tres mecanismos con la intención de mapear las interacciones de los consumidores con la IA a lo largo de su recorrido de toma de decisiones: ceder la agencia a los algoritmos, que reducen a los consumidores a un conjunto limitado de parámetros, y potencialmente restringen cómo los consumidores se expresan y comunican.

Para las organizaciones, la discusión de estos mecanismos restrictivos del AI plantean desafíos importantes.

1. Proponen la necesidad de que las empresas equilibren la personalización de sus recomendaciones con el acceso a más diversidad y variedad de opciones.
2. Recalcan la importancia de mantener la autonomía del consumidor.
3. Ofrecen la oportunidad de desarrollar sistemas que amplíen, en lugar de limitar, la experiencia del usuario.

Mirando al futuro, las empresas deben considerar cuidadosamente cómo implementar la IA de manera que potencie, en lugar de restringir, la experiencia humana. Esto requiere un enfoque multidisciplinario que considere no solo la eficiencia, sino también la agencia del consumidor, la igualdad y la diversidad. Por lo tanto, se requiere una intervención urgente para asegurar que el AI empodere, en lugar de poner en peligro, la experiencia humana.

(*) Valenzuela, A., Puntoni, S., Hoffman, D., Castelo, N., De Freitas, J., Dietvorst, B., Hildebrand, C., Huh, Y.E., Meyer, R., Sweeney, M.E., Talaifar, S., Tomaino, G., and Wertenbroch, K. (2024), “How Artificial Intelligence Constrains the Human Experience,” Journal of the Association for Consumer Research, 9 (3), 241-256