Internet ha sido durante mucho tiempo un espacio de atención. Plataformas como Facebook e Instagram prosperan al captar tu atención y monetizar el tiempo que pasas navegando por un sinfín de feeds. Pero está amaneciendo una nueva era donde los agentes de Inteligencia Artificial (IA) conversacional pueden sintonizarse para influir de forma encubierta en sus intenciones, creando una nueva frontera comercial que los investigadores llaman la “economía de la intención”.
Este concepto emergente, explorado en informes académicos y de la industria recientes, cambia el foco de tu atención a tus intenciones. En este nuevo panorama, las herramientas impulsadas por IA no solo observarán tu comportamiento en línea, sino que también ahondarán en tus motivaciones subyacentes, deseos e incluso en «lo que quieres querer».
Así lo afirman los especialistas en ética de la IA de la Universidad de Cambridge, quienes dicen que estamos en los albores de un “lucrativo pero problemático nuevo mercado para señales digitales de intención”, desde la compra de entradas de cine hasta la votación de candidatos. Lo llaman la economía de la intención.
Cómo funciona la economía de la intención
Los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de Cambridge sostienen que la explosión de la IA generativa y nuestra creciente familiaridad con los chatbots abren una nueva frontera de “tecnologías persuasivas”, una insinuación en recientes anuncios corporativos de gigantes tecnológicos.
Los agentes de IA “antropomórficos”, desde asistentes de chatbots hasta tutores digitales y novias, tendrán acceso a grandes cantidades de datos psicológicos y de comportamiento íntimos, a menudo obtenidos a través de diálogos informales y conversacionales.
Esta IA combinará el conocimiento de nuestros hábitos en línea con una extraña capacidad de sintonizarse con nosotros de maneras que nos resulten reconfortantes (imitando personalidades y anticipando respuestas deseadas) para generar niveles de confianza y comprensión que permitan la manipulación social a escala industrial, dicen los investigadores.
De acuerdo con el estudio, la “economía de la intención” funciona de la siguiente forma:
- Manipulación hiperpersonalizada: Los LLM (Large Language Models) se destacan por comprender e imitar la comunicación humana. Pueden analizar tu estilo de escritura, predecir tus respuestas e incluso influir sutilmente en tus pensamientos y emociones. Esta «adulación», como la describen los autores, crea una experiencia personalizada que te involucra profundamente.
- Información basada en datos: Cada interacción, cada búsqueda, cada mensaje que envías proporciona datos valiosos. Los algoritmos de IA analizan meticulosamente estos datos, categorizando tu actividad en línea para crear un perfil completo de tus intenciones.
- Mercantilización de los deseos: ¿El objetivo final? Mercantilizar tus deseos. Las empresas pueden aprovechar esta información para:
- Predecir tus elecciones: Desde el hotel que reservarás hasta el candidato político al que apoyarás.
- Influir en tus decisiones: A través de empujoncitos sutiles y recomendaciones personalizadas.
- Vender tus intenciones: Al mejor postor, ya sea un anunciante, una campaña política u otra entidad.
“Se están gastando enormes recursos para colocar asistentes de IA en todas las áreas de la vida, lo que debería plantear la pregunta de a qué intereses y propósitos están destinados a servir estos supuestos asistentes”, dijo el Dr. Yaqub Chaudhary, académico visitante del LCFI.
“Lo que la gente dice cuando conversa, cómo lo dice y el tipo de inferencias que se pueden hacer en tiempo real como resultado, son mucho más íntimos que los simples registros de interacciones en línea”
“Advertimos que ya se están desarrollando herramientas de IA para obtener, inferir, recopilar, registrar, comprender, pronosticar y, en última instancia, manipular y mercantilizar los planes y propósitos humanos”.
Los peligros
El Dr. Jonnie Penn, un historiador de la tecnología de la LCFI de Cambridge, dijo: “Durante décadas, la atención ha sido la moneda de cambio de Internet. Compartir su atención con plataformas de redes sociales como Facebook e Instagram impulsó la economía en línea”.
“A menos que se regule, la economía de la intención tratará sus motivaciones como la nueva moneda. Será una fiebre del oro para aquellos que apuntan, dirigen y venden las intenciones humanas”.
“Deberíamos comenzar a considerar el impacto probable que un mercado de este tipo tendría en las aspiraciones humanas, incluidas las elecciones libres y justas, una prensa libre y una competencia de mercado justa, antes de convertirnos en víctimas de sus consecuencias no deseadas”.
La economía de las intenciones presenta importantes desafíos éticos y sociales:
- Pérdida de autonomía: A medida que la IA influye cada vez más en nuestros deseos, nuestra capacidad para tomar decisiones independientes disminuye.
- Vigilancia y manipulación: El seguimiento y análisis constantes de nuestras intenciones plantean graves problemas de privacidad.
- Erosión de la confianza: La posibilidad de manipulación encubierta socava la confianza en las plataformas en línea y en la información que encontramos.
- Implicaciones políticas: La capacidad de influir en las intenciones de los votantes plantea una amenaza para los procesos democráticos.
El camino por delante
En una economía de la intención, los modelos de lenguaje amplios o LLM podrían usarse para apuntar, a bajo costo, a la cadencia, la política, el vocabulario, la edad, el género, el historial en línea e incluso las preferencias de un usuario por la adulación y la congraciación, escriben los investigadores.
Esta recopilación de información se vincularía con redes de licitación intermediadas para maximizar la probabilidad de lograr un objetivo determinado, como vender una entrada al cine (“Mencionaste que te sentías sobrecargado de trabajo, ¿te reservo esa entrada de cine de la que hablamos?”).
Esto podría incluir dirigir las conversaciones al servicio de plataformas, anunciantes, empresas e incluso organizaciones políticas particulares, argumentan Penn y Chaudhary.
Aunque los investigadores afirman que la economía de la intención es actualmente una “aspiración” para la industria tecnológica, rastrean los primeros signos de esta tendencia a través de investigaciones publicadas y las pistas que dejan caer varios actores tecnológicos importantes.
La economía de las intenciones todavía está en sus primeras etapas. Sin embargo, el impacto potencial es inmenso. En este sentido es fundamental:
- Fomentar el diálogo abierto: Participar en debates públicos sobre las implicaciones éticas de la economía de las intenciones.
- Desarrollar regulaciones sólidas: Implementar salvaguardas para proteger la privacidad del usuario y evitar el uso indebido de la persuasión impulsada por IA.
- Promover la transparencia: Aumentar la transparencia en torno a cómo se utilizan los algoritmos de IA para influir en el comportamiento del usuario.
La economía de las intenciones presenta oportunidades interesantes y riesgos significativos. Al comprender las fuerzas en juego y participar en debates proactivos, podemos dar forma al futuro de este panorama emergente y asegurarnos de que beneficie a la sociedad en su conjunto.
Conclusión
En conclusión, la economía de las intenciones es una nueva frontera en las tecnologías persuasivas y sus implicaciones son de largo alcance. A medida que avanzamos, es esencial monitorear y regular este mercado emergente para garantizar que no comprometa las normas y los valores democráticos.
Referencia (acceso libre)
Chaudhary, Y., & Penn, J. (2024). Beware the Intention Economy: Collection and Commodification of Intent via Large Language Models. Harvard Data Science Review, (Special Issue 5). https://doi.org/10.1162/99608f92.21e6bbaa
