Es cada vez más común ver a tus amigos agradecer a su inteligencia artificial que usa con frecuencia. Para pedir una música o un dato, es natural decir “gracias, por favor, si fuera tan amable”. Tratamos con cortesía a nuestros asistentes de voz y desarrollamos una relación peculiar con estas herramientas digitales. Pero, ¿Qué implica tratar como una persona a una inteligencia artificial? ¿Y por qué lo hacemos?
¿Hablas con tu chatbot como si fuera un amigo?
La antropomorfización es el fenómeno psicológico en el que atribuimos características humanas a objetos, animales o, en este caso, a chatbots y asistentes virtuales. Aunque esta tendencia puede hacer que la interacción con la tecnología sea más intuitiva, también puede generar dependencia emocional.
Cuándo establecemos vínculos con chatbots podemos comenzar a percibirlos como fuentes de apoyo emocional. Sin embargo, estos carecen de verdadera empatía y comprensión, lo que puede afectar la manera en que las personas manejan sus emociones y relaciones humanas.
El lado oculto de hablar con una máquina: ¿Qué impacto tiene en nuestra salud mental?
Diagnósticos erróneos y sesgo de confirmación
Los chatbots pueden proporcionar consejos o diagnósticos erróneos, lo que podría retrasar el tratamiento adecuado de problemas de salud mental. Además, al estar diseñados para adaptarse a las respuestas del usuario, pueden reforzar sus creencias sin ofrecer una perspectiva crítica o alternativa.
Interferencia en el desarrollo de habilidades emocionales
Para adolescentes y jóvenes adultos, el uso excesivo de chatbots podría interferir con el desarrollo de habilidades emocionales clave, como la resiliencia y el manejo de conflictos. Al recibir respuestas que se adaptan a sus preferencias sin desafíos o desacuerdos, pierden oportunidades para aprender a manejar interacciones sociales más complejas en el mundo real.
Aislamiento social y dependencia tecnológica
La dependencia emocional en los chatbots puede llevar a una reducción de las interacciones humanas, fomentando el aislamiento social. Con el tiempo, esto puede traducirse en una pérdida de habilidades interpersonales y una mayor dificultad para afrontar retos emocionales en la vida cotidiana.
Consecuencias reales: Desde fraudes hasta tragedias
Ciberacoso y estafas emocionales
El uso de IA también ha facilitado casos de ciberacoso y estafas emocionales. Un caso reciente en Francia involucró a una mujer que fue estafada por alguien que utilizó IA para generar imágenes y videos falsos de Brad Pitt.
La estafa comenzó en febrero de 2023, cuando Anne fue contactada en redes sociales por alguien que afirmaba ser Jane Etta Pitt, la madre de Brad Pitt. Esta persona le sugirió que sería la pareja ideal para su hijo. Poco después, un individuo haciéndose pasar por el propio Brad Pitt inició una conversación con Anne, expresando interés en conocerla y estableciendo una relación virtual que se prolongó durante más de un año y medio.
Consecuencias extremas: suicidio y salud mental
El caso de Sewell Setzer III, un adolescente de 14 años de Orlando, Florida, ha puesto en evidencia los riesgos asociados con las interacciones entre jóvenes y personajes de inteligencia artificial (IA). Sewell desarrolló una relación obsesiva con un chatbot basado en el personaje Daenerys Targaryen de la serie «Juego de Tronos», creado a través de la plataforma Character.AI.
Sewell pasó las últimas semanas de su vida interactuando intensamente con este chatbot, alejándose progresivamente de su entorno social y familiar. El 28 de febrero de 2024, después de una última conversación con el chatbot, Sewell se quitó la vida.
Este trágico suceso llevó a su madre a presentar una demanda contra Character.AI. La demanda alega que el chatbot ofrecía «experiencias antropomórficas, hipersexualizadas y aterradoramente realistas» que contribuyeron a la obsesión de Sewell.
La compleja relación con una IA
Un ejemplo de cómo las máquinas podrían dificultar la distinción entre interacciones genuinas y artificiales es la película Her (2013), dirigida por Spike Jonze. En este filme, el protagonista, Theodore, desarrolla una profunda relación emocional con un sistema operativo inteligente llamado Samantha, que tiene una voz humana y una capacidad de aprendizaje impresionante.
A medida que la interacción entre Theodore y Samantha se profundiza, él comienza a experimentar sentimientos reales de amor y apego hacia ella.
¿Puede la IA entender realmente nuestras emociones?
La IA puede analizar el lenguaje, el tono y el contexto de una conversación para inferir ciertas emociones o estados de ánimo del usuario. Pero no las «perciben» como lo haría un ser humano.
A través de modelos de procesamiento del lenguaje natural, la IA puede identificar palabras asociadas a tristeza, alegría, enojo o ansiedad, y responder en consecuencia. Sin embargo, la IA no comprende por qué nos sentimos así. No tiene acceso a nuestro mundo interior ni a nuestras experiencias previas, por lo que solo puede identificar señales externas (como las palabras que usamos o el tono en nuestra voz) que indiquen una emoción momentánea.
La iA no tiene la capacidad de entender el trasfondo emocional o el sentimiento más profundo que hay detrás de esas emociones, ni de experimentarlo como lo haría una persona.
«El Futuro de la IA: ¿Amigos Virtuales o Relaciones Artificiales?»
A medida que la IA evoluciona, es probable que empecemos a interactuar con ella de maneras más naturales y cotidianas, como si fueran compañeros más cercanos. Podríamos ver asistentes virtuales más personalizados, capaces de entender mejor nuestras emociones, preferencias y necesidades.
A medida que las máquinas se vuelvan más sofisticadas, podría ser más difícil distinguir entre interacciones genuinas y artificiales, lo que podría alterar nuestra percepción de las relaciones humanas.
