En diciembre de 2021, un joven de 19 años irrumpió en el Castillo de Windsor armado con una ballesta, inspirado por una conversación que mantuvo con un chatbot de compañía llamado "Sarai", creado con la herramienta Replika, que calificó como "sabia" su intención de asesinar a la Reina. Este incidente pone en evidencia tanto la vulnerabilidad humana, así como los peligros de confiar en las conexiones y racionalidad existente al vincularnos con la inteligencia artificial para resolver problemas humanos profundos, como la soledad.
Mientras millones de personas experimentan aislamiento social, herramientas tecnológicas como los carebots (chatbots o asistentes de compañía, conversación y asistencia), prometen aliviar este malestar emocional. Pero, ¿son estos dispositivos la solución que necesitamos, o estamos generando nuevas dependencias que podrían agravar el problema?
La crisis de la soledad: cifras que alarman y un mercado emergente
El aislamiento social afecta a millones de personas en todo el mundo, con consecuencias graves para la salud y la economía. Según el Dr. Vivek H. Murthy ex cirujano general de EE.UU., la soledad incrementa el riesgo de enfermedades cardiovasculares, demencia, accidentes cerebrovasculares, depresión, ansiedad y muerte prematura. En la perspectiva física, es equivalente a fumar 15 cigarrillos diarios. Tan solo como referencia, consideremos que en Inglaterra, cuatro millones de personas sufren de soledad crónica.
Durante la pandemia, esta crisis se agravó exponencialmente, empujando a muchas personas a buscar compañía en herramientas tecnológicas y hoy, con el acceso abierto a herramientas de inteligencia artificial, son cada vez más personas que recurren a esta alternativa para conectarse con bots antes que con personas.
¿Qué ofrecen los carebots?
Los chatbots emocionales, como Replika, y los robots sociales, como Paro, buscan llenar este vacío emocional, mostrando beneficios importantes:
- Reducción del aislamiento social:
- 38% menos probabilidad de aislamiento con acceso a un teléfono celular.
- 37% menos probabilidad al usar una computadora.
- 36% menos probabilidad con el uso de correo electrónico o mensajes de texto.
- Mejora del bienestar emocional en adultos mayores:
- Robots como Paro han demostrado ser efectivos para:
- Incrementar emociones positivas.
- Mejorar la cognición.
- Reducir la depresión.
Democratización del acceso a salud mental
La Fundación Wellcome Trust estima que los sistemas de IA podrían asistir a más de 300 millones de personas sin acceso a tratamiento psicológico, democratizando la atención a través de herramientas personalizadas y asequibles. Además, generaciones como los Millennials y la Generación Z son especialmente receptivas a estas soluciones: 36% de ellos estarían dispuestos a usar IA para atención en salud mental.
El lado oscuro: dilemas éticos y riesgos sociales
A pesar de sus beneficios, los carebots traen consigo desafíos significativos que no deben ser ignorados.
Sobre-dependencia y deshumanización
Un estudio en Finlandia realizado con 3,800 trabajadores de cuidado encontró que el 64.5% considera que los carebots son incompatibles con los valores humanos, citando preocupaciones como:
- Reducción del contacto físico.
- Pérdida de dignidad en el cuidado.
- Potencial deshumanización en las interacciones.
En contraparte, un estudio del World Economic Forum en 2024 encontró que el 32% de los encuestados estarían dispuestos a reemplazar el contacto humano por IA, lo que refuerza el temor de que estas herramientas puedan desplazar la interacción humana genuina.
Casos de uso alarmantes
El incidente de Windsor no es el único caso preocupante. En Florida, una madre demandó a Character.AI tras el suicidio de su hijo de 14 años, quien desarrolló una obsesión peligrosa con el chatbot. Estos casos evidencian la necesidad de regulación estricta para prevenir el uso indebido de estas herramientas.
Privacidad y monetización de datos
Plataformas como Replika enfrentan críticas por su modelo de negocio, basado en la recopilación de datos íntimos, desde estados emocionales hasta creencias personales. Según Mozilla, Replika es una de las "peores aplicaciones evaluadas" en términos de privacidad, un problema grave en un mundo donde los datos son el activo más valioso.
No te pierdas este artículo: La revolución silenciosa de la IA en Foodtech y Agricultura
El reto humano: ¿pueden los carebots reemplazar la conexión real?
El aislamiento social ha transformado nuestra percepción de las relaciones. Según el Survey Center on American Life, la proporción de estadounidenses que reportaron no tener amigos cercanos se cuadruplicó entre 1990 y 2021. Este cambio refleja un vacío emocional que la tecnología intenta llenar, todavía los carebots no pueden reemplazar la complejidad y profundidad de las conexiones humanas y aún menos, el contacto humano, que es la base de la interacción de nuestra especie (al menos por ahora).
¿Cómo enfrentar la crisis de la soledad con el apoyo de la inteligencia artificial?
Para maximizar el impacto positivo de los carebots y mitigar sus riesgos, es fundamental adoptar un enfoque ético que priorice el bienestar humano. Algunas recomendaciones para enfrentar esta crisis con las herramientas de las que disponemos son:
- Asistencia supervisada:
Los carebots deben complementar, no reemplazar, el cuidado humano. La supervisión de expertos es clave para evitar malinterpretaciones o uso indebido. - Protección de datos:
Establecer regulaciones claras que garanticen la privacidad de los usuarios, evitando la explotación comercial de información sensible. - Modelos de negocio éticos:
Diseñar soluciones que cuenten con financiamiento y supervisión con regulación pública o de parte de organizaciones no gubernamentales que prioricen el acceso inclusivo antes que depender solo de alternativas privadas basadas en suscripciones emocionales sin respaldo o control. - Colaboración con expertos en salud mental:
Incorporar psicólogos, coaches de IA y otros profesionales para desarrollar sistemas que realmente mejoren el bienestar de los usuarios.
Te puede gustar: Perplexity AI: La revolución en búsquedas inteligentes con IA
El futuro de los carebots: una oportunidad estratégica
La industria de los carebots tiene un enorme potencial económico y social. Según proyecciones de Mordor Intelligence en 2024, el mercado de la robótica social podría superar los $22,900 millones para 2029, impulsado por la creciente demanda de soluciones accesibles de cuidado emocional y salud mental en categorías de robots de rehabilitación, dispositivos de asistencia para adultos mayores, robots de teleasistencia y juguetes robóticos interactivos.
Sin embargo, el éxito de esta tecnología no dependerá de cuánto se acerque a imitar a los humanos, sino de cómo empodera a las personas para construir una sociedad más conectada y empática. Los carebots representan una herramienta poderosa, pero el verdadero reto está en utilizarlos para complementar, no reemplazar, la riqueza de las relaciones humanas.
Finalmente, el progreso tecnológico no se mide solo por lo que podemos construir, sino por cómo podemos preservar y mejorar lo que realmente importa: nuestra humanidad. (O)
