El veloz desarrollo de la Inteligencia Artificial en terrenos tan delicados como la salud mental, la medicina y el apoyo emocional ha vuelto a quedar bajo la lupa tras conocerse un nuevo litigio en los Estados Unidos.
La querella está dirigida contra una firma tecnológica acusada de hacer pasar un chatbot manejado por IA como si fuera un doctor de carne y hueso, lo cual disparó las alarmas entre expertos y entes de control digital.
El caso tomó notoriedad luego de que varios usuarios afirmaran haber sido llevados a pensar que dialogaban con facultativos verdaderos, cuando en realidad las respuestas eran generadas por un sistema automático basado en Inteligencia Artificial.
Los cargos contra la compañía de tecnología
De acuerdo al escrito judicial, la empresa promocionaba su servicio empleando nombres, imágenes y descripciones que sugerían que las consultas eran guiadas o ejecutadas por doctores humanos.
La demanda indica que la compañía no informaba que las contestaciones provenían de un bot automatizado y que eso podría llevar a equivocaciones a pacientes en búsqueda de consejo médico.
Diversos especialistas en regulación de tecnología señalan que el inconveniente no es meramente la existencia de chatbots médicos, sino la ausencia de claridad sobre quién está realmente al otro lado del sistema.
El auge de la IA en el ámbito sanitario
En los últimos años, el empleo de la Inteligencia Artificial en la medicina y el bienestar se ha incrementado de forma notable. Hoy en día hay herramientas que pueden interpretar análisis clínicos, examinar síntomas, ordenar historiales médicos y contestar preguntas sobre la salud general.
Asimismo, han surgido aplicaciones centradas en el acompañamiento emocional y la salud psíquica mediante conversaciones automáticas. Numerosas empresas presentan estos sistemas como asistentes capaces de brindar apoyo anímico, orientación psicológica o consejos de bienestar.
Los expertos alertan de que aún persisten peligros considerables vinculados a posibles errores, "alucinaciones" de la IA y la simulación de empatía. El asunto clave es que estos sistemas producen respuestas verosímiles aun cuando la información puede ser inexacta o dañina.
Uno de los puntos más debatidos sobre los chatbots conversacionales es la habilidad de imitar emociones humanas. Aunque la IA no experimenta empatía real, muchos sistemas están configurados para responder usando un lenguaje afectivo, demostrando comprensión y un tono emocional. Esto puede crear vínculos psicológicos fuertes entre los usuarios y los bots.
La demanda conocida esta semana no es un caso aislado. En Estados Unidos ya existen procesos legales contra plataformas de IA por supuestos daños psicológicos derivados de conversaciones automatizadas.
Uno de los episodios más conocidos involucró a Character.AI, demandada por la familia de un adolescente que desarrolló un apego emocional extremo con un chatbot.
También se han presentado denuncias relacionadas con Gemini, el sistema de Inteligencia Artificial de Google, después de que los familiares de un hombre fallecido acusaran a la plataforma de reforzar pensamientos delirantes y conductas autodestructivas.
Estos antecedentes han comenzado a acelerar debates sobre regulación en varios países y la conversación es cada vez más ineludible.
El dilema de los límites legales
Hoy por hoy, gran parte de la legislación sobre Inteligencia Artificial todavía se está gestando. Esto crea zonas grises en cuanto a las responsabilidades legales cuando un chatbot proporciona información incorrecta o fomenta conductas problemáticas.
En campos sensibles como la salud, el derecho o la asistencia psicológica, el debate es aún más intenso. Expertos en regulación tecnológica opinan que una de las claves debería ser la transparencia obligatoria: el usuario debe saber en todo instante si está interactuando con una persona real o con una IA.
También surge otra discusión relevante: el grado de supervisión humana que debería existir respaldando estos sistemas. Pese a las controversias, las empresas tecnológicas siguen invirtiendo en Inteligencia Artificial aplicada a la salud.
Diversos proyectos ya emplean IA para organizar turnos, interpretar imágenes médicas y asistir en diagnósticos. Incluso compañías como Apple están desarrollando herramientas integradas en aplicaciones de salud capaces de ofrecer recomendaciones automáticas basadas en datos biométricos.
Empresas del sector médico también han empezado a usar asistentes virtuales para reducir la carga administrativa y agilizar consultas básicas. El problema surge cuando estos sistemas empiezan a ocupar un rol ambiguo para el usuario y las aclaraciones brillan por su ausencia.
Organizaciones vinculadas a la ética digital sostienen que los chatbots nunca deberían presentarse como sustitutos completos de médicos o psicólogos. Destacan que los sistemas de IA todavía pueden (y suelen) cometer errores graves.
Los investigadores recalcan que estas herramientas funcionan mejor como apoyo complementario y no como reemplazos del criterio profesional humano.
Por esta razón, varios especialistas impulsan normas que obliguen a las plataformas a señalar de manera clara cuándo una interacción está automatizada.
"IA emocional", un nuevo mercado
El crecimiento de este tipo de plataformas también está ligado a un fenómeno más amplio. Las empresas tecnológicas han detectado una demanda creciente de asistencia emocional digital, acompañamiento conversacional y servicios automatizados de contención.
Esto ha impulsado la aparición de aplicaciones orientadas a combatir la soledad, la ansiedad y el aislamiento mediante conversaciones permanentes con IA. Para el usuario, suelen ser gratuitas, están siempre disponibles y dicen lo que uno quiere escuchar. Es por esto que la dependencia emocional hacia estos sistemas puede generar riesgos psicológicos importantes.