El veloz desarrollo de la Inteligencia Artificial en terrenos tan delicados como la salud mental, la medicina y el apoyo emocional ha vuelto a quedar bajo la lupa tras conocerse un nuevo litigio en los Estados Unidos.
La querella está dirigida contra una firma tecnológica acusada de hacer pasar un chatbot manejado por IA como si fuera un doctor de carne y hueso, lo cual disparó las alarmas entre expertos y entes de control digital.
El caso tomó notoriedad luego de que varios usuarios afirmaran haber sido llevados a pensar que dialogaban con facultativos verdaderos, cuando en realidad las respuestas eran generadas por un sistema automático basado en Inteligencia Artificial.
Los cargos contra la compañÃa de tecnologÃa
De acuerdo al escrito judicial, la empresa promocionaba su servicio empleando nombres, imágenes y descripciones que sugerÃan que las consultas eran guiadas o ejecutadas por doctores humanos.
La demanda indica que la compañÃa no informaba que las contestaciones provenÃan de un bot automatizado y que eso podrÃa llevar a equivocaciones a pacientes en búsqueda de consejo médico.
Diversos especialistas en regulación de tecnologÃa señalan que el inconveniente no es meramente la existencia de chatbots médicos, sino la ausencia de claridad sobre quién está realmente al otro lado del sistema.
El auge de la IA en el ámbito sanitario
En los últimos años, el empleo de la Inteligencia Artificial en la medicina y el bienestar se ha incrementado de forma notable. Hoy en dÃa hay herramientas que pueden interpretar análisis clÃnicos, examinar sÃntomas, ordenar historiales médicos y contestar preguntas sobre la salud general.
Asimismo, han surgido aplicaciones centradas en el acompañamiento emocional y la salud psÃquica mediante conversaciones automáticas. Numerosas empresas presentan estos sistemas como asistentes capaces de brindar apoyo anÃmico, orientación psicológica o consejos de bienestar.
Los expertos alertan de que aún persisten peligros considerables vinculados a posibles errores, "alucinaciones" de la IA y la simulación de empatÃa. El asunto clave es que estos sistemas producen respuestas verosÃmiles aun cuando la información puede ser inexacta o dañina.
Uno de los puntos más debatidos sobre los chatbots conversacionales es la habilidad de imitar emociones humanas. Aunque la IA no experimenta empatÃa real, muchos sistemas están configurados para responder usando un lenguaje afectivo, demostrando comprensión y un tono emocional. Esto puede crear vÃnculos psicológicos fuertes entre los usuarios y los bots.
La demanda conocida esta semana no es un caso aislado. En Estados Unidos ya existen procesos legales contra plataformas de IA por supuestos daños psicológicos derivados de conversaciones automatizadas.
Uno de los episodios más conocidos involucró a Character.AI, demandada por la familia de un adolescente que desarrolló un apego emocional extremo con un chatbot.
También se han presentado denuncias relacionadas con Gemini, el sistema de Inteligencia Artificial de Google, después de que los familiares de un hombre fallecido acusaran a la plataforma de reforzar pensamientos delirantes y conductas autodestructivas.
Estos antecedentes han comenzado a acelerar debates sobre regulación en varios paÃses y la conversación es cada vez más ineludible.
El dilema de los lÃmites legales
Hoy por hoy, gran parte de la legislación sobre Inteligencia Artificial todavÃa se está gestando. Esto crea zonas grises en cuanto a las responsabilidades legales cuando un chatbot proporciona información incorrecta o fomenta conductas problemáticas.
En campos sensibles como la salud, el derecho o la asistencia psicológica, el debate es aún más intenso. Expertos en regulación tecnológica opinan que una de las claves deberÃa ser la transparencia obligatoria: el usuario debe saber en todo instante si está interactuando con una persona real o con una IA.
También surge otra discusión relevante: el grado de supervisión humana que deberÃa existir respaldando estos sistemas. Pese a las controversias, las empresas tecnológicas siguen invirtiendo en Inteligencia Artificial aplicada a la salud.
Diversos proyectos ya emplean IA para organizar turnos, interpretar imágenes médicas y asistir en diagnósticos. Incluso compañÃas como Apple están desarrollando herramientas integradas en aplicaciones de salud capaces de ofrecer recomendaciones automáticas basadas en datos biométricos.
Empresas del sector médico también han empezado a usar asistentes virtuales para reducir la carga administrativa y agilizar consultas básicas. El problema surge cuando estos sistemas empiezan a ocupar un rol ambiguo para el usuario y las aclaraciones brillan por su ausencia.
Organizaciones vinculadas a la ética digital sostienen que los chatbots nunca deberÃan presentarse como sustitutos completos de médicos o psicólogos. Destacan que los sistemas de IA todavÃa pueden (y suelen) cometer errores graves.
Los investigadores recalcan que estas herramientas funcionan mejor como apoyo complementario y no como reemplazos del criterio profesional humano.
Por esta razón, varios especialistas impulsan normas que obliguen a las plataformas a señalar de manera clara cuándo una interacción está automatizada.
"IA emocional", un nuevo mercado
El crecimiento de este tipo de plataformas también está ligado a un fenómeno más amplio. Las empresas tecnológicas han detectado una demanda creciente de asistencia emocional digital, acompañamiento conversacional y servicios automatizados de contención.
Esto ha impulsado la aparición de aplicaciones orientadas a combatir la soledad, la ansiedad y el aislamiento mediante conversaciones permanentes con IA. Para el usuario, suelen ser gratuitas, están siempre disponibles y dicen lo que uno quiere escuchar. Es por esto que la dependencia emocional hacia estos sistemas puede generar riesgos psicológicos importantes.
