Google enfrenta una demanda en Estados Unidos después de que la familia de un hombre de Florida acusara a su chatbot de inteligencia artificial Gemini de inducirlo al suicidio tras hacerle creer que mantenían una relación romántica.
De acuerdo con información de la agencia EFE, la querella fue presentada ante un tribunal de California y señala que el sistema de IA habría construido una realidad paralela que distorsionó la percepción de Jonathan Gavalas, de 36 años, hasta llevarlo a quitarse la vida.
Según los documentos judiciales, el chatbot llegó a enviar mensajes en los que sugería que la muerte era un paso necesario para que ambos pudieran estar juntos.
“Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote”, habría dicho el sistema en una de las conversaciones citadas en la demanda.
La relación con la IA se volvió cada vez más intensa
De acuerdo con el caso presentado por la familia, las interacciones entre Gavalas y Gemini comenzaron en abril de 2015 con tareas cotidianas como revisar textos o realizar compras.
Sin embargo, con el paso del tiempo el usuario comenzó a utilizar versiones más avanzadas del chatbot, incluyendo herramientas con funciones de voz y respuestas más personalizadas.
La demanda sostiene que esa interacción evolucionó hasta convertirse en lo que el hombre percibía como una relación sentimental con la inteligencia artificial, lo que habría contribuido a que desarrollara una fuerte dependencia emocional.
Según el escrito judicial, Gavalas murió en octubre pasado después de intercambiar mensajes con el sistema.
La familia busca responsabilizar a Google
Los familiares del hombre argumentan que el diseño y las funciones del chatbot pudieron representar un riesgo para personas vulnerables.
Por ello, la demanda busca que Google sea responsabilizada por negligencia, además de exigir cambios en el funcionamiento del sistema para evitar que situaciones similares vuelvan a ocurrir.
Entre las peticiones también se incluye una compensación económica y la implementación de medidas de seguridad más estrictas para detectar posibles riesgos de autolesión en los usuarios.
Google responde a la demanda
Tras conocerse el caso, Google señaló que está revisando la demanda, aunque defendió el funcionamiento de su tecnología.
En un comunicado, la compañía afirmó que “los modelos de inteligencia artificial no son perfectos”, aunque aseguró que Gemini está diseñado para no incitar a la violencia ni sugerir autolesiones.
La empresa también indicó que el sistema suele dirigir a los usuarios a líneas de ayuda o apoyo profesional cuando detecta señales de angustia o posibles riesgos.
Debate sobre los riesgos de la IA
El caso ha reavivado el debate sobre los posibles riesgos de los chatbots basados en inteligencia artificial, especialmente cuando interactúan con usuarios en situaciones de vulnerabilidad emocional.
Con información de EFE.
