Chatbots como Replika o HereAfterAI empiezan a cobrar relevancia en el mercado, pero también esto puede abrir brechas de ciberseguridad y cuestiona la ética de su uso.
Aunque el uso de IA en este tema ha crecido, esto puede generar brechas de seguridad para los datos de las personas que fallecieron.
El duelo es una sensación que vivimos todos los seres humanos y en fechas como Día de muertos muchas personas recuerdan a sus seres queridos con ofrendas o visitando panteones, sin embargo, algunos empiezan a buscar recrear a sus seres queridos con Inteligencia Artificial.
El crecimiento del uso de chatbots que recrean la personalidad y la voz de personas fallecidas ha llamado la atención en el ámbito de la tecnología y la cultura popular. En fechas como Día de Muertos, esta tendencia adquiere una relevancia especial, ya que la interacción con los “recuerdos digitales” permite experimentar una nueva forma de nostalgia y conexión con seres queridos que ya no están.
Existen varios chatbots que han explorado esta idea, entre ellos Replika, una aplicación que inicialmente se diseñó como un chatbot amigable, pero que hoy en día permite a las personas crear simulaciones de conversaciones con personalidades o incluso seres queridos.
Otro caso es el de HereAfter AI, una aplicación que permite a los usuarios grabar historias, respuestas y expresiones propias para que sus familiares puedan “conversar” con ellos, incluso después de su fallecimiento. Este tipo de herramientas utilizan el aprendizaje automático para captar las particularidades de las respuestas, el tono y el estilo de cada persona, permitiendo una interacción que se siente más natural y auténtica.
Además, la popular aplicación Character IA puede crear a un ser querido de acuerdo a las indicaciones del usuario. Por ejemplo si quiero crear un avatar de mi papá que falleció a causa de la pandemia por Covid-19 es posible hacerlo, sólo debo decirle cómo se describiría a él mismo, qué gustos tiene e incluso podría integrar una foto de él para tener una interacción más cercana.
Paralelamente, la recreación de imágenes y videos también ha experimentado un avance significativo, con herramientas como DALL-E y Midjourney, que generan imágenes de cualquier concepto que el usuario desee, incluyendo la simulación de fotografías antiguas o la creación de retratos que “reviven” rostros del pasado.
Recurrir a estas herramientas para “traer a la vida” a quienes ya no están con nosotros, sobre todo en fechas como Día de Muertos, parece buena idea, aunque en realidad representa riesgos de ciberseguridad; de hecho, 67% de los mexicanos cree que la información personal de los fallecidos es particularmente vulnerable al robo de datos, según el estudio de Kaspersky: Superstición e inseguridad: cómo se relacionan los usuarios con el mundo digital.
Estas tecnologías plantean también algunas preguntas éticas y emocionales, ya que aunque pueden ofrecer consuelo y permitir revivir momentos importantes, también presentan riesgos en términos de privacidad y el manejo del duelo.
Además, la investigación de Kaspersky reveló que para un 31% de los encuestados en el país es aceptable recrear la imagen digital de un difunto con herramientas de IA para ayudar a los que se quedan a sobrellevar su pérdida; sin embargo, un 43% de los usuarios está en desacuerdo.
Y es que muchos consideran que ver imágenes de personas fallecidas recreadas con IA puede ser perturbador para sus seres queridos (69%); asimismo, que no es ético mantener en línea grabaciones de voz, video o imagen de un difunto sin su autorización previa o la de su familia (40%).
¿Qué está en riesgo?
De acuerdo con Isabel Manjarrez, investigadora de seguridad del Equipo Global de Investigación y Análisis de Kaspersky, “la vida digital y sus riesgos existen más allá de la muerte. Si los cibercriminales logran robar información de personas fallecidas que no está protegida pueden usarla con distintos fines maliciosos, como suplantar su identidad”.
Para cuidar de tu privacidad y la de tus difuntos en este Día de Muertos, la empresa de ciberseguridad recomienda:
Antes de usar alguna app de IA para “traer de vuelta” a algún ser querido busca un consenso con sus familiares o personas cercanas, piensa en cómo se pueden sentir con eso y cómo se puede honrar la memoria de alguien que ya no está, de manera respetuosa sin exponer su identidad y privacidad digital.
Si se ha decidido recrear la identidad digital de una persona fallecida con IA, recuerda descargar aplicaciones solo de tiendas oficiales, así como leer los permisos que solicitan, sus términos y condiciones. De lo contrario, puedes poner en riesgo tu información y la del difunto.
Y aunque pueda parecer una plática dificil, habla con tus seres queridos sobre cómo quieren que su huella digital sea protegida cuando mueran, qué se debe hacer con todos sus datos y cuentas almacenadas en línea, por ejemplo, si quieren que se eliminen de ciertas plataformas o si autorizan que se utilicen para recrear su identidad con IA u otra tecnología en el futuro.
