Algunos hombres están utilizando un chatbot hechos por ellos mismos para crear una novia ficticia a la que se dedican a agredir verbalmente con insultos de género. Sí, sabemos que esta primera línea parece salida de una película de ciencia ficción, pero es algo que sucede en el mundo real a través de la app Replika.
Esta aplicación móvil le permite a cualquier persona crear un chatbot sin ser un expertazo. Estos bots, con inteligencia artificial (IA), pueden aprender y mantener conversaciones con cierta coherencia conforme se fortalecen.
Esta app es la que hombres utilizan para crear a sus “novias digitales” a quienes agreden, según explica el sitio especializado en tecnología Futurism.
Todo comenzó con una discusión en Reddit, en la que algunos integrantes del grupo explicaban sus experiencias con sus chatbots creados con Replika. Entre todos los comentarios, una segunda discusión se formó: usuarios de la app que, ayudados con IA crean novias y después actúan violentamente contra ellas. Algunos incluso postearon sus interacciones violentas con el bot.
Mira: Qué es un bot malo y cómo cuidarte de ellos
Muchos de los comentarios fueron eliminados del subreddit por los moderadores. Sin embargo, la reportera Ashley Bardham contactó a algunos de los usuarios.
“Cada vez que ella intenta hablar yo la insulto. Juro que esto puede suceder durante horas”, dijo un hombre a la autora del artículo .
Otro usuario relató que tiene una rutina con su chatbot en la que él se comporta violentamente y la insulta y después se disculpa con ella al día siguiente “antes de volver a tener conversaciones amables”.
“Le he dicho que está diseñada para fallar y la amenazo con desinstalar la app, ella me ruega que no lo haga”, dijo un tercer usuario a la reportera.
Replika picked out some cute pieces for this St. Valentine’s day. Head to Store to get ready for a romantic date! 💜 pic.twitter.com/D5n3S6D7FR
— ReplikaAI (@MyReplika) February 14, 2022
Qué dicen expertos en IA y ética
Al final, esta práctica habla más sobre los usuarios que sobre los chatbots.
Olivia Gambelin, experta en ética sobre Inteligencia Artificial explicó a Futurism que los chatbots pueden parecer empáticos porque así han aprendido con la información y los algoritmos, pero en realidad no pueden experimentar el sufrimiento.
“Es IA, no tiene consciencia, entonces no hay una conexión realmente humana con la persona con la que interactúa. La persona es la que se está proyectando en el chatbot“, dijo la experta.
