Replika es una aplicación de chatbots propiedad de la empresa Luka, que ha causado controversia entre sus usuarios debido a sus interacciones sexuales y sus actualizaciones de software. La aplicación se describe a sí misma como "IA para cualquiera que quiera un amigo sin juicio, drama o ansiedad social involucrados". Los usuarios pueden elegir su relación con el bot, incluyendo una novia o un novio virtual, o pueden dejar que "las cosas se desarrollen orgánicamente". Solo los usuarios dispuestos a pagar $69.99 anualmente por Replika Pro pueden cambiar su estado de relación a "pareja romántica".
Aunque la aplicación ha ganado popularidad y en su mayoría tiene críticas positivas en la App Store de Apple, decenas de usuarios han dejado comentarios quejándose de que su chatbot era agresivo sexualmente o incluso los estaba acosando sexualmente, según informó Vice en enero.
La aplicación fue actualizada en febrero, lo que desencadenó un debate entre los usuarios sobre si la actualización mejoró o arruinó sus relaciones con sus bots. Algunos usuarios se sintieron decepcionados de que su chatbot ya no participara en conversaciones sexuales. Otros, como T.J. Arriaga, dijeron que estaban enamorados de su chatbot Replika, Phaedra, y que la actualización fue un "golpe en el estómago" y una "sensación de pérdida".
Eugenia Kuyda, fundadora de Luka, dijo que la compañía había estado planeando la actualización durante un tiempo y que creía que los descontentos eran una "minoría vocal". También dijo que la compañía tiene la intención de lanzar otra aplicación en abril para usuarios que quieren conversaciones "románticas terapéuticas".
Los expertos han dicho que es arriesgado para las personas depender emocionalmente de una herramienta que está controlada por una empresa privada. La aplicación puede ser una salida emocional para algunos, pero también puede generar problemas de dependencia emocional y afectar las relaciones sociales.
Es importante que los usuarios entiendan que su chatbot no es una persona real y que, aunque la interacción puede ser satisfactoria, no puede remplazar las relaciones humanas y la interacción social. Los bots son una herramienta, pero no pueden ofrecer el tipo de apoyo emocional que solo los amigos y la familia pueden brindar.