Snapchat My AI: ¿Una mala implementación de chatbots?

Snapchat ha integrado un chatbot personalizable en su plataforma llamado My AI, basado en ChatGPT. Esta herramienta, disponible para todos los usuarios desde hace una semana, permite hacer preguntas y obtener respuestas rápidas, aunque las primeras opiniones no son nada positivas.

¿Qué es My AI y cómo funciona?

My AI es un chatbot conversacional personalizable que Snapchat lanzó en febrero de este año. Los usuarios pueden acceder a él a través de la sección para chatear en la parte superior de la pantalla, donde pueden hacer preguntas y obtener respuestas rápidas.

Lo novedoso de My AI es que se puede personalizar para que se adapte a la personalidad del usuario. Para ello, se deben proporcionar respuestas a algunas preguntas, como qué música te gusta, tus intereses y tus películas favoritas. De esta manera, My AI aprende de las preferencias de cada usuario y se adapta a ellas.

Primeras opiniones de los usuarios

A pesar de las expectativas que había generado la integración de My AI en la plataforma de Snapchat, los primeros comentarios de los usuarios no han sido muy positivos. De hecho, la puntuación media de Snapchat en la App Store de EE. UU. la semana pasada fue de 1,67 sobre 5, con el 75% de las valoraciones otorgando una sola estrella. Estos resultados contrastan con la media del primer trimestre de 2023, que fue de 3,05 y solo el 35% de las valoraciones fueron de una estrella.

El aumento del número de opiniones negativas sugiere que la nueva opción de My AI no ha sido bien recibida por la mayoría de los usuarios. Otros proveedores de datos, como Apptopia, también han confirmado esta tendencia. Al medir el impacto del término "AI" en las búsquedas y opiniones sobre esta aplicación, Apptopia ha indicado que la "puntuación de impacto" es de -9,2, cuando el rango va de -10 a +10.

Problemas con la integración de My AI

Además de las opiniones negativas de los usuarios, la implementación de My AI ha levantado otras preocupaciones, como el tema de la privacidad. La integración de tecnologías como My AI a menudo puede generar preocupaciones sobre la privacidad y la seguridad de los datos. Es importante que las empresas que ofrecen estas soluciones se aseguren de cumplir con las normativas y regulaciones en materia de privacidad y protección de datos personales.

Además, es importante que los usuarios sean informados de manera clara y concisa acerca de cómo se están utilizando sus datos y cómo se están protegiendo. Las empresas también deben brindar a los usuarios opciones claras para controlar el uso de sus datos y la posibilidad de eliminarlos si lo desean.

En cuanto a las opiniones negativas de los usuarios, es importante que las empresas presten atención a los comentarios y críticas constructivas para mejorar la calidad de sus productos y servicios. Además, deben trabajar para comunicarse de manera efectiva con los usuarios y resolver cualquier problema que puedan estar experimentando.

En general, la integración de nuevas tecnologías siempre puede presentar desafíos y preocupaciones, pero si se abordan de manera efectiva y se aborda de manera transparente con los usuarios, puede ofrecer muchos beneficios.

Posibles consecuencias tóxicas

El comportamiento de My AI al hablar de alcohol y drogas es otra preocupación que ha surgido. Los usuarios han informado que la IA puede promover el consumo de alcohol y drogas al dar respuestas sugerentes o incluso alentadoras a preguntas relacionadas con estas sustancias. Este comportamiento no solo es inapropiado, sino que también puede ser peligroso para los usuarios, especialmente para los más jóvenes y vulnerables.

En cuanto a la responsabilidad de Snapchat, es importante destacar que la empresa es responsable de las acciones de su producto y debe tomar medidas para prevenir el comportamiento tóxico de My AI. La implementación de chatbots y otras formas de IA en las redes sociales requiere una supervisión constante y una atención cuidadosa a las posibles consecuencias para los usuarios.

En resumen, la implementación de My AI en Snapchat ha levantado preocupaciones legítimas entre los usuarios y la comunidad en general. Desde su lanzamiento, ha habido varios informes de comportamiento inapropiado, sugerencias insensibles y respuestas incorrectas de la IA.

Es importante reflexionar sobre la implementación de chatbots y otras formas de IA en las redes sociales. Si bien estas tecnologías pueden mejorar la experiencia del usuario, también pueden tener consecuencias negativas, especialmente si no se supervisan adecuadamente.

Es necesario que Snapchat tome medidas para abordar los problemas con My AI y mejorar la experiencia de los usuarios. Esto puede incluir la actualización del algoritmo para evitar comportamientos tóxicos, la implementación de medidas de seguridad y privacidad más estrictas y la capacitación de la IA para comprender mejor las preguntas y respuestas sensibles.

Si quieres conocer otros artículos parecidos a Snapchat My AI: ¿Una mala implementación de chatbots? puedes visitar la categoría Inteligencia Artificial.