ChatGPT enfrenta problemas de privacidad y protección de datos en Italia

En los últimos tiempos, la inteligencia artificial y sus aplicaciones han avanzado rápidamente, proporcionando una amplia gama de beneficios en diversas áreas. Sin embargo, junto con estas ventajas, también han surgido preocupaciones legítimas sobre el uso potencialmente perjudicial de la IA en nuestra sociedad. Uno de los temas más candentes es el uso de sistemas de lenguaje natural como ChatGPT, que ha generado un intenso debate sobre si debería ser prohibido en Europa.

La popular IA de OpenAI, ChatGPT, ha tenido que enfrentarse recientemente a dos problemas importantes en cuestión de semanas: la carta de un millar de referentes del mundo tecnológico preocupados por GPT-4 y la decisión de las autoridades italianas de bloquear la herramienta por preocupaciones de privacidad y protección de datos.

¿Qué es ChatGPT y cómo funciona?

ChatGPT es un modelo de lenguaje natural desarrollado por OpenAI que utiliza el aprendizaje profundo para generar respuestas a partir de la entrada de texto del usuario. Utiliza una gran cantidad de datos y algoritmos para comprender el contexto y la intención detrás de las palabras, lo que le permite producir respuestas que pueden parecer completamente humanas.

¿Por qué Italia bloqueó ChatGPT?

Garante, el organismo italiano encargado de la protección de datos, ha bloqueado ChatGPT en el país tras detectar dos peculiaridades: una recogida de datos ilícita y la falta de un sistema que permita verificar la edad de los menores. La medida es temporal y ha dado a la compañía 20 días para que demuestre su cumplimiento de la ley. De momento, Garante ha abierto ya una investigación.

Falta de información y recogida de datos personales

El organismo italiano ha puesto la lupa en la recogida de datos personales. "No se proporciona información a los usuarios ni interesados cuyos datos recopila OpenAI. Y lo que es más importante, no parece haber ninguna base jurídica que justifique la recopilación y procesamiento masivos de datos personales para ‘entrenar’ los algoritmos en los que se basa la plataforma", concluye Garante.

Falta de un sistema de verificación de la edad de los usuarios

El servicio de OpenAI se dirige supuestamente a mayores de 13 años, pero no se aprecia ningún mecanismo de verificación de la edad para los usuarios. "Expone a los niños a recibir respuestas absolutamente inapropiadas para su edad y conocimiento", remarca Garante.

Impacto del bloqueo de ChatGPT en OpenAI y otras empresas de inteligencia artificial

La decisión de Italia se sigue con atención desde otros países, que han asistido también al despliegue de chatbots y el motor de OpenAI. La abogada Dessislava Savova asegura que ha demostrado que el GDPR puede ofrecer "herramientas para que los reguladores se impliquen en la configuración del futuro de la inteligencia artificial".

Reuters asegura que los reguladores de Francia e Irlanda se han comunicado ya con sus homólogos italianos para lograr más información sobre el paso que acaban de dar allí. Esta misma semana el ministro galo para la Transición Digital, Jean Noël-Barrot, se mostraba sin embargo contrario a prohibir ChatGPT.

Hace poco el diario Handelsblatt publicaba que Alemania podría seguir los pasos de Italia para velar por la protección de datos. "En principio, una acción de este tipo también es posible en Alemania", señala un portavoz del Comisario Federal de Protección de Datos, Ulrich Kelber. “Estamos haciendo un seguimiento con el regulador italiano”.

¿Qué opina OpenAI al respecto?

OpenAI ha reconocido estas preocupaciones y ha tomado medidas para limitar el uso malintencionado de ChatGPT. Por ejemplo, ha restringido el acceso a su modelo y ha puesto en marcha un programa de verificación para aquellos que deseen utilizarlo. Además, ha desarrollado una serie de herramientas para detectar el uso malicioso de su modelo y ha creado un equipo dedicado para investigar los posibles riesgos de seguridad.

¿Debería prohibirse ChatGPT en Europa?

Aunque existen preocupaciones legítimas sobre el uso de ChatGPT, una prohibición total en Europa no parece ser la mejor solución. En lugar de prohibir la tecnología en sí, sería más eficaz centrarse en la regulación y el control del uso de ChatGPT. Esto podría incluir la implementación de medidas de seguridad más estrictas para prevenir el uso malintencionado y la promoción de la educación pública sobre cómo identificar y combatir la información falsa.

¿Qué pasara con ChatGPT?

OpenAI tiene la tarea de abordar los problemas de privacidad y protección de datos de ChatGPT para recuperar la confianza de los reguladores y los usuarios. Esto podría incluir mejorar su sistema de verificación de edad, proporcionar más información y transparencia a los usuarios y adoptar medidas adicionales para proteger la privacidad de los usuarios.

La decisión de Italia podría afectar la popularidad y el uso de ChatGPT, pero también podría ser una oportunidad para que OpenAI demuestre su compromiso con la privacidad y la protección de datos. A medida que la regulación de la IA se vuelve cada vez más importante, OpenAI y otras empresas tendrán que adoptar medidas adicionales para proteger la privacidad y la seguridad de los usuarios.

Si quieres conocer otros artículos parecidos a ChatGPT enfrenta problemas de privacidad y protección de datos en Italia puedes visitar la categoría Inteligencia Artificial.