fbpx

ChatGPT en la tormenta

La inteligencia artificial, protagonizada por ChatGPT, el sistema de generación de lenguaje natural, no deja de crecer desde su lanzamiento en noviembre 2022. Está rebasando las expectativas, pero también crecen las voces que advierten sobre sus riesgos. En Italia, por ejemplo, ChatGPT fue prohibido debido a las fallas en la protección de información personal de los usuarios.

Los italianos ya no pueden acceder a ChatGPT

La Autoridad Nacional de Protección de Datos Personales de Italia (GPDP), decidió el viernes 31 de marzo bloquear el acceso al chatbot en todo el país, con efecto inmediato. La medida estará en vigor hasta que ChatGPT cumpla la normativa sobre protección de datos personales.

La autoridad reprocha a OpenAI de no respetar la legislación sobre datos personales. No hay base legal para recoger y almacenar información para entrenar los algoritmos. El GPDP quiere que OpenAI proporcione a sus usuarios un aviso informativo sobre el uso de sus datos. Además, el regulador lamenta que OpenAI no cuente con ninguna verificación de la edad de los usuarios, lo que tendría como efecto exponer a los más jóvenes a respuestas inadecuadas para su nivel de desarrollo.

ChatGPT puede obtener ciertos datos personales tuyos, como tu nombre, dirección de correo electrónico, número de teléfono móvil, información de tu cuenta, dirección IP, datos de ubicación, datos de uso y registro, información de chat y solicitudes, entre otros.

El GPDP ha pedido a OpenAI que informe en un plazo de 20 días sobre las medidas que está tomando para remediar la situación, o se enfrentará a una sanción de hasta 20 millones de euros.

ChatGPT y cybercriminalidad

Los avances de los modelos lingüísticos llamados (LLM), como ChatGPT, suponen un importante paso adelante para el aprendizaje automático. Demuestra su capacidad para gestionar tareas complejas. Eso tiene implicaciones potenciales para todas las industrias, incluidas las criminales.

La capacidad de ChatGPT de redactar textos casi auténticos a partir de una solicitud del usuario lo convierte en una herramienta extremadamente útil para fines de suplantación de identidad. Las estafas tradicionales de phishing antes eran más fáciles de detectar debido a errores gramaticales y ortográficos obvios, ahora es más fácil hacerse pasar por una organización o una persona. Además, se pueden crear rápidamente y de forma mucho más organizada.

Las capacidades de ChatGPT se prestan, asimismo, a una serie de posibles casos de abuso en el ámbito del terrorismo, la propaganda y la desinformación. Como tal, el modelo puede utilizarse para recopilar información que pueda facilitar las actividades terroristas, como la financiación del terrorismo o el intercambio anónimo de archivos.

Hacia una legislación de ética

El uso de la inteligencia artificial es cada vez más frecuente y su desarrollo crece de manera exponencial. La UNESCO ha avisado a todos los países que apliquen rápidamente un Marco Ético Mundial sobre esa tecnología: “El mundo necesita normas éticas más estrictas para la inteligencia artificial: este es el gran reto de nuestro tiempo”, comentó la directora general de esta organización, Audrey Azoulay.

El fundador y multimillonario dueño de Tesla, Elon Musk, y más de mil investigadores tecnológicos, entre los que se encuentra el cofundador de Apple, Steve Wozniak, hicieron un llamado para suspender el desarrollo de inteligencias artificiales avanzadas durante al menos seis meses. El objetivo es frenar lo que han denominado “una peligrosa carrera que está llevando al desarrollo de modelos más impredecibles y con capacidades cada vez mayores”.

“Los sistemas de inteligencia artificial pueden suponer un profundo riesgo para la sociedad y la humanidad, pero no se está desarrollando con el nivel de planificación y cuidado adecuado”, apuntan en su misiva.

¿Podrías perder tu empleo?

El trabajo de muchos profesionistas se podría ver afectado por la IA: matemáticos, gestores, contables y auditores, analistas financieros, reporteros y periodistas, secretarios jurídicos y asistentes administrativos, diseñadores de interfaz en internet y traductores.

Vamos a enfrentarnos a un cambio radical en el mercado de trabajo. Se espera la supresión de 300 millones de empleos, aunque nadie puede imaginar todavía el alcance de una posible crisis laboral sin precedentes en la historia de la humanidad.

Jean-Luc Lenoble
https://www.linkedin.com/in/jeanluclenoble