EL COMISARIO DE PROTECCIÓN DE DATOS Y LIBERTAD DE INFORMACIÓN DE HAMBURGO LISTA UN CONJUNTO DE ASPECTOS PARA EL USO CONTROLADO DE CHATBOTS.
La Agencia de Protección de Datos de Hamburgo ha publicado una lista de verificación que contempla 15 aspectos a fin de guiar a las empresas y autoridades en la utilización de chatbots, en concreto, grandes modelos de lenguaje (LLM – Long Language Models), para cumplir de forma efectiva y real con las normas de protección de datos.
La IA generativa en forma de chatbots (tales como ChatGPT o Bard), se han convertido en un apoyo para el trabajo diario. Sin embargo, estos chats no suelen contar con unas directrices vinculantes que dicten su uso. Por este motivo, sumado al hecho de que la mayoría de estos modelos lingüísticos operan normalmente en la nube, plantea diferentes riesgos en materia de protección de datos, así como riesgos en la transmisión de secretos comerciales o datos personales a la hora de interactuar con el chat y retroalimentar su algoritmo de funcionamiento. También existe el riesgo de un procesamiento inadecuado de datos especiales, traducido en resultados incorrectos e indeseados.
En este sentido, Agencia de Protección de Datos de Hamburgo ha creado 15 aspectos a tener en cuenta para ejercer cierto control en la interacción con los chatbots (LLM). Los aspectos son los siguientes: (i) especificar las normas de cumplimiento; (ii) involucrar a delegados de protección de datos; (iii) proporcionar cuentas de chatbox profesionales; (iv) implementación de autenticación segura; (v) prohibir de la entrada de datos personales; (vi) no divulgación de datos personales; (vii) extremar precaución con los datos de identificación personal; (viii) rechazar el uso de sus datos con fines formativos; (ix) optar por no participar en el historial; (x) verificar la precisión de los resultados; (xi) verificar los resultados para detectar discriminación; (xii) oponerse a decisiones finales automatizadas; (xiii) sensibilizar a los empleados; (xiv) proteger los derechos de autor o los secretos comerciales; (xv) realizar un seguimiento del desarrollo futuro.
Más información : https://datenschutz-hamburg.de/news/checkliste-zum-einsatz-llm-basierter-chatbots