Hace unos días conocíamos la nueva funcionalidad de ChatGPT: la memoria; una “nueva” característica que nos resulta curiosa, porque parece que está intentando justificar que en realidad nunca había tenido memoria, cuando, seamos claros, el entrenamiento de cualquier modelo de inteligencia artificial generativa se basa en la memorización de grandes cantidades de datos.
Lo que nos están “vendiendo” ahora es que si tu le das tu consentimiento, será capaz de recordar tu información privada, para poder ofrecerte una experiencia más productiva.
Obviamente cada uno es libre de dar su consentimiento a ChatGPT, pero es importante conocer los desafíos que traen ese consentimiento. El equipo de EDJ ha leído en profundidad la información de OpenAI sobre esta nueva funcionalidad y os traemos 7 desafíos a tener en cuenta:
Desafío 1: Menores de edad
Uno de los primeros ejemplos de uso que está dando ChatGPT para utilizar la memoria es introducir datos de tus hijos para poder ayudarte luego, por ejemplo, a diseñar la tarjeta de invitación a su fiesta de cumpleaños.
El artículo 2.1 de la Ley Orgánica 1/1996, de 15 de enero, de Protección Jurídica del Menor sobre el interés superior del menor dice que: todo menor tiene derecho a que su interés superior sea valorado y considerado como primordial en todas las acciones y decisiones que le conciernan, tanto en el ámbito público como privado.
Nos rasgamos las vestiduras cuando vemos un niño con un móvil en la mano, pero fomentamos que se ofrezca a ChatGPT información como nombre, edad o gustos.
Desafío 2: Confidencialidad de datos de empresa
Otro caso de uso que ofrecen es cargar los datos del negocio para que ChatGPT cree gráficos con tres conclusiones cada uno. Cuidado por que aunque la memoria y cualquier otra información en un espacio de trabajo o workspace están excluidos del entrenamiento de los modelos, esto solo está disponible para usuarios con cuenta Team o Enterprise. Si tienes una cuenta gratuita o Plus, la información confidencial puede ser utilizada.
El Código Penal establece en su artículo 199.1 que el que revelare secretos ajenos, de los que tenga conocimiento por razón de su oficio o sus relaciones laborales, será castigado con la pena de prisión de uno a tres años y multa de seis a doce meses.
Desafío 3: Eliminar los datos memorizados
OpenAI explica que el usuario dispone de control para borrar sus datos memorizados, pero esto sólo significa que ya no se usarán para informar respuestas futuras o formar parte de la memoria visible del usuario. Sin embargo la eliminación no es total, ya que también se puede leer en las FAQs que aunque un recuerdo haya sido previamente desidentificado y desasociado de la cuenta, aún podría usarse para entrenar y mejorar el rendimiento del modelo.
Desafío 4: Retención selectiva de la Información
La tecnología detrás de esta funcionalidad de memoria permite a OpenAI elegir de manera proactiva que información recoge o no recoge, a no ser que el usuario explícitamente solicite que se guarde esa información. OpenAI hace referencia a datos hospitalarios o bancarios, pero hay que tener en cuenta que en Europa, el Reglamento General de Protección de datos impide tratar datos cuya finalidad principal sea identificar de una persona según su ideología, religión, afiliación sindical, creencias, salud, origen racial o étnico, vida sexual, datos genéticos y biométricos (Art. 9) así como datos relativos a condenas e infracciones penales (Art. 10), que podrían llegar a ser guardados en la memoria.
Desafío 5: Ética y responsabilidad
¿Hasta qué punto es ético que una inteligencia artificial recuerde información privada de los usuarios? ¿Qué límites se establecerán para el uso de esta información y quién será responsable de asegurar que se respeten estos límites? ¿Qué garantías existen de que esta información no será utilizada con fines inapropiados o compartida con terceros sin consentimiento explícito?
No hay respuesta a estas preguntas.
Desafío 6: Ciberseguridad
Con la capacidad de la función de memoria para recordar y recuperar interacciones pasadas, asegurar la seguridad de estos datos almacenados se vuelve crítico. Cualquier vulnerabilidad en el almacenamiento o la recuperación de estos datos podría llevar a accesos no autorizados y al uso indebido de información personal o sensible.
Ya hemos visto que los hackers están utilizando ChatGPT para mejorar su malware y las estrategias de ataque con ingeniería social, imagina si tienen acceso a datos personales.
Desafío 7: ¿Cuánto tiempo se guardan los datos?
Aunque esta pregunta se encuentra en la zona de FAQs, verdaderamente se deja sin responder. Se entiende que mientras tu lo aceptes se quedará memorizado. Aunque con carácter general, los datos personales deben suprimirse o cuando dejen de ser necesarios para cumplir con la finalidad para la que fueron recabados, o cuando la persona interesada ejerza el derecho de supresión de sus datos personales, sin directrices adecuadas, existe el riesgo de ceder datos de manera permanente.
Commentaires