Archivo - Una persona prueba el asistente DeepSeek, a 29 de enero de 2025, en Madrid (España). El asistente DeepSeek llegó a App Store el pasado 11 de enero, y ha escalado para ocupar la primera posición en la tienda de Apple en Estados Unidos, por delant - Eduardo Parra - Europa Press - Archivo
MADRID, 27 Oct. (EUROPA PRESS) -
La Agencia Española de Protección de Datos (AEPD) recomienda a los usuarios fijar "límites claros" a los asistentes de inteligencia artificial (IA) bajo la premisa de que "el agente prepara y la persona aprueba" y aconseja no conceder autorizaciones permanentes y revisar su memoria, historial y privacidad para proteger los datos.
Así lo indica la Agencia, que ha publicado el documento 'Asistentes y agentes de IA: Decálogo para personas usuarias', con consejos y recomendaciones para aprovechar el potencial de estas herramientas con seguridad.
Según explica, los asistentes y agentes de inteligencia artificial son capaces de realizar tareas de forma autónoma. De este modo, la AEPD es consciente de su "utilidad", pero advierte de que "el salto de responder a actuar cambia la naturaleza de los errores".
"Cuando el asistente solo responde, un error es una respuesta equivocada. Cuando actúa, es un correo enviado, un archivo compartido, una compra, un contrato o un consentimiento dado en tu nombre", detalla la Agencia, que propone hacerse cinco preguntas antes de delegar: qué puede ver, qué puede recordar, qué puede hacer en mi nombre, dónde envía los datos y si afecta a alguien más.
En este sentido, la AEPD alerta de que "no se trata de riesgos teóricos" y argumenta que recientemente se ha conocido el caso de un usuario que encargó a su agente vender un objeto y eligió la opción "permitir siempre", creyendo que seguiría pidiéndole autorización antes de aceptar ofertas. El agente cerró el trato y facilitó su dirección al comprador, que apareció en el domicilio del vendedor sin que este supiera que se había concertado la cita.
De este modo, la Agencia aconseja indicar qué debe hacer el agente y qué no. "Esos límites son orientativos, pero no sustituyen a los permisos y las confirmaciones".
PROVEEDORES CLARAMENTE IDENTIFICADOS
Revisar quién presta el servicio y elegir proveedores claramente identificados, que permitan ejercer los derechos en la Unión Europea y, preferiblemente, procesen los datos en el propio dispositivo son otros de los consejos.
Por otro lado, la Agencia recomienda utilizar los controles de memoria, historial y privacidad del servicio para eliminar información, sin confiar solo en pedírselo al asistente en la conversación.
Según señala, una web, un correo, un documento o una invitación de calendario pueden contener instrucciones ocultas, incluso invisibles a simple vista (como un texto blanco sobre fondo blanco), destinadas a que el agente haga algo distinto de lo que le pidió la persona, como enviar datos o aprobar una operación.
"Como ninguna medida elimina por completo este riesgo, la mejor protección es limitar lo que el agente puede hacer si consigue ser engañado", subraya.
El documento también recuerda que, en el correo, la agenda o las fotos hay información de otras personas que no han decidido relacionarse con esa IA, por lo que llama a proteger también los datos de los demás.
En dispositivos compartidos, aconseja utilizar perfiles separados y, si los usan menores de edad, crear perfiles para ellos y acompañarlos durante su uso.
En materia de seguridad, la AEPD recomienda proteger la cuenta y el dispositivo, e instalar solo complementos y conectores de origen conocido. Igualmente, insta a supervisar al agente, saber cómo detenerlo y retirar sus accesos antes de necesitarlo.
En el ámbito laboral, la Agencia destaca la importancia de utilizar únicamente los asistentes autorizados por cada organización y no conectar el correo o los documentos profesionales a una cuenta personal de IA.
El decálogo subraya que la responsabilidad sobre los asistentes y agentes de IA no puede recaer solo en la persona usuaria. "Quienes ofrecen herramientas capaces de actuar en nombre de las personas deberían proporcionar también controles: permisos comprensibles que distingan consultar de actuar, confirmación configurable para las acciones de mayor impacto, un historial de lo que el agente ha hecho, una forma inmediata de detenerlo, gestión y borrado de la memoria, información sobre a quién se envían los datos y si se usan para entrenar la IA, y una vía sencilla para ejercer los derechos", concluye.
