Gobernanza y supervisión humana de la toma de decisiones automatizada basada en la elaboración de perfiles

Abstract

La toma de decisiones automatizada basada en la elaboración de perfiles que realiza predicciones o clasificaciones sobre nosotros forma ya parte de lo cotidiano. Con la evolución de las tecnologías se produce una reducción gradual de la participación humana en los procesos de toma de decisiones. No obstante, el Derecho no parece querer renunciar a la supervisión humana de dichos procesos.Siguiendo esta misma lógica, el RGPD prohíbe en su artículo 22 la toma de decisiones, incluida la elaboración de perfiles, basada únicamente en el tratamiento automatizado, imponiendo la inclusión deintervención humana en el proceso decisorio para esquivar dicha prohibición. Incluso cuandoexcepcionalmente habilita la toma de decisiones basada únicamente en el tratamiento automatizadoimpone una intervención humana posterior a la adopción de la decisión como medida de salvaguarda.Sin embargo, estos mecanismos de gobernanza basados en la intervención humana han recibido escasointerés por la doctrina y la jurisprudencia. Ello genera una notoria falta de seguridad jurídica a la hora de interpretar qué clase de intervención humana es exigida por el RGPD y cómo puede implementarse en un proceso de toma de decisiones automatizada. Esta investigación trata de ser una aportación preliminar en esta línea a partir, primero, del análisis del vilipendiado artículo 22 RGPD; y posteriormente, partiendo del principio nuclear de la responsabilidad en el ecosistema normativo del RGPD, destacando las obligaciones que introduce la evaluación de impacto de protección de datos en relación con la intervención humana.A la luz de este análisis jurídico, puede concluirse que el RGPD exige una intervención humana significativa y demostrable para la toma de decisiones automatizada basada en la elaboración de perfiles.Ahora bien, este optimismo debe contrarrestarse con una necesaria dosis de realismo: resulta indispensable -y urgente- introducir reformas para hacer efectiva dicha intervención humana significativa y demostrable.