En el marco de los “Desayunos Jurídicos”, una trilogía de encuentros virtuales organizados por Legálitas LAB y Fundación ONCE en los que debatir, informar y divulgar temas de interés social relacionados con el mundo del Derecho, el pasado jueves 11 de marzo se impartió la tercera de estas sesiones, titulada “La ética de los datos: algoritmos inclusivos”.

Durante una hora, el desayuno virtual, retransmitido a través de varias plataformas de manera telemática, varios expertos debatieron y expusieron su opinión sobre un tema tan actual como el tratamiento de nuestros datos y el uso de algoritmos que podrían beneficiar o no a todas las personas por igual.

Además, se mostró cómo el lógico incremento del consumo tecnológico durante la pandemia ha puesto de manifiesto uno de los retos más relevantes, como es el de asegurar un marco ético del uso de los datos que prevenga de todo posible daño y que aumente el bienestar social, entendiendo que, en toda estrategia de transformación digital, donde los datos son la materia prima, debería contemplarse la dimensión ética. Esto es especialmente importante en escenarios de toma de decisiones algorítmicas, en los que es necesario tener en cuenta las capacidades y el talento de las personas para no dejar a nadie atrás.

Ver vídeo completo de la sesión

La sesión fue inaugurada por José Luis Martínez Donoso, director general de la Fundación ONCE, y presentada y moderada por Miguel Ángel Villanueva, director de Relaciones Institucionales de la Fundación Legálitas y Legalitas LAB. Además, contó con la ponencia de especialistas del mundo de los derechos de las personas con discapacidad, del Derecho y de los datos personales, como Jesús Hernández-Galán, director de Accesibilidad e Innovación de la Fundación ONCE y Sara García Carrascosa, delegada de protección de datos de Legálitas (DPO).

En primer lugar, José Luis Martínez Donoso comenzó presentando la sesión sobre la ética de los datos y la necesidad de algoritmos inclusivos como “un tema de muchísima actualidad”, y es que, como expresó este experto, “los tiempos se mueven muy deprisa y causan indefensión en el ciudadano”, en especial en aquellos con algún tipo de discapacidad que se vean afectados por no poder acceder con totalidad a determinadas tecnologías.

A continuación, Miguel Ángel Villanueva planteó, antes de dar paso a los ponentes y a la sesión de preguntas y debate, una cuestión:  En la actualidad, y a pesar de no ser conscientes de ello, estamos rodeados de algoritmos. Por ejemplo, “en un supermercado, al pagar con tarjeta, estamos poniendo en marcha un algoritmo que recoge datos que los transmite a un  servidor central que recoge millones de acciones como la nuestra y que permite realizar sugerencias de consumo sobre estas y otras posibles acciones”. Asimismo, “el uso de tecnologías disruptivas nos obliga a pagar este peaje”.

¿Qué cuestiones éticas suscita la recogida y el tratamiento masivo de nuestros datos?

“Debemos hacer una reflexión ética sobre el uso que estas máquinas, estos robots, hacen de algo tan importante como es nuestra identidad y como es nuestra intimidad”, expresó Villanueva, al tiempo que lanzaba una reflexión: “¿Podemos controlar el uso de estos algoritmos poniendo el acento en las ventajas? ¿Cómo se regula nuestro ordenamiento jurídico de la protección de datos? ¿Qué cuestiones éticas suscita la recogida y el tratamiento masivo de estos datos?”

Para debatir y aprender sobre todas estas cuestiones, se dio paso a Jesús Hernández-Galán, director de Accesibilidad e Innovación de la Fundación ONCE, quien comenzó por cuestionar asimismo si la revolución digital que estamos viviendo actualmente, acentuada, sin duda, por la pandemia de la COVID-19, es realmente inclusiva. Como afirmó este experto, la pandemia ha desatado nuevas formas de relacionarnos, un nuevo paradigma, y ha acelerado la revolución en el ámbito de la computación.

“El algoritmo puede ser ético, pero alimentado por datos no éticos. Debe estar vigilado”

Ahora bien, “¿el algoritmo es ético?”, planteaba este experto, poniendo ejemplos de personas con problemas auditivos que se quedaban fuera en numerosas reuniones por videollamada, si bien este tipo de reuniones ha supuesto otras ventajas para personas con discapacidad, como la realidad aumentada, con ventajas como poder leer el nombre de las personas con las que se está haciendo una videollamada. Otro ejemplo serían las personas ciegas que no pueden hacer uso de cascos de realidad virtual: ¿se adaptarán estas tecnologías a las personas con discapacidad?

Asimismo, en su ponencia, y entre otras ideas, Jesús Hernández Galán expuso ejemplos en los que los algoritmos creados por empresas con una intención ética se han tornado en su contra y han aprendido a funcionar de manera discriminatoria, como chatbots o bots que ayuden en la selección de currículums para una vacante laboral.

“El algoritmo puede ser ético, pero ser alimentado por datos no éticos. Debe de estar vigilado por esta persona”, expresó, refiriéndose a la persona que cree este algoritmo. Es decir, se reforzó la idea de que un algoritmo siempre deberá estar gestionado por un humano que pueda garantizar que sea ético.

En materia de protección de datos, “ha habido un antes y un después del RGPD”

Para hablar del marco jurídico y control de estos datos y algoritmos, se dio paso a Sara García Carrascosa, abogada y delegada de protección de datos de Legálitas (DPO), quien hizo un completo repaso de las principales normativas en protección de datos a lo largo de los años en España, como la LOPD, y Europa, afirmando que, indudablemente, “ha habido un antes y un después del RGPD”, un reglamento europeo aplicable a toda la Unión Europea, con un marco regulatorio único, si bien cada país puede establecer “una normativa propia que concrete o que adapte el reglamento a su propia idiosincrasia, siempre dentro de esos parámetros comunes para los ciudadanos de la Unión Europea”, así como las empresas extranjeras que traten con datos relativos a ciudadanos y empresas europeas.

Asimismo, la experta puntualizó que este reglamento no ha estado exento de dudas y ambigüedades, para las cuales, la AEPD ha sido muy útil para poder esclarecer estas dudas e incertidumbres, publicando guías para las empresas y cómo debían actuar para no exponerse a sanciones.

“Nuestra normativa era muy exigente, pero ahora lo es mucho más”, anotó la abogada, “y lo va a seguir siendo, ya que todas las normativas que se están aprobando cada vez van más en esa línea: claramente, se establece la necesidad de garantizar los derechos y las obligaciones de que nuestros datos personales sean tratados de manera lícita”. Además, “que cada persona seamos conscientes de quiénes tratan nuestros datos, con qué finalidades y que podamos asumir decisiones de nuestros propios datos”.

Además, como delegada de protección de datos de Legálitas, la experta contó su propia experiencia en el correcto tratamiento de los datos de clientes, siendo una compañía que trata con numerosos datos de consultas de sus clientes sobre diversos temas. Igualmente, explicó las impresiones que Legálitas ha podido destacar a lo largo de los años gracias a su Observatorio Jurídico, que elabora cada año un ranking de las principales inquietudes legales de los ciudadanos, y que en 2018 observó cómo aquellas consultas relacionadas con protección de datos se dispararon con respecto a períodos anteriores.

Los espectadores de la sesión pudieron asimismo enviar sus dudas y preguntas y se plantearon diversas cuestiones como cuáles serán las necesidades regulatorias de nuevas tecnologías y algoritmos para que se garantice su uso ético según se vayan desarrollando nuevas funcionalidades.

El webinar llegó a su fin tras una intensa conversación y un productivo debate y, si bien se concluyó el tercero de los Desayunos Jurídicos organizados por Legálitas LAB y la Fundación ONCE, gracias a la positiva acogida de estos encuentros, se dejó la puerta abierta para nuevas sesiones en los próximos meses. ¡Hasta la próxima!