Comunicado: Serbia se une al grupo de países en los que los algoritmos discriminatorios impulsados por el gobierno se desafían en los tribunales

El 28 de noviembre, una coalición internacional de organizaciones de derechos humanos presentó una opinión legal ante el Tribunal Constitucional de Serbia solicitando la revisión judicial de la Ley de la Tarjeta Social (Social Card Law en inglés) una ley pregonada como promotora de la eficiencia del sistema de protección social, pero que, según las organizaciones, se inscribe en una peligrosa tendencia global de digitalización de los sistemas del Estado de bienestar que castiga y viola los derechos humanos de las comunidades más marginadas.

"La introducción de nuevas tecnologías digitales y procesos automatizados de toma de decisiones en los programas de bienestar social ya ha tenido efectos devastadores sobre los derechos humanos en todo el mundo, y estos se dejan sentir especialmente en los grupos históricamente marginados. Desde el Reino Unido hasta la India, los sistemas de bienestar social digitalizados han exacerbado la exclusión, dejando a algunos beneficiarios sin acceso a derechos fundamentales que les salvan la vida", afirma Victoria Adelmant, del Digital Welfare State & Human Rights Project (Centro de Derechos Humanos y Justicia Global de la Facultad de Derecho de la New York University) y una de las organizaciones autoras de la opinión legal.

La Ley de la Tarjeta Social comenzó a implementarse el 1 de marzo de 2022, según el gobierno serbio, para establecer un registro centralizado de las tarjetas sociales que permitiría un reparto más justo de las prestaciones sociales para las comunidades más marginadas y evitaría el fraude.

La opinión legal afirma que la Ley de la Tarjeta Social restringe, entre otros, el derecho a la seguridad social de las comunidades más necesitadas de estas prestaciones, en particular la romaní, contraviniendo también las obligaciones existentes de Serbia en virtud de la legislación internacional sobre derechos humanos, como el Convenio Europeo de Derechos Humanos y el Pacto Internacional de Derechos Económicos, Sociales y Culturales.

La opinión señala que el procesamiento de datos y la automatización que contempla la ley parecen estar diseñados para excluir a los actuales beneficiarios del sistema, en lugar de hacerlo más justo y erradicar la pobreza. Además, con la automatización del sistema, las personas a las que se les anulan las prestaciones no tienen ninguna forma fiable de verificar la exactitud de la información utilizada para tomar esa decisión, o de impugnarla. 

Según la organización serbia de derechos humanos A11 Initiative, más del 10 por ciento de los beneficiarios han sido retirados del sistema de protección social desde que la ley entró en vigor.

"El sistema de protección social debe dirigirse a las personas. Debería emplear a trabajadores sociales que fueran sensibles a las diversas circunstancias difíciles de la vida de las personas. Tal como está, el proceso está completamente deshumanizado. El sistema sirve sobre todo para procesar estérilmente los datos, sin contexto, y para tratar de encontrar la manera de negar el acceso a los usuarios", afirma Danilo Ćurčić, de la Iniciativa A11.

Asimismo, las organizaciones alertan de que la consolidación de datos sensibles procedentes de ámbitos de diverso rango en un único registro crea un sistema de vigilancia digital intrusivo que plantea graves riesgos para los derechos a la privacidad y a la protección de datos, lo que contraviene los principios de protección de datos basados en los derechos humanos y de las leyes de protección de datos, como el Reglamento General de Protección de Datos (RGPD) de la Unión Europea.

En línea con los informes de los expertos de las Naciones Unidas sobre los "sistemas digitales de bienestar", la coalición advierte que las pruebas empíricas de los impactos de los sistemas digitalizados y automatizados de prestaciones sociales, bienestar e identificación en otros países, demuestran cómo los riesgos para los derechos humanos que conlleva esta ley en Serbia son más que preocupaciones teóricas.

“La decisión que tome el tribunal de Serbia tiene impactos a nivel mundial porque son muy pocos los precedentes de altas cortes que analicen iniciativas de digitalización de tal magnitud”, señala Daniel Ospina de la organización colombiana Dejusticia, también coautora de la opinión.

La opinión ilustra con ejemplos concretos cómo la implantación de sistemas digitalizados ha dado lugar a violaciones de los derechos humanos en Australia, Colombia, India, Kenia, Países Bajos, Polonia, Uganda y Reino Unido.

ESCR-Net – International Network for Economic, Social and Cultural Rights coordinó esta opinión legal realizada por Amnestía Internacional, Centro de Estudios de Derecho, Justicia y Sociedad (Dejusticia);  Digital Welfare State & Human Rights Project (DWS Project) basado en el Center for Human Rights & Global Justice at New York University School of Law; European Roma Rights Center (ERRC); Initiative for Social and Economic Rights (ISER); Kenya Human Rights Commission (KHRC); Program on Human Rights and the Global Economy (PHRGE) & Center for Public Interest Advocacy and Collaboration (CPIAC) at Northeastern University.

Nota para editores:

• La opinión legal en inglés en este link y en serbio en este link.
• B-roll: Vídeo filmado por la Iniciativa A11, sobre los usuarios que fueron retirados del sistema tras la aplicación de la Ley de la Tarjeta Social en Serbia. (En serbio con subtítulos en inglés). Descarga por WeTransfer aquí. Ver vídeo en Youtube aquí.
• Además de la estrategia legal, la coalición celebrará una rueda de prensa el 29 de noviembre en Belgrado y un acto público el 30 de noviembre en el Centro de Conferencias Envoy, Gospodar Jevremova 47, Belgrado, Serbia, a las 16 horas. Programa del evento aquí. Registro para participar en línea aquí.
• Estados de bienestar digitales y derechos humanos - El informe del Relator Especial sobre la extrema pobreza y los derechos humanos de 2019 aquí.
• ESCR-Net conecta a más de 280 ONGs, movimientos sociales y defensores en más de 75 países para construir un movimiento global que haga de los derechos humanos y la justicia social una realidad para todas las personas.

Entrevistas en información adicional:

Esther de la Rosa, ESCR-Net Communications Coordinator | edelarosa@escr-net.org
Sigue la conversación en Twitter @ESCRNet