Declaración de Toronto - Enciclopedia

La Declaración de Toronto: Protegiendo los Derechos a la Igualdad y a la No Discriminación en los Sistemas de Aprendizaje Automático es una declaración que defiende prácticas responsables para los profesionales del aprendizaje automático y los órganos reguladores. Es una declaración conjunta emitida por grupos como Amnistía Internacional y Access Now, con otros firmantes notables incluyendo Human Rights Watch y The Wikimedia Foundation. Fue publicada en RightsCon el 16 de mayo de 2018.

La Declaración se centra en las preocupaciones de sesgo algorítmico y la posibilidad de discriminación que surge del uso del aprendizaje automático y la inteligencia artificial en aplicaciones que pueden afectar la vida de las personas, "desde la policía, hasta los sistemas de bienestar, hasta la prestación de servicios de salud, hasta plataformas para el discurso en línea". Una preocupación secundaria del documento es la posibilidad de violaciones de la privacidad de la información.

El objetivo de la Declaración es establecer "estándares tangibles y aplicables para los estados y el sector privado". La Declaración pide soluciones tangibles, como reparaciones para las víctimas de la discriminación algorítmica.

Contenido
La Declaración de Toronto consta de 59 artículos, divididos en seis secciones, que se refieren a la legislación internacional de derechos humanos, las obligaciones de los estados, las responsabilidades de los actores del sector privado y el derecho a una reparación efectiva.

= Prólogo =
El documento comienza preguntando: "En un mundo de sistemas de aprendizaje automático, ¿quién será el responsable de dañar los derechos humanos?". Argumenta que todos los profesionales, ya sean del sector público o privado, deben estar conscientes de los riesgos para los derechos humanos y abordar su trabajo teniendo en cuenta los derechos humanos – conscientes de las leyes, estándares y principios internacionales existentes. El documento define los derechos humanos para incluir "el derecho a la privacidad y la protección de datos, el derecho a la libertad de expresión y asociación, a la participación en la vida cultural, la igualdad ante la ley y el acceso a una reparación efectiva"; pero states that the Declaration is most concerned with equality and non-discrimination.

= Uso del marco de la legislación internacional de derechos humanos =
El marco de la legislación internacional de derechos humanos enumera varios derechos, proporciona mecanismos para hacer responsables a los violadores y asegura la reparación para los violados. El documento cita la definición del Comité de Derechos Humanos de las Naciones Unidas sobre la discriminación como "cualquier distinción, exclusión, restricción o preferencia que se base en cualquier motivo [que incluye pero no se limita a] raza, color, sexo, idioma, religión, opinión política u otra, origen nacional o social, propiedad, nacimiento u otro estado, y que tenga por objeto o efecto anular o impedir el reconocimiento, disfrute o ejercicio por todas las personas, en condiciones de igualdad, de todos los derechos y libertades".

Los gobiernos deben crear medidas obligatorias de manera proactiva y las entidades privadas deben crear políticas internas para proteger contra la discriminación. Las medidas pueden incluir la protección de datos sensibles, especialmente para las poblaciones vulnerables. Los sistemas deben diseñarse en colaboración con una comunidad diversa para evitar la discriminación en el diseño.

= Obligaciones de los estados: obligaciones de derechos humanos =
Los gobiernos hoy en día están desplegando sistemas de aprendizaje automático, a menudo en colaboración con entidades privadas. Incluso cuando el desarrollo se contrata a terceras partes, los gobiernos mantienen su obligación de proteger los derechos humanos. Antes de la implementación y de manera continua después de ella, deben identificar riesgos y realizar auditorías regulares, luego tomar todas las medidas necesarias para mitigar estos riesgos. Deben ser transparentes sobre cómo se implementa y utiliza el aprendizaje automático, evitando sistemas de caja negra cuyos lógicos no puedan explicarse fácilmente. Los sistemas deben someterse a una supervisión estricta por parte de comités internos diversificados y autoridades judiciales independientes.

Los gobiernos también deben proteger a los ciudadanos de la discriminación por parte de entidades privadas. Además de la supervisión, deben aprobar leyes obligatorias contra la discriminación, así como de protección de datos y privacidad, y deben proporcionar medios efectivos para que los individuos afectados busquen reparación. Es importante que los gobiernos nacionales y regionales amplíen y contextualicen la legislación internacional.

= Responsabilidades de los actores del sector privado: diligence en derechos humanos =
Las entidades privadas son responsables de realizar "diligencia en derechos humanos". Al igual que los gobiernos, las entidades privadas deben identificar riesgos antes del desarrollo considerando riesgos comunes y consultando a las partes interesadas, "incluso a grupos afectados, organizaciones que trabajan en derechos humanos, igualdad y discriminación, así como expertos independientes en derechos humanos y aprendizaje automático". Deben diseñar sistemas que mitiguen riesgos, someter sistemas a auditorías regulares y abandonar proyectos que presenten riesgos demasiado altos. Deben ser transparentes sobre los riesgos asumidos, incluyendo detalles de la implementación técnica cuando sea necesario, y proporcionar un mecanismo para que los individuos afectados puedan disputar cualquier decisión que los afecte.

= Derecho a una reparación efectiva =
"El derecho a la justicia es un elemento vital de la legislación internacional de derechos humanos". Las entidades privadas deben crear procesos para que los individuos afectados busquen reparación y designar roles para quién supervisará estos procesos. Los gobiernos deben ser especialmente cautelosos al desplegar sistemas de aprendizaje automático en el sector de justicia. La transparencia, la rendición de cuentas y la reparación pueden ayudar.

Referencias