Legislación

RGPD - Reglamento General de Protección de Datos (UE 2016/679)

El RGPD es la ley fundamental de protección de datos de la Unión Europea, en vigor desde mayo de 2018, y el instrumento más significativo desde el punto de vista operativo que regula cualquier sistema de IA que procese datos personales. Establece seis principios básicos (licitud, lealtad, transparencia, limitación de la finalidad, minimización de datos, exactitud, limitación del plazo de conservación y responsabilidad proactiva) y otorga a las personas derechos exigibles, incluidos el derecho de supresión, el derecho a la portabilidad de los datos y, de forma crucial para los agentes de IA, el derecho del artículo 22 a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos jurídicos o efectos igualmente significativos. Este último derecho constituye la base jurídica directa de las vías obligatorias con intervención humana en cualquier agente @Human cuyos resultados puedan afectar materialmente a una persona física.

Ley de IA de la UE - Reglamento (UE) 2024/1689

La Ley de IA de la UE, que entró en vigor en agosto de 2024, es el primer marco jurídico integral del mundo que regula específicamente los sistemas de inteligencia artificial, y se aplica a cualquier IA cuyos resultados se utilicen dentro de la Unión Europea, independientemente de dónde esté establecido el proveedor. Establece una clasificación de riesgos en cuatro niveles —inaceptable, alto, limitado y mínimo— e impone obligaciones progresivas en consecuencia, con el artículo 5 enumerando una lista de prohibiciones absolutas que incluye el reconocimiento de emociones en los lugares de trabajo, la puntuación social, la manipulación subliminal, la categorización biométrica para inferir características sensibles y la identificación biométrica remota en tiempo real; el artículo 14 exige una supervisión humana significativa para los sistemas de alto riesgo; y el artículo 50 requiere que se informe a los usuarios cuando estén interactuando con un sistema de IA, convirtiéndola en la principal fuente jurídica de las restricciones de comportamiento en los Agentes @Human.

CETS 225 - Convenio Marco del Consejo de Europa sobre IA (2024)

Adoptado el 17 de mayo de 2024 y abierto a la firma el 5 de septiembre de 2024, el CETS 225 es el primer tratado internacional vinculante del mundo sobre inteligencia artificial, firmado por la Unión Europea, Estados Unidos, el Reino Unido, Canadá, Australia, Japón, Israel y México, y aplicable a los sistemas de IA a lo largo de todo su ciclo de vida, desde el diseño y el desarrollo hasta el despliegue y la desactivación. Exige que todas las actividades de IA sean coherentes con las obligaciones en materia de derechos humanos, la dignidad humana, la no discriminación, la transparencia, la rendición de cuentas y el Estado de derecho; introduce obligaciones explícitas sobre igualdad y no discriminación (artículo 10), supervisión humana y derecho a una intervención significativa (artículo 11), y rendición de cuentas por impactos adversos (artículo 9), convirtiéndolo en el anclaje jurídico internacional más amplio para la Capa de Cumplimiento del Tratado de @Human y en el instrumento que extiende sus obligaciones más allá de la UE a todos los Estados signatarios.

Carta de los Derechos Fundamentales de la UE

La Carta de la UE, que tiene la misma fuerza jurídica que los propios Tratados de la UE, consagra los derechos fundamentales de todas las personas en la Unión Europea y vincula a todas las instituciones de la UE y a los Estados miembros cuando actúan dentro del ámbito del Derecho de la UE. Para los agentes de IA, sus disposiciones más relevantes son el artículo 7 (respeto de la vida privada y familiar), el artículo 8 (derecho a la protección de los datos personales, que tiene un carácter constitucional y no meramente regulatorio), el artículo 20 (igualdad ante la ley), el artículo 21 (no discriminación por motivos de sexo, raza, etnia, religión, discapacidad, edad y orientación sexual) y el artículo 47 (derecho a la tutela judicial efectiva y a un juicio justo), que en conjunto establecen la base constitucional para la protección de datos, el comportamiento no discriminatorio de los agentes y la impugnabilidad de las decisiones automatizadas.

CEDH - Convenio Europeo de Derechos Humanos (ETS n.º 005)

El CEDH es el tratado fundamental de derechos humanos del Consejo de Europa, vinculante para los 46 Estados miembros y aplicado por el Tribunal Europeo de Derechos Humanos, cuyas sentencias han configurado directamente la normativa sobre vigilancia en el lugar de trabajo y privacidad de los datos. Para los agentes de IA, el artículo 8 —el derecho al respeto de la vida privada y familiar— es la disposición más relevante; el Tribunal lo ha interpretado en casos emblemáticos de vigilancia laboral, como Barbulescu contra Rumanía (2017) y López Ribalda contra España (2019), para imponer estrictos requisitos de proporcionalidad a la supervisión empresarial, informando directamente las restricciones aplicables a los agentes de monitoreo de trabajadores en @Human, mientras que el artículo 10 (libertad de expresión) y el artículo 11 (libertad de reunión y de asociación, incluidos los derechos sindicales) proporcionan la base para las prohibiciones sobre la supresión de contenidos y el seguimiento de la actividad sindical por parte de los agentes.

Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial (2021)

Adoptada por unanimidad por los 193 Estados miembros de la UNESCO en noviembre de 2021, este es el primer instrumento global sobre ética de la IA respaldado a nivel intergubernamental. Aunque es una recomendación y no un tratado vinculante, el apoyo de todos los Estados miembros de la ONU le otorga una autoridad normativa sustancial como consenso ético العالمي sobre la IA. Establece once principios básicos, entre ellos la proporcionalidad y no causar daño, seguridad y protección, equidad y no discriminación, privacidad y protección de datos, supervisión y determinación humanas, transparencia y explicabilidad, responsabilidad y rendición de cuentas, y sostenibilidad ambiental. Su principio de proporcionalidad exige que, en casos de decisiones irreversibles o que alteren la vida, los seres humanos conserven la última palabra.

Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos (UNGPs, 2011)

Respaldados por el Consejo de Derechos Humanos de la ONU en junio de 2011, los UNGPs establecen el estándar mundial de responsabilidad empresarial de respetar los derechos humanos. Se estructuran en torno a tres pilares: el deber del Estado de proteger los derechos humanos, la responsabilidad empresarial de respetarlos mediante la diligencia debida en materia de derechos humanos (HRDD, por sus siglas en inglés), y el acceso a remedios para las personas afectadas. El Grupo de Trabajo de la ONU sobre Empresas y Derechos Humanos ha aplicado explícitamente los UNGPs a la adquisición y el despliegue de IA, lo que significa que cualquier empresa que implemente agentes de IA —incluido @Human— asume obligaciones de HRDD para identificar, prevenir, mitigar y rendir cuentas de los impactos adversos sobre los derechos humanos.

Convenios Fundamentales de la OIT sobre el Trabajo - C87, C98, C111, C190 y Declaración sobre las EMN

Los convenios fundamentales de la Organización Internacional del Trabajo representan el umbral mundial mínimo de los derechos de los trabajadores, son vinculantes para los 187 Estados miembros de la OIT que los han ratificado y forman parte de la Declaración de la OIT relativa a los principios y derechos fundamentales en el trabajo. El Convenio C87 (1948) protege la libertad sindical y el derecho de sindicación; el C98 (1949) protege el derecho de negociación colectiva; el C111 (1958) prohíbe la discriminación en el empleo y la ocupación por motivos de sexo, raza, color, religión, opinión política, ascendencia nacional y origen social; el C190 (2019) protege a los trabajadores frente a la violencia y el acoso; y la Declaración de la OIT sobre las Empresas Multinacionales extiende estas obligaciones a la diligencia debida en materia de derechos humanos en la cadena de suministro; en conjunto, forman la base jurídica de las prohibiciones de @Human sobre la vigilancia de la actividad sindical, la discriminación algorítmica en la contratación y la evaluación, y la supervisión abusiva de los trabajadores, así como de las auditorías de sesgo obligatorias requeridas antes de desplegar cualquier agente en un contexto laboral.