Législation

RGPD - Règlement général sur la protection des données (UE 2016/679)

Le RGPD est la loi fondamentale de l'Union européenne en matière de protection des données, en vigueur depuis mai 2018, et l'instrument le plus important sur le plan opérationnel régissant tout système d'IA qui traite des données à caractère personnel. Il établit six principes fondamentaux (licéité, loyauté, transparence, limitation des finalités, minimisation des données, exactitude, limitation de la conservation et responsabilité) et confère aux personnes des droits opposables, notamment le droit à l'effacement, le droit à la portabilité des données et, de manière cruciale pour les agents d'IA, le droit prévu à l'article 22 de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou des effets significatifs similaires. Ce dernier droit constitue la base juridique directe des parcours obligatoires de supervision humaine dans tout @Human Agent dont les sorties peuvent avoir une incidence matérielle sur une personne physique.

Loi sur l'IA de l'UE - Règlement (UE) 2024/1689

La loi européenne sur l'IA, entrée en vigueur en août 2024, est le premier cadre juridique complet au monde régissant spécifiquement les systèmes d'intelligence artificielle, applicable à toute IA dont les résultats sont utilisés dans l'Union européenne, quel que soit le lieu d'établissement du fournisseur. Elle instaure une classification des risques à quatre niveaux - inacceptable, élevé, limité et minimal - et impose en conséquence des obligations graduées, l'article 5 énonçant une liste d'interdictions absolues, notamment la reconnaissance des émotions sur les lieux de travail, la notation sociale, la manipulation subliminale, la catégorisation biométrique visant à déduire des caractéristiques sensibles et l'identification biométrique à distance en temps réel ; l'article 14 imposant une supervision humaine significative pour les systèmes à haut risque ; et l'article 50 exigeant que les utilisateurs soient informés lorsqu'ils interagissent avec un système d'IA, ce qui en fait la principale source juridique des contraintes comportementales dans les @Human Agents.

CETS 225 - Convention-cadre du Conseil de l'Europe sur l'IA (2024)

Adopté le 17 mai 2024 et ouvert à la signature le 5 septembre 2024, le CETS 225 est le premier traité international contraignant au monde sur l'intelligence artificielle, signé par l'Union européenne, les États-Unis, le Royaume-Uni, le Canada, l'Australie, le Japon, Israël et le Mexique, et applicable aux systèmes d'IA sur l'ensemble de leur cycle de vie — de la conception et du développement au déploiement et à la mise hors service. Il exige que toutes les activités liées à l'IA soient conformes aux obligations en matière de droits de l'homme, à la dignité humaine, à la non-discrimination, à la transparence, à la responsabilité et à l'État de droit ; il introduit des obligations explicites en matière d'égalité et de non-discrimination (article 10), de supervision humaine et de droit à une intervention significative (article 11), ainsi que de responsabilité en cas d'effets négatifs (article 9), ce qui en fait l'ancrage juridique international le plus large pour la @Human Treaty Compliance Layer et l'instrument qui étend ses obligations au-delà de l'UE à tous les États signataires.

Charte des droits fondamentaux de l'Union européenne

La Charte de l'UE, qui a la même force juridique que les traités de l'UE eux-mêmes, consacre les droits fondamentaux de toutes les personnes dans l'Union européenne et lie toutes les institutions de l'UE ainsi que les États membres lorsqu'ils agissent dans le champ du droit de l'UE. Pour les agents d'IA, ses dispositions les plus pertinentes sont l'article 7 (respect de la vie privée et familiale), l'article 8 (droit à la protection des données à caractère personnel, qui a un statut constitutionnel et non pas seulement réglementaire), l'article 20 (égalité devant la loi), l'article 21 (non-discrimination fondée notamment sur le sexe, la race, l'origine ethnique, la religion, le handicap, l'âge et l'orientation sexuelle) et l'article 47 (droit à un recours effectif et à un procès équitable), qui établissent ensemble le fondement constitutionnel de la protection des données, du comportement non discriminatoire des agents et de la contestabilité des décisions automatisées.

CEDH - Convention européenne des droits de l'homme (STE n° 005)

La CEDH est le traité fondamental du Conseil de l'Europe en matière de droits de l'homme, contraignant pour les 46 États membres et appliqué par la Cour européenne des droits de l'homme, dont les arrêts ont directement façonné le droit de la surveillance au travail et de la vie privée des données. Pour les agents d'IA, l'article 8 - le droit au respect de la vie privée et familiale - est la disposition la plus déterminante ; la Cour l'a interprété dans des affaires marquantes de surveillance en milieu professionnel, notamment Barbulescu c. Roumanie (2017) et López Ribalda c. Espagne (2019), comme imposant de strictes exigences de proportionnalité au contrôle exercé par l'employeur, ce qui éclaire directement les contraintes applicables aux agents de surveillance des travailleurs dans @Human, tandis que l'article 10 (liberté d'expression) et l'article 11 (liberté de réunion et d'association, y compris les droits syndicaux) fournissent la base des interdictions visant la suppression de contenu et le suivi des activités syndicales par des agents.

Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle (2021)

Adoptée à l'unanimité par les 193 États membres de l'UNESCO en novembre 2021, il s'agit du premier instrument mondial sur l'éthique de l'IA approuvé au niveau intergouvernemental. Bien qu'il s'agisse d'une recommandation plutôt que d'un traité contraignant, son approbation par tous les États membres de l'ONU lui confère une autorité normative considérable en tant que consensus éthique mondial sur l'IA. Elle établit onze principes fondamentaux - notamment la proportionnalité et la prévention des dommages, la sûreté et la sécurité, l'équité et la non-discrimination, la vie privée et la protection des données, la supervision et la détermination humaines, la transparence et l'explicabilité, la responsabilité et l'obligation de rendre des comptes, ainsi que la durabilité environnementale. Son principe de proportionnalité exige que, dans les cas de décisions irréversibles ou bouleversant la vie, les humains conservent le dernier mot.

Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme (UNGPs, 2011)

Endossés par le Conseil des droits de l'homme de l'ONU en juin 2011, les UNGPs établissent la norme mondiale de responsabilité des entreprises en matière de respect des droits de l'homme. Ils sont organisés autour de trois piliers : l'obligation de l'État de protéger les droits de l'homme, la responsabilité des entreprises de les respecter par le biais de la diligence raisonnable en matière de droits de l'homme (HRDD), et l'accès à des recours pour les personnes affectées. Le Groupe de travail des Nations Unies sur les entreprises et les droits de l'homme a explicitement appliqué les UNGPs à l'achat et au déploiement de l'IA, ce qui signifie que toute entreprise déployant des agents d'IA - y compris @Human - supporte des obligations de HRDD visant à identifier, prévenir, atténuer et rendre compte des impacts négatifs sur les droits de l'homme.

Conventions fondamentales de l'OIT - C87, C98, C111, C190 et Déclaration sur les EMN

Les conventions fondamentales de l'Organisation internationale du Travail représentent le socle mondial des droits des travailleurs, contraignant les 187 États membres de l'OIT qui les ont ratifiées et faisant partie de la Déclaration de l'OIT relative aux principes et droits fondamentaux au travail. La convention C87 (1948) protège la liberté syndicale et le droit d'organisation ; la C98 (1949) protège le droit de négociation collective ; la C111 (1958) interdit la discrimination en matière d'emploi et de profession fondée notamment sur le sexe, la race, la couleur, la religion, l'opinion politique, l'ascendance nationale et l'origine sociale ; la C190 (2019) protège les travailleurs contre la violence et le harcèlement ; et la Déclaration de l'OIT sur les entreprises multinationales étend ces obligations à la diligence raisonnable en matière de droits de l'homme dans la chaîne d'approvisionnement - constituant ensemble la base juridique des interdictions, pour @Human, de surveiller l'activité syndicale, de pratiquer une discrimination algorithmique dans le recrutement et l'évaluation, et de recourir à une surveillance abusive des travailleurs, ainsi que des audits de biais obligatoires requis avant tout déploiement d'un agent dans un contexte d'emploi.