Gesetzgebung

DSGVO - Datenschutz-Grundverordnung (EU 2016/679)

Die DSGVO ist das grundlegende Datenschutzgesetz der Europäischen Union, seit Mai 2018 in Kraft und das operativ bedeutendste Instrument für jedes KI-System, das personenbezogene Daten verarbeitet. Sie legt sechs Kernprinzipien fest (Rechtmäßigkeit, Fairness, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung und Rechenschaftspflicht) und gewährt Einzelpersonen durchsetzbare Rechte, darunter das Recht auf Löschung, das Recht auf Datenübertragbarkeit und, besonders wichtig für KI-Agenten, das Recht nach Artikel 22, keinen Entscheidungen unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruhen und rechtliche oder ähnlich erhebliche Auswirkungen haben. Dieses letzte Recht ist die direkte rechtliche Grundlage für verpflichtende Human-in-the-loop-Pfade in jedem @Human Agent, dessen Ausgaben eine natürliche Person wesentlich beeinflussen können.

EU-KI-Verordnung - Verordnung (EU) 2024/1689

Der EU AI Act, der im August 2024 in Kraft trat, ist der weltweit erste umfassende Rechtsrahmen, der speziell KI-Systeme reguliert und auf jede KI Anwendung findet, deren Ausgaben innerhalb der Europäischen Union genutzt werden, unabhängig davon, wo der Anbieter ansässig ist. Er führt eine vierstufige Risikoklassifizierung ein - unannehmbar, hoch, begrenzt und minimal - und legt entsprechend abgestufte Pflichten fest, wobei Artikel 5 eine Liste absoluter Verbote enthält, darunter Emotionserkennung am Arbeitsplatz, Social Scoring, subliminale Manipulation, biometrische Kategorisierung zur Ableitung sensibler Merkmale und Fernidentifizierung biometrischer Echtzeitdaten; Artikel 14 schreibt eine wirksame menschliche Aufsicht für Hochrisikosysteme vor; und Artikel 50 verlangt, dass Nutzer informiert werden, wenn sie mit einem KI-System interagieren, was ihn zur primären Rechtsquelle für die Verhaltensbeschränkungen in @Human Agents macht.

CETS 225 - Rahmenübereinkommen des Europarats über KI (2024)

Am 17. Mai 2024 angenommen und am 5. September 2024 zur Unterzeichnung aufgelegt, ist CETS 225 der weltweit erste verbindliche internationale Vertrag über künstliche Intelligenz, unterzeichnet von der Europäischen Union, den Vereinigten Staaten, dem Vereinigten Königreich, Kanada, Australien, Japan, Israel und Mexiko, und gilt für KI-Systeme während ihres gesamten Lebenszyklus – von der Konzeption und Entwicklung über den Einsatz bis hin zur Außerbetriebnahme. Er verlangt, dass alle KI-Aktivitäten mit Menschenrechtsverpflichtungen, Menschenwürde, Nichtdiskriminierung, Transparenz, Rechenschaftspflicht und der Rechtsstaatlichkeit vereinbar sind; er führt ausdrücklich Pflichten in Bezug auf Gleichheit und Nichtdiskriminierung (Artikel 10), menschliche Aufsicht und das Recht auf wirksames Eingreifen (Artikel 11) sowie Rechenschaftspflicht für nachteilige Auswirkungen (Artikel 9) ein und macht ihn damit zur breitesten internationalen rechtlichen Grundlage für die @Human Treaty Compliance Layer und zu dem Instrument, das seine Verpflichtungen über die EU hinaus auf alle Unterzeichnerstaaten ausdehnt.

EU-Grundrechtecharta

Die EU-Grundrechtecharta, die die gleiche rechtliche Wirkung hat wie die EU-Verträge selbst, verankert die Grundrechte aller Personen in der Europäischen Union und bindet alle EU-Institutionen und Mitgliedstaaten, wenn sie im Anwendungsbereich des Unionsrechts handeln. Für KI-Agenten sind ihre relevantesten Bestimmungen Artikel 7 (Achtung des Privat- und Familienlebens), Artikel 8 (Recht auf Schutz personenbezogener Daten, das verfassungsrechtlichen und nicht nur regulatorischen Status hat), Artikel 20 (Gleichheit vor dem Gesetz), Artikel 21 (Nichtdiskriminierung u. a. aufgrund von Geschlecht, Rasse, ethnischer Herkunft, Religion, Behinderung, Alter und sexueller Orientierung) und Artikel 47 (Recht auf einen wirksamen Rechtsbehelf und ein faires Verfahren), die zusammen die verfassungsrechtliche Grundlage für Datenschutz, nichtdiskriminierendes Agentenverhalten und die Anfechtbarkeit automatisierter Entscheidungen bilden.

EMRK - Europäische Menschenrechtskonvention (ETS Nr. 005)

Die EMRK ist der grundlegende Menschenrechtsvertrag des Europarats, bindet alle 46 Mitgliedstaaten und wird vom Europäischen Gerichtshof für Menschenrechte durchgesetzt, dessen Urteile das Recht zur Überwachung am Arbeitsplatz und zum Datenschutz direkt geprägt haben. Für KI-Agenten ist Artikel 8 – das Recht auf Achtung des Privat- und Familienlebens – die folgenreichste Bestimmung; er wurde vom Gericht in wegweisenden Fällen zur Überwachung am Arbeitsplatz, darunter Barbulescu gegen Rumänien (2017) und López Ribalda gegen Spanien (2019), so ausgelegt, dass er strenge Verhältnismäßigkeitsanforderungen an die Überwachung durch Arbeitgeber stellt und damit die Beschränkungen für Mitarbeiterüberwachungs-Agenten in @Human direkt beeinflusst, während Artikel 10 (Meinungsfreiheit) und Artikel 11 (Versammlungs- und Vereinigungsfreiheit, einschließlich Gewerkschaftsrechten) die Grundlage für Verbote der Unterdrückung von Inhalten und der Verfolgung von Gewerkschaftsaktivitäten durch Agenten bilden.

UNESCO-Empfehlung zur Ethik der künstlichen Intelligenz (2021)

Im November 2021 von allen 193 UNESCO-Mitgliedstaaten einstimmig angenommen, ist dies das erste globale Instrument zu KI-Ethik, das auf zwischenstaatlicher Ebene gebilligt wurde. Auch wenn es sich um eine Empfehlung und nicht um einen verbindlichen Vertrag handelt, verleiht ihm die Zustimmung jedes UN-Mitgliedstaats erhebliche normative Autorität als globaler ethischer Konsens zu KI. Es legt elf Kernprinzipien fest – darunter Verhältnismäßigkeit und Nichtschädigung, Sicherheit und Schutz, Fairness und Nichtdiskriminierung, Privatsphäre und Datenschutz, menschliche Aufsicht und menschliche Entscheidungsbefugnis, Transparenz und Erklärbarkeit, Verantwortung und Rechenschaftspflicht sowie ökologische Nachhaltigkeit. Sein Verhältnismäßigkeitsprinzip verlangt, dass bei irreversiblen oder das Leben verändernden Entscheidungen Menschen das letzte Wort behalten müssen.

UN-Leitprinzipien für Wirtschaft und Menschenrechte (UNGPs, 2011)

Im Juni 2011 vom UN-Menschenrechtsrat gebilligt, setzen die UNGPs den globalen Standard für die unternehmerische Verantwortung zur Achtung der Menschenrechte. Sie sind um drei Säulen herum organisiert: die staatliche Schutzpflicht für Menschenrechte, die unternehmerische Verantwortung, diese durch Human Rights Due Diligence (HRDD) zu achten, und der Zugang zu Abhilfe für betroffene Personen. Die UN-Arbeitsgruppe für Wirtschaft und Menschenrechte hat die UNGPs ausdrücklich auf die Beschaffung und den Einsatz von KI angewendet, was bedeutet, dass jedes Unternehmen, das KI-Agenten einsetzt – einschließlich @Human – HRDD-Verpflichtungen trägt, um nachteilige Auswirkungen auf die Menschenrechte zu identifizieren, zu verhindern, zu mindern und darüber Rechenschaft abzulegen.

ILO-Kernarbeitsnormen - C87, C98, C111, C190 & MNE-Erklärung

Die Kernübereinkommen der Internationalen Arbeitsorganisation bilden das weltweite Mindestniveau der Arbeitnehmerrechte, sind für die 187 ILO-Mitgliedstaaten bindend, die sie ratifiziert haben, und sind Teil der ILO-Erklärung über grundlegende Prinzipien und Rechte bei der Arbeit. Übereinkommen C87 (1948) schützt die Vereinigungsfreiheit und das Recht auf Organisation; C98 (1949) schützt das Recht auf Kollektivverhandlungen; C111 (1958) verbietet Diskriminierung in Beschäftigung und Beruf unter anderem aufgrund von Geschlecht, Rasse, Hautfarbe, Religion, politischer Überzeugung, nationaler Herkunft und sozialer Herkunft; C190 (2019) schützt Arbeitnehmer vor Gewalt und Belästigung; und die Erklärung über multinationale Unternehmen der ILO erstreckt diese Verpflichtungen auf die HRDD in Lieferketten – zusammen bilden sie die rechtliche Grundlage für die Verbote von @Human hinsichtlich der Überwachung von Gewerkschaftsaktivitäten, algorithmischer Diskriminierung bei Einstellung und Bewertung sowie missbräuchlicher Überwachung von Arbeitnehmern sowie für die obligatorischen Bias-Audits, die vor dem Einsatz jedes Agenten im Beschäftigungskontext erforderlich sind.