Die Europäische Kommission hat mit Datum vom einen Entwurf der Leitlinien zur Einstufung von KI-Systemen (AIS) als Hochrisikosysteme (HRAIS) nach Art. 6 AI-Act veröffentlicht. Die Leitlinien bestehen aus mehreren Dokumenten:
- Draft Commission guidelines on the classification of high-risk AI systems under Article 6 of Regulation (EU) 2024/1689 (AI Act)
- 2 – Draft Guidelines on the classification of high risk AI systems: Annex I of AI Act
- 3 – Draft Guidelines on the classification of high risk AI systems: Annex III of AI Act
Der Entwurf liegt zur Konsultation vor und wird vor der Annahme weiter mit dem Europäischen KI-Gremium (AI Board) abgestimmt; die Beispiele sind ausdrücklich nicht abschliessend und sollen fortlaufend ergänzt werden.
Einstufung von AIS als HRAIS
Allgemeines
Im ersten Teil erläutert die Kommission einige Grundsätze (“Horizontal Issues”), die sie ihrem Verständnis der Einzelfälle zugrundelegt.
Auszugehen ist von der Unterscheidung in Art. 6 AI Act: HRAIS sind Systeme, die
- ein Produkt nach Anhang I oder dessen Sicherheitskomponente sind (Art. 6 Abs. 1, Annex I); oder
- die einem der acht Bereiche nach Annex III entsprechen:
- Biometrie
- Kritische Infrastruktur
- Allgemeine und berufliche Bildung
- Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit
- Zugang zu und Inanspruchnahme wesentlicher privater Dienste sowie wesentlicher öffentlicher Dienste und Leistungen
- Strafverfolgung
- Migration, Asyl und Grenzkontrollmanagement
- Rechtspflege und demokratische Prozesse
Use Cases nach Annex III
Praktisch relevant ist vor allem Annex III. Bei der entsprechenden Einstufung gilt zunächst folgendes:
- “Erhebliches Risiko”: Annex III erfasst nur Systeme, die ihrer Zweckbestimmung nach ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte mit sich bringen. Die abschliessende Liste und der Filter sind beide Ausdruck dieses verhältnismässigen, risikobasierten Ansatzes. Nach ErwG 53 AI Act fehlt ein erhebliches Risiko, wenn das System die Substanz und damit das Ergebnis der Entscheidung nicht beeinflusst:
(53) It is also important to clarify that there may be specific cases in which AI systems referred to in pre-defined areas specified in this Regulation do not lead to a significant risk of harm to the legal interests protected under those areas because they do not materially influence the decision-making or do not harm those interests substantially. For the purposes of this Regulation, an AI system that does not materially influence the outcome of decision-making should be understood to be an AI system that does not have an impact on the substance, and thereby the outcome, of decision-making, whether human or automated. An AI system that does not materially influence the outcome of decision-making could include situations in which one or more of the following conditions are fulfilled. […]
- Zweckbestimmung als Massstab: Einzig massgeblich ist, ob die Zweckbestimmung des AIS einen Anwendungsfall von Anhang III umfasst. Diese Einstufung erfolgt vor dem Inverkehrbringen oder der Inbetriebnahme.
- Menschliche Beteiligung ändert daran für sich genommen nichts, weil die menschliche Aufsicht nach Art. 14 AI Act eine Compliance-Anforderung an ein hochriskants System darstellt und keinen Faktor seiner Einstufung.
Low risk-Ausnahmen
Dass unerhebliche Risiken nicht zu einer Einstufung als hochriskant nach Annex III führen sollen, greift Art. 6 Abs. 3 AI Act auf. Ein an sich unter Annex III fallendes AIS ist ausnahmsweise nicht hochriskant, wenn mindestens eine der folgenden Bedingungen erfüllt ist (die Kommission nennt das den “Filter”. Hier kann der Human in the Loop durchaus für die schliessliche Qualifikation als HRAIS relevant sein).
Für die Anwendung dieser Ausnahme – die nur bei Annex III gilt, nicht bei der produktbezogenen Einstufung nach Annex I – gelten folgende Regeln:
- Auslegung: Die genannten Bedingungen sind abschliessend, aber alternativ. Als grundrechtsrelevante Ausnahme sind sie eng auszulegen. Sie greifen alle nur, soweit das AIS kein Entscheidungsergebnis wesentlich beeinflusst.
- Profiling: Nimmt das System ein Profiling im Sinne von Art. 4 Nr. 4 DSGVO vor, gilt keine Ausnahme. Wenn personenbezogene Daten zur Bewertung persönlicher Aspekte verarbeitet werden, entfällt daher die Low-Risk-Ausnahme.
- Agentische Systeme: Aufgeteilte und agentische Architekturen werden als Gesamtsystem beurteilt, sobald ihre gemeinsamen Aufgaben eine Einzelfallentscheidung wesentlich beeinflussen. Dass einzelne für sich genommen unter eine Ausnahme fallen, ändert daran nichts:
(75) Where several AI systems form part of a more complex AI system, so that their combined intended purpose or joint outputs materially influence an individual decision, the combined configuration is treated as a single AI system for the purpose of high-risk classification. To avoid circumvention of the high-risk classification rules by system design, split architectures are assessed as a whole.
(76) By contrast, strictly procedural or preparatory functions of an AI system that are linked to high-risk system remain eligible for exemption from high-risk classification under Article 6(3) AI Act where they are genuinely separable from the AI system […]
Selbsteinschätzung und Registrierung: Die Anwendung einer Ausnahme ist vor dem Inverkehrbringen zu prüfen und ggf. zu dokumentieren. Das AIS ist ferner in der entsprechenden Datenbank zu registrieren (Art. 6 Abs. 4, Art. 71 AI Act). Die Marktüberwachungsbehörden können das AIS umklassifizieren (Art. 80 AI Act) und können bei Umgehung sanktionieren (Art. 99 AI Act).
Dies alles lässt sich übersichtsweise wie folgt darstellen:
Enge Verfahrensaufgabe (lit. a; “narrow procedural task”)
Hier geht es bspw. um Umformatieren, Strukturieren oder Kategorisieren von Daten und Werturteil, Einstufung als “nützlich” oder “weniger nützlich”, Scoring oder Ranking.
Die Kommission verdeutlicht dies mit zwei Beispielen:
- Ausnahme gilt: Sortierung eingehender Bewerbungen für die Zulassung zu Schulen oder Universitäten nach der angeforderten Note oder dem Bildungsniveau, weil bzw. wenn solche Systeme Bewerbungen anhand definierter Informationen in vordefinierte Kategorien (z.B. Grundschule, Sekundarstufe, Gymnasium oder spezifische Klassen) einordnen, ohne die Eignung zu bewerten oder Zulassungsentscheidungen zu treffen (ein interessantes, weil risikonahes Beispiel).
- Ausnahme gilt nicht:
Verbesserung eines menschlichen Ergebnisses (lit. b; “improve the result of a previously completed human activity”)
Diese Ausnahme betrifft das Verfeinern oder die Qualitätssicherung ohne materielle Neubewertung. Dafür müssen folgende Voraussetzungen erfüllt sein:
- Eine menschliche Prüfung oder Entscheidung ist abgeschlossen und
- hat zu einem Ergebnis geführt und
- dieses wird durch das AIS verbessert, ohne das Ergebnis zu ändern-
Dazu ebenfalls zwei Beispiele:
- Ausnahme gilt:
- Auffinden von Fehlern oder Widersprüchen im Ergebnis
- Ergänzung menschlicher Entscheidungen durch weitere Belege
- Konvertierung menschlich generierter Inhalte
- Ausnahme gilt nicht: Ein AIS prüft ein Ergebnis und liefert eine wesentlich andere Lösung.
Erkennen von Entscheidungsmustern oder Abweichungen (lit. c)
Hier geht es um reine ex-post-Prüfungen, ohne dass die Entscheidung selbst beeinflusst würde. Anders als bei den anderen Low Risk-Ausnahmen kann diese Ausnahme durchaus etwas weitergehende Systeme erfassen, und auch eine menschliche Entscheidung vorbereiten. Allerdings müssen drei Voraussetzungen erfüllt sein:
- Die menschliche Prüfung muss bereits abgeschlossen sein;
- das AIS führt nur eine ex-post-Analyse durch, ohne dass zukünftige Entscheidungen vorgespurt werden;
- das AIS darf nicht dazu bestimmt sein, eine menschliche Entscheidung zu ersetzen oder zu beeinflussen. Kommt es zu einer solchen Beeinflussung, muss sich dem eine echte menschliche Prüfung anschliessen.
Auch hierzu finden sich ein Beispiel. Unter die Low Risk-Ausnahme dürfte ein AIS fallen,d as frühere Einstufungen einer öffentliche Verwaltung analysiert mit dem Ziel der Qualitätssicherung – durch Mustererkennung, die auch Abweichungen bei einzelnen Entscheidungen erkennt – und des Reportings, aber ohne dass Lösungen für weitere Fälle vorgeschlagen werden oder die Leistung von Mitarbeitenden bewertet wird.
Vorbereitende Aufgabe (lit. d)
In Abgrenzung zur engen Verfahrensausnahme (lit. a) geht es hier um Aufgaben im Vorfeld einer menschlichen Entscheidung (wobei eine solche Vorbereitung gleichzeitig unter lit. a und lit. d fallen kann). Dabei darf der Output des AIS nur ein allgemeiner Faktor sein, der die Entscheidfindung unterstützt, ohne dass das AIS eine Empfehlung oder eine Bewertung eines Einzelfalls beisteuert.
Ein Beispiel ist ein AIS, das zuhanden eines Menschen Verweisungen auf einschlägige Rechtsvorschriften, Informationen zur Rechtsprechung sowie interne Richtlinien zur Verfügung stellt. Das AIS analyiert dabei weder einen Einzefall noch erzeugt es ein Ergebnis, das die Entscheidung wesentlich beeinflusst.
Vorbehalt des Profiling
Alle Low Risk-Ausnahmen stehen unter dem Vorbehalt des Profiling i.S.v. Art. 4 Nr. 4 DSGVO, also der automatisierten Bearbeitung von Personendaten für die Bewertung persönlicher Aspekte.
Wenn etwa eine Zollbehörde ein AIS einsetzt zur Bewertung des Risikos, dass Waren bei der Einfuhr gegen Rechtsvorschriften verstossen, geht es nicht um die Bewertung persönlicher Aspekte. Eine solche Risikobewertung von Sendungen oder Waren ist kein Profiling. Anders ein AIS, das im Rahmen der Rekrutierung Abweichungen von internen Rekrutierungsrichtlinien erkennt und dazu Entscheidungen der rekrutierenden Personen und persönliche Merkmale im Zusammenhang mit Bewerbungsgesprächen bewertet. Hier könnte es an sich um einen Anwendungsfall von Art. 6 Abs. 3 lit. c gehen, aber die Bearbeitung von Personendaten zur Profilierung der rekrutierenden Personen steht dem entgegen.
Einzelne Annex III-Anwendungsfälle
Biometrie (Anhang III Ziff. 1)
Diese Fallgruppe umfasst drei Anwendungsfälle:
- Ziff. 1 lit. a: biometrische Fernidentifizierung;
- Ziff. 1 lit. b: biometrische Kategorisierung nach sensiblen Merkmalen im Sinne von Art. 9 Abs. 1 DSGVO (besonders schützenswerte Personendaten). Dabei sind aber Alter und Geschlecht nicht erfasst (die Auslegung nach der DSGVO ist bisweilen weiter und kann sich nach gewissen Meinungen auf alle unveränderlichen körperlichen Merkmale erstrecken).
- Ziff. 1 lit. c: Emotionserkennung, soweit diese nicht schon nach Art. 5 AI Act verboten ist (Emotionskernennung am Arbeitsplatz und in Ausbildungsstätten).
Was biometrische Daten sind, gibt nicht die DSGVO vor, sondern Art. 3 Nr. 34 AI Act:
- keine biometrischen Daten: das Tracking einer Person in einem Geschäft aufgrund ihrer Kleidung; die Emotionserkennung gestützt auf verfasste Texte; die Erkennung von Autonummern;
- biometrische Daten: Emotionserkennung gestützt auf Tastaturanschläge, den Gesichtsausdruck, die Körperhaltung oder Bewegungen.
Erfasst sind nach der Kommission etwa folgende Einsätze:
- Abgleich von Fotos oder der Stimme lebender Personen mit Archivmaterial zur Identifikation;
- Abgleich von Aufnahmen in Sportstadien zur Identifikation von Störern;
- Erkennung von Krankheiten aus Bewegungsmustern;
- Kategorisierung von Flugpassagieren mit Gesichtserkennung;
Nicht erfasst sind etwa folgende Einsätze:
- biometrische Verifizierung als blosser Abgleich zur Bestätigung der Identität (etwa Geräteentsperrung, Zugang)
- Lokalisierung einer Person ohne biometrischem Abgleich;
- Kategorisierung von Kunden nach dem Geschlecht;
- AI zur Content Moderation.
Spezifisch mit Bezug auf die Emotionserkennung (soweit dabei AI eingesetzt wird):
Erfasst:
- Einsatz von Bodycams zur Erkennung aggressiver Personen;
- Erkennung von Emotionen in Videogames zur Spielverbesserung gestützt u.a. auf Gesichtsausdrücke und Augenbewegungen;
- Erkennung von Konfliktherden bei Konzerten;
- Emotionserkennung von Kunden im Call Center gestützt auf die Stimme.
Nicht erfasst:
- Erkennung von Müdigkeit bei Autolenkern;
- Erkennung blosser Gesichtsausdrücke (Lächeln usw.).
Kritische Infrastruktur (Anhang III Ziff. 2)
In diesen Bereich fallen nur AIS, die als Sicherheitskomponente im Sinne von Art. 3 Nr. 14 AI Act eine direkte Schutzfunktion für die physische Integrität der Infrastruktur erfüllen, in den Sektoren digitale Infrastruktur, Strassenverkehr sowie Versorgung mit Wasser, Gas, Wärme oder Strom.
Erfasst sind etwa:
- Ampelsteuerung zur Abwendung physischer Schäden
- Brandmeldeanlage in einem Rechenzentrum
Nicht erfasst sind dagegen etwa:
- reine Analyse des Verkehrsflussses ohne unmittelbaren Steuerungseingriff
- Ticket-Management und Netzlastprognosen
- reine Cybersicherheitskomponenten
- bloss optimierende, informierende oder organisierende Systeme
Bildung und Berufsbildung (Anhang III Ziff. 3)
Hier sind vier Anwendungsfälle erfasst, wobei sie jeweils für alle Bildungsstufen gelten, auch die betriebliche und berufliche Aus- und Weiterbildung:
- Ziff. 3 lit. a: Bestimmung von Zugang, Zulassung oder Zuweisung zu Institutionen und Programmen
- Ziff. 3 lit. b: Bewertung von Lernergebnissen, aber nur summativ (note- oder qualifikationsrelevant), nicht formativ (lernbegleitend)
- Ziff. 3 lit. c: Beurteilung des angemessenen Bildungsniveaus, das eine Person erhält oder erreichen kann
- Ziff. 3 lit. d: Überwachung und Erkennung verbotenen Verhaltens während Prüfungen
Die Kommission verdeutlicht ihr Verständnis wie folgt:
Zugang und Zuweisung (lit. a)
Erfasst:
- automatisierte Zulassungssysteme, die Bewerbungen, Zeugnisse und Testergebnisse auswerten
- Werkzeuge, die Lernende einem Programm oder Kurs zuweisen
- Systeme, die Stellensuchende oder Mitarbeitende beruflichen Weiterbildungsprogrammen zuordnen
Nicht erfasst:
- Empfehlungswerkzeuge, die Interessierten auf Basis ihrer eigenen Präferenzen Studiengänge vorschlagen und nur die eigene Entscheidung stützen
- Informations-Chatbots zu Zulassungsvoraussetzungen ohne personalisierte Empfehlung.
Low Risk-Ausnahme:
- blosser Daten-Organizer, der Bewerbungen extrahiert und kategorisiert (enge Verfahrensaufgabe)
- Werkzeug zur Ex-post-Überprüfung bereits getroffener Zulassungsentscheide (Mustererkennung)
Profiling (Low Risk-Ausnahme gilt nicht):
- Systeme, deren Datenauswertung ein Profiling darstellt, etwa die automatisierte Schulzuweisung nach Wohnort und persönlichen Merkmalen
- Matching auf Weiterbildungsplätze
Bewertung von Lernergebnissen (lit. b)
Erfasst:
- Benotungs- und Bewertungssysteme, die in die End- oder Zwischennote einfliessen, auch wenn ein formativ konzipiertes Feedbacksystem zugleich die Notengebung der Lehrperson speist
Nicht erfasst:
- adaptive Lernsysteme, intelligente Tutoring-Systeme, Lernanalyse-Plattformen
- Werkzeuge zur Unterstützung neurodivergenter Lernender
- Sprach- oder Ausspracheübungs-Apps, die allein von Lernenden genutzt werden
Low Risk-Ausnahme:
- reiner Durchschnittsnoten-Rechner (enge Verfahrensaufgabe)
- System, das Benotungsmuster von Lehrpersonen auf Abweichungen prüft und sie zur menschlichen Nachkontrolle flaggt (Mustererkennung)
Bildungsniveau (lit. c)
Erfasst:
- adaptive Einstufungstests
- Systeme, die Lernende mit besonderem Förderbedarf einem Programm und Unterstützungsniveau zuordnen
Nicht erfasst:
- aggregierte Trendanalysen zum Bildungsverlauf ohne Bezug zu einzelnen Personen
Prüfungsüberwachung (lit. d)
Erfasst:
- Proctoring-Systeme während beaufsichtigter Prüfungen, etwa mit Gesichtserkennung, Tastatur‑, Bildschirm- oder Audio-/Videoanalyse
Nicht erfasst:
- Plagiats- und Kollaborationsprüfungen an eingereichten Hausarbeiten, die ausserhalb der beaufsichtigten Echtzeit-Prüfungssituation und nach Abgabe stattfinden
Beschäftigung (Anhang III Ziff. 4)
Hier sind zwei Anwendungsfälle zu unterscheiden, die beide funktional und weit auszulegen sind. Der persönliche Anwendungsbereich reicht über Angestellte hinaus; auch Freelancer, selbstständig Tätige, Dienstleister und Plattformarbeitende fallen unabhängig von der Vertragsform in diesen Anwendungsfall, sobald ein AUS ihren den Zugang zu Arbeit vermittelt oder bedingt:
- Ziff. 4 lit. a: Rekrutierung und Auswahl natürlicher Personen, insbesondere gezielte Stellenanzeigen, Sichtung und Filterung von Bewerbungen sowie Bewertung von Kandidaten.
- Ziff. 4 lit. b: Steuerung von Arbeitsverhältnissen, namentlich Entscheidungen über Vertragsbedingungen, Beförderung und Beendigung, Aufgabenzuweisung nach Verhalten oder Merkmalen sowie Überwachung und Bewertung von Leistung und Verhalten.
Rekrutierung und Auswahl (lit. a)
Erfasst sind hier
- bereits vorbereitende Schritte (gezielte Ansprache von Kandidaten, Vorauswahl) und
- die eigentliche Auswahl (Shortlisting, Scoring, Ranking, Testung).
Erfasst sind bspw.:
- das AI-basierte Gestalten von Stellenausschreibungen, sofern diese nicht unter die Low Risk-Ausnahme fallen (s. unten);
- Systeme, die Lebensläufe analysieren und filtern und Scores, Rankings (“Top 5”) oder Eignungskategorien (“high fit”) erzeugen
- Sourcing-Werkzeuge, die Profile suchen und Shortlists bilden
- kamerabasierte Eignungsprüfung (etwa visuelle Kapazität von Pilotanwärtern); Bewertung von Antworten in Online-Assessments
- Lehrlings-Recruiting
- Vermittlungssysteme von Arbeitsagenturen
Nicht erfasst:
- bewerberseitige Werkzeuge, die die Person selbst steuert (CV-Optimierung, Stellenempfehlungen an die Kandidatin)
- Arbeitgeber-Branding ohne Bezug zu einer konkreten Vakanz
- anonymisiertes Reputationsmonitoring des Arbeitgebers
- Tools, die Stellenanzeigen nur auf problematische Formulierungen prüfen
- Onboarding-Informations-Chatbots nach der Einstellung (diese können aber unter lit. b fallen, wenn sie Leistung speisen oder überwachen)
Low Risk-Ausnahme:
- Ein Generator für Stellenbeschreibungen, der aus menschlich vorgegebenen Aufgaben und Qualifikationen eine Ausschreibung erstellt
- Verifizierung eines Berufsdiploms mit binärem Ergebnis “bestätigt / nicht bestätigt” (enge Verfahrensaufgabe)
- Organisation eingehender Bewerbungen in einer durchsuchbaren Datenbank (vorbereitend)
- Terminkoordination für Interviews samt Barrierefreiheits-Optionen (rein logistisch)
- Ex-post-Bias-Audit auf anonymisierten Daten (Mustererkennung).
Systeme, die Bewerber als “high risk” flaggen und vorsortieren, führen ein Profiling durch und bleiben hochriskant.
Steuerung von Arbeitsverhältnissen (lit. b)
“Entscheidung” ist funktional zu verstehen und umfasst auch Fälle, in denen ein Mensch formell entscheidet, sich dabei aber massgeblich auf den Output stützt. Erfasst ist erst, was eine Erheblichkeitsschwelle überschreitet; nicht jede operative Alltagsentscheidung zählt.
Erfasst:
- Entscheidungen über wesentliche Vertragsbedingungen (Entgelt, Arbeitszeit, Urlaub), Beförderung und Beendigung (inkl. Nichtverlängerung befristeter Verträge und dauerhafter Sperrung von Plattformkonten)
- Aufgabenzuweisung nach Verhalten oder persönlichen Merkmalen (Pünktlichkeit, Reaktionszeit, Zuverlässigkeitswerte; Vorenthalten von Lieferslots bei niedriger Annahmequote; Ranking von Freelancern nach Bewertung)
- systematische Leistungs- und Verhaltensüberwachung, deren Ergebnisse in die Personalakte fliessen
Nicht erfasst:
- Aufgabenzuweisung nach objektiven, neutralen, externen Kriterien (Verfügbarkeit laut Dienstplan, erforderliche Qualifikation wie Staplerschein oder Anwaltszulassung, geografische Nähe)
- Systeme ausschliesslich zur Erfüllung externer Rechtspflichten (etwa Transaktionsprotokollierung gegen Marktmissbrauch), rein medizinische oder Sicherheitszwecke oder Schutz von Betriebseigentum
- Systeme, die nur die betroffene Person selbst auf mögliche Fehler hinweisen, ohne Druck zur Mehrleistung und ohne Meldung an den Arbeitgeber; operative Alltagsentscheide ohne Änderung der Vertragsrechte (Zuteilung von Büroraum, Pausenlage innerhalb der Schicht)
Low Risk-Ausnahme:
- ein System, das den Ablauf eines befristeten Vertrags ohne Beurteilung lediglich anzeigt
Pro memoria: Die Emotionserkennung am Arbeitsplatz ist nach Art. 5 Abs. 1 lit. f AI Act verboten.
Zugang zu wesentlichen Diensten (Anhang III Ziff. 5)
Hier sind vier Anwendungsfälle zu unterscheiden:
- Ziff. 5 lit. a: Eignungsprüfung für wesentliche öffentliche Leistungen durch oder im Auftrag von Behörden, einschliesslich Gewährung, Kürzung, Entzug oder Rückforderung
- Ziff. 5 lit. b: Bewertung der Kreditwürdigkeit oder Erstellung eines Kredit-Scores natürlicher Personen
- Ziff. 5 lit. c: Risikobewertung und Preisgestaltung bei Lebens- und Krankenversicherungen
- Ziff. 5 lit. d: Bewertung und Klassifizierung von Notrufen, Disposition der Rettungsdienste, Patiententriage
Kreditwürdigkeit und Kredit-Score (lit. b)
Erfasst sind sowohl die Bewertung der Kreditwürdigkeit als auch das Erstellen eines Scores je für sich. Massgeblich ist jeweils der Bezug zum Zugang zu einem Kredit oder zu einer wesentlichen Dienstleistung (“essential private services”):
- Wesentliche Dienstleistungen sind z.B. Wohnraum, Elektrizitätsversorgung und Telekommunikationsdienste, aber auch andere Dienstleistungen, die für natürliche Personen von vergleichbarer Bedeutung sind. Der Ausschluss vom Zugang zu solchen Dienstleistungen muss ferner vergleichbar schwerwiegende Auswirkungen auf Leben, Gesundheit, Lebensunterhalt oder die gesellschaftliche Teilhabe der betroffenen Personen haben können. Dazu zählen laut Kommission insbesondere Gesundheits- und Langzeitpflegedienstleistungen, weitere Versorgungsleistungen wie Gas- und Wasserversorgung sowie Verkehrsdienstleistungen.
- Im Finanzbereich ist der Zugang etwa zu folgenden Leistungen wesentlich:
- Bereitstellung eines Bankkontos;
- Zahlungsdienste;
- Vergabe von Darlehen und Krediten;
- Erhöhung eines Kreditrahmens oder eines Kreditkartenlimits;
- Gewährung von Hypothekarkrediten;
- öffentliche Finanzdienstleistungen.
- Nicht wesentlich sind etwa folgende Dienstleistungen:
- Erwerb von Aktien und Wertpapieren;
- Zugang zum Margin-Handel (Handel auf Kredit bzw. mit Fremdfinanzierung);
- Zugang zu komplexen Finanzinstrumenten;
- Premium-Kreditkarten;
- spezielle Kreditprodukte, etwa Freizeit- oder Reisekredite.
Nicht erfasste Fälle:
- Kundenklassifikation und Segmentierung für Information oder Marketing
- Pricing-Simulationen ohne Bonitätsbezug
- Kundenunterstützung beim Ausfüllen des Antrags
- Beschwerdebearbeitung nach dem Entscheid
- internes prudenzielles Monitoring der Kreditexposition nach Kreditvergabe
Betrugserkennung
Ein Hochrisiko-AIS kann wie erwähnt die Bonitätsprüfung darstellen. Davon ausgenommen sind Systeme, die zur Hauptsache zur Erkennung von Finanzbetrug dienen, und zwar auch dann, wenn der Output zusätzlich in eine Bonitätsbeurteilung einfliesst.
Versicherung (lit. c)
- Erfasst sind Risikobewertung und Preisgestaltung bei Lebens- und Krankenversicherung, einschliesslich privater Pflege‑, bestimmter Vorsorge- und Restschuld-Lebensversicherungen
- Sparten wie Motorfahrzeug- oder Hausratversicherung sind nicht erfasst
Justiz einschliesslich Schiedsgerichtsbarkeit (Anhang III Ziff. 8)
Dabei geht es um die Unterstützung von Justizbehörden oder auch von Schiedsverfahren bei der Ermittlung und Auslegung des Sachverhalts und des Rechts sowie bei der Anwendung des Rechts
Erfasst:
- Bedeutungszuweisung, Bezug von Präzedenzfällen auf den konkreten Sachverhalt
- Erzeugung von Entscheidungsentwürfen samt Begründung.
Nicht erfasst:
- nebensächliche Verwaltung wie Anonymisierung, Transkription, Terminplanung oder Geschäftsverteilung
- reine Recherche und Schlagwortsuche
- Systeme von Parteien oder ihren Rechtsvertretern, die nicht “im Auftrag” einer Justizbehörde handeln
Weitere Bereiche
Die Kommission äussert sich auch zu den weiteren Anwendungsfällen, die hier nicht vertieft werden:
- Strafverfolgung (Anhang III Ziff. 6)
- Migration, Asyl und Grenzkontrolle (Anhang III Ziff. 7)
- Demokratische Prozesse (Anhang III Ziff. 8)