Anfrage Marti (22.1051): Monitoring von KI-Projekten
Eingereichter Text
Die zunehmende Digitalisierung und Innovation in verschiedenen Bereichen der Verwaltung birgt Chancen, jedoch unter Umständen auch gewisse Risiken. Die Anwendung neuer Technologien muss daher – gerade, wenn es um die Wahrung öffentlicher Interessen geht – systematisch beobachtet werden. Ein Schritt in diese Richtung macht die Geschäftsstelle Kompetenznetzwerk für künstliche Intelligenz (CNAI) mit ihrer Liste von laufenden oder geplanten KI-Projekten in der Bundesverwaltung. Diese Liste enthält aber ausschliesslich Projekte aus dem EDA, EDI und VBS. Projekte aus den anderen vier Departementen sowie der Bundeskanzlei fehlen komplett. Zudem sind verschiedene Projekte nur sehr unpräzise beschrieben. So wird beispielsweise ein Projekt inhaltlich lediglich als “Erkennung von Fakes in sozialen Medien” beschrieben, wobei unklar bleibt, was genau mit “Fakes” gemeint ist oder welche Methoden zur Erkennung derselben angewendet werden. Es ist ausserdem nicht klar, nach welcher Systematik diese Liste zusammengestellt wurde und ob auch dezentrale Teile der Verwaltung (z.B. die Eidg. Finanzmarktaufsicht, das Eidg. Institut für Geistiges Eigentum oder das Eidg. Nuklearsicherheitsinspektorat) mit einbegriffen sind.
In diesem Zusammenhang bitte ich den Bundesrat um die Beantwortung folgender Fragen:
1. Die im Dezember 2021 veröffentlichte Liste der laufenden KI Projekte in der Bundesverwaltung, welche vom CNAI geführt wird, wurde am 12. September 2022 um zwei Projekte ergänzt. Welchen Stand der eingesetzten Systeme (in Prozent aller eingesetzten Systeme) bildet die Liste heute ungefähr ab? Wann wird die Liste vervollständigt (betreffend fehlende Departemente/Ämter und Systeme) und in weiteren Dateiformaten verfügbar gemacht (z.B. CSV)?
2. Wie gedenkt das CNAI, einen Überblick über die Anwendung von KI-Systemen in der dezentral organisierten Verwaltung zu erhalten? In welchem Bereich bewegen sich die Ausgaben für KI-Systeme in der Bundesverwaltung?
3. Werden derselben Liste in näherer Zukunft Informationen zur Herkunft (Urheber, Trainingsdaten, etc.), Funktionsweise oder Risikoeinschätzung der KI-Projekte hinzugefügt? (bei Einhaltung von Datenschutz und legitimen Geheimhaltungsinteressen)
4. Welche Entwicklungen in der Anwendung von KI-Systemen in der Bundesverwaltung erwartet der Bundesrat in den nächsten 5 – 10 Jahren?
Stellungnahme des Bundesrats vom 16.11.2022
1/2. Die Liste von KI-relevanten Projekten in der Bundesverwaltung verschafft einen Überblick über unterschiedlich fortgeschrittene Projekte und wird regelmässig aktualisiert. Die letzte Aktualisierung datiert vom 7. Oktober 2022. Gegenwärtig befinden sich zahlreiche KI-Projekte in der Bundesverwaltung im Versuchs- oder Entwicklungsstadium und sind daher noch nicht produktiv.
Im August 2022 hat das Kompetenznetzwerk für künstliche Intelligenz (CNAI) in Zusammenarbeit mit dem Bundesamt für Kommunikation (BAKOM) allen Departementen / Ämtern sowie ausgewählten dezentralen Organisationseinheiten des Bundes eine Erhebung zur KI-Nutzung übermittelt. Bis Ende 2022 wird die CNAI-Projektdatenbank mit diesen Informationen ergänzt und liefert so einen möglichst umfassenden Überblick über die laufenden Projekte. Es ist geplant, die Projektliste in weiteren Formaten zur Verfügung zu stellen.Beispiele für die Anwendung von KI-Systemen in der Bundesverwaltung finden sich hauptsächlich im Bereich der Effizienzsteigerung (z.B. Text‑, Sprach- oder Bilderkennung, Betrugserkennung, Plausibilitätskontrolle, Chatbot / Konversationsagent) und in geringerem Masse auch im Bereich der Entscheidungsgrundlagen (z.B. bessere Prognosen).
3. Die zuständigen Behörden stehen in engem Austausch mit verschiedenen Stakeholdern des KI-Bereichs in der Schweiz (Bundesverwaltung, NGO, Unternehmen, akademische Einrichtungen usw.) und begrüssen deren Beiträge. Die Aufnahme der Risikoeinschätzung in die Datenbank der KI-Projekte des CNAI ist geplant. Das CNAI, das BAKOM und das Departement für auswärtige Angelegenheiten (EDA) analysieren zudem regelmässig die möglichen Auswirkungen der Arbeiten zur KI-Regulierung durch die EU und den Europarat für die Schweiz.
Die vom CNAI veröffentlichten Projekte werden so transparent und umfassend wie möglich beschrieben. Dazu gehören zentrale Informationen wie Datentyp, Datenquelle, Komponenten des maschinellen Lernens sowie weitere verfügbare Informationen.
4. In den nächsten fünf bis zehn Jahren werden Entwicklungen auf zwei verschiedenen Ebenen erwartet. Erstens wird die systematische Nutzung des Automatisierungspotenzials, das die KI bietet, angestrebt. Ein möglichst umfassender Einsatz soll die Effizienz bei den administrativen Abläufen steigern. Der zweite Schwerpunkt liegt in der systematischen Nutzung der Datenwissenschaft (einschliesslich KI-Methoden) bei der Erstellung von Entscheidungsgrundlagen für die öffentliche Politik. Zu diesem Zweck arbeitet das Bundesamt für Statistik (BFS) in Zusammenarbeit mit den Departementen und der Bundeskanzlei (BK) an einer Strategie im Bereich der Datenwissenschaft, die dem Bundesrat bis Ende 2022 zur Genehmigung vorgelegt wird. Dank dieser Strategie sollen ein gemeinsamer Handlungsrahmen innerhalb der Bundesverwaltung geschaffen sowie die Herausforderungen und Einschränkungen angegangen werden, die der Einsatz von Algorithmen im öffentlichen Dienst mit sich bringt. Diese Entwicklungen werden von nationalen und internationalen Arbeiten begleitet, die darauf abzielen, die digitale Selbstbestimmung anhand von zuverlässigen Datenräumen zu fördern, wie dies der Auftrag des Bundesrates an das BAKOM, das BFS, die BK und das EDA vorsieht.