Anfra­ge Mar­ti (22.1051): Moni­to­ring von KI-Projekten

Anfra­ge Mar­ti (22.1051): Moni­to­ring von KI-Projekten

Ein­ge­reich­ter Text

Die zuneh­men­de Digi­ta­li­sie­rung und Inno­va­ti­on in ver­schie­de­nen Berei­chen der Ver­wal­tung birgt Chan­cen, jedoch unter Umstän­den auch gewis­se Risi­ken. Die Anwen­dung neu­er Tech­no­lo­gien muss daher – gera­de, wenn es um die Wah­rung öffent­li­cher Inter­es­sen geht – syste­ma­tisch beob­ach­tet wer­den. Ein Schritt in die­se Rich­tung macht die Geschäfts­stel­le Kom­pe­tenz­netz­werk für künst­li­che Intel­li­genz (CNAI) mit ihrer Liste von lau­fen­den oder geplan­ten KI-Pro­jek­ten in der Bun­des­ver­wal­tung. Die­se Liste ent­hält aber aus­schliess­lich Pro­jek­te aus dem EDA, EDI und VBS. Pro­jek­te aus den ande­ren vier Depar­te­men­ten sowie der Bun­des­kanz­lei feh­len kom­plett. Zudem sind ver­schie­de­ne Pro­jek­te nur sehr unprä­zi­se beschrie­ben. So wird bei­spiels­wei­se ein Pro­jekt inhalt­lich ledig­lich als “Erken­nung von Fakes in sozia­len Medi­en” beschrie­ben, wobei unklar bleibt, was genau mit “Fakes” gemeint ist oder wel­che Metho­den zur Erken­nung der­sel­ben ange­wen­det wer­den. Es ist ausser­dem nicht klar, nach wel­cher Syste­ma­tik die­se Liste zusam­men­ge­stellt wur­de und ob auch dezen­tra­le Tei­le der Ver­wal­tung (z.B. die Eidg. Finanz­markt­auf­sicht, das Eidg. Insti­tut für Gei­sti­ges Eigen­tum oder das Eidg. Nukle­ar­si­cher­heits­in­spek­to­rat) mit ein­be­grif­fen sind.

In die­sem Zusam­men­hang bit­te ich den Bun­des­rat um die Beant­wor­tung fol­gen­der Fragen:

1. Die im Dezem­ber 2021 ver­öf­fent­lich­te Liste der lau­fen­den KI Pro­jek­te in der Bun­des­ver­wal­tung, wel­che vom CNAI geführt wird, wur­de am 12. Sep­tem­ber 2022 um zwei Pro­jek­te ergänzt. Wel­chen Stand der ein­ge­setz­ten Syste­me (in Pro­zent aller ein­ge­setz­ten Syste­me) bil­det die Liste heu­te unge­fähr ab? Wann wird die Liste ver­voll­stän­digt (betref­fend feh­len­de Departemente/Ämter und Syste­me) und in wei­te­ren Datei­for­ma­ten ver­füg­bar gemacht (z.B. CSV)?

2. Wie gedenkt das CNAI, einen Über­blick über die Anwen­dung von KI-Syste­men in der dezen­tral orga­ni­sier­ten Ver­wal­tung zu erhal­ten? In wel­chem Bereich bewe­gen sich die Aus­ga­ben für KI-Syste­me in der Bundesverwaltung?

3. Wer­den der­sel­ben Liste in nähe­rer Zukunft Infor­ma­tio­nen zur Her­kunft (Urhe­ber, Trai­nings­da­ten, etc.), Funk­ti­ons­wei­se oder Risi­ko­ein­schät­zung der KI-Pro­jek­te hin­zu­ge­fügt? (bei Ein­hal­tung von Daten­schutz und legi­ti­men Geheimhaltungsinteressen)

4. Wel­che Ent­wick­lun­gen in der Anwen­dung von KI-Syste­men in der Bun­des­ver­wal­tung erwar­tet der Bun­des­rat in den näch­sten 5 – 10 Jahren?

Stel­lung­nah­me des Bun­des­rats vom 16.11.2022

1/2. Die Liste von KI-rele­van­ten Pro­jek­ten in der Bun­des­ver­wal­tung ver­schafft einen Über­blick über unter­schied­lich fort­ge­schrit­te­ne Pro­jek­te und wird regel­mä­ssig aktua­li­siert. Die letz­te Aktua­li­sie­rung datiert vom 7. Okto­ber 2022. Gegen­wär­tig befin­den sich zahl­rei­che KI-Pro­jek­te in der Bun­des­ver­wal­tung im Ver­suchs- oder Ent­wick­lungs­sta­di­um und sind daher noch nicht produktiv.
Im August 2022 hat das Kom­pe­tenz­netz­werk für künst­li­che Intel­li­genz (CNAI) in Zusam­men­ar­beit mit dem Bun­des­amt für Kom­mu­ni­ka­ti­on (BAKOM) allen Depar­te­men­ten / Ämtern sowie aus­ge­wähl­ten dezen­tra­len Orga­ni­sa­ti­ons­ein­hei­ten des Bun­des eine Erhe­bung zur KI-Nut­zung über­mit­telt. Bis Ende 2022 wird die CNAI-Pro­jekt­da­ten­bank mit die­sen Infor­ma­tio­nen ergänzt und lie­fert so einen mög­lichst umfas­sen­den Über­blick über die lau­fen­den Pro­jek­te. Es ist geplant, die Pro­jekt­li­ste in wei­te­ren For­ma­ten zur Ver­fü­gung zu stellen.

Bei­spie­le für die Anwen­dung von KI-Syste­men in der Bun­des­ver­wal­tung fin­den sich haupt­säch­lich im Bereich der Effi­zi­enz­stei­ge­rung (z.B. Text‑, Sprach- oder Bil­d­er­ken­nung, Betrugs­er­ken­nung, Plau­si­bi­li­täts­kon­trol­le, Chat­bot / Kon­ver­sa­ti­ons­agent) und in gerin­ge­rem Mas­se auch im Bereich der Ent­schei­dungs­grund­la­gen (z.B. bes­se­re Prognosen).

3. Die zustän­di­gen Behör­den ste­hen in engem Aus­tausch mit ver­schie­de­nen Sta­ke­hol­dern des KI-Bereichs in der Schweiz (Bun­des­ver­wal­tung, NGO, Unter­neh­men, aka­de­mi­sche Ein­rich­tun­gen usw.) und begrü­ssen deren Bei­trä­ge. Die Auf­nah­me der Risi­ko­ein­schät­zung in die Daten­bank der KI-Pro­jek­te des CNAI ist geplant. Das CNAI, das BAKOM und das Depar­te­ment für aus­wär­ti­ge Ange­le­gen­hei­ten (EDA) ana­ly­sie­ren zudem regel­mä­ssig die mög­li­chen Aus­wir­kun­gen der Arbei­ten zur KI-Regu­lie­rung durch die EU und den Euro­pa­rat für die Schweiz.

Die vom CNAI ver­öf­fent­lich­ten Pro­jek­te wer­den so trans­pa­rent und umfas­send wie mög­lich beschrie­ben. Dazu gehö­ren zen­tra­le Infor­ma­tio­nen wie Daten­typ, Daten­quel­le, Kom­po­nen­ten des maschi­nel­len Ler­nens sowie wei­te­re ver­füg­ba­re Informationen.

4. In den näch­sten fünf bis zehn Jah­ren wer­den Ent­wick­lun­gen auf zwei ver­schie­de­nen Ebe­nen erwar­tet. Erstens wird die syste­ma­ti­sche Nut­zung des Auto­ma­ti­sie­rungs­po­ten­zi­als, das die KI bie­tet, ange­strebt. Ein mög­lichst umfas­sen­der Ein­satz soll die Effi­zi­enz bei den admi­ni­stra­ti­ven Abläu­fen stei­gern. Der zwei­te Schwer­punkt liegt in der syste­ma­ti­schen Nut­zung der Daten­wis­sen­schaft (ein­schliess­lich KI-Metho­den) bei der Erstel­lung von Ent­schei­dungs­grund­la­gen für die öffent­li­che Poli­tik. Zu die­sem Zweck arbei­tet das Bun­des­amt für Sta­ti­stik (BFS) in Zusam­men­ar­beit mit den Depar­te­men­ten und der Bun­des­kanz­lei (BK) an einer Stra­te­gie im Bereich der Daten­wis­sen­schaft, die dem Bun­des­rat bis Ende 2022 zur Geneh­mi­gung vor­ge­legt wird. Dank die­ser Stra­te­gie sol­len ein gemein­sa­mer Hand­lungs­rah­men inner­halb der Bun­des­ver­wal­tung geschaf­fen sowie die Her­aus­for­de­run­gen und Ein­schrän­kun­gen ange­gan­gen wer­den, die der Ein­satz von Algo­rith­men im öffent­li­chen Dienst mit sich bringt. Die­se Ent­wick­lun­gen wer­den von natio­na­len und inter­na­tio­na­len Arbei­ten beglei­tet, die dar­auf abzie­len, die digi­ta­le Selbst­be­stim­mung anhand von zuver­läs­si­gen Daten­räu­men zu för­dern, wie dies der Auf­trag des Bun­des­ra­tes an das BAKOM, das BFS, die BK und das EDA vorsieht.