«Künstliche Intelligenz» hält Einzug in den schweizerischen Alltag. KI-Systeme filtern beispielsweise Inhalte in sozialen Netzwerken oder selektionieren Bewerber:innen bei Unternehmen. Sie haben bereits eine grosse gesellschaftliche Relevanz und versprechen einen immensen wirtschaftlichen und gesellschaftlichen Nutzen. Gleichzeitig stellen sich bei ihrem Einsatz wichtige Fragen, denn es drohen Diskriminierung, systematische Benachteiligung und Manipulation. Die EU hat die Herausforderungen erkannt und den AI Act beschlossen. Auch der Europarat hat eine Konvention zu KI-Systemen verabschiedet. An den Verhandlungen war die Digitale Gesellschaft beteiligt. Zur Auslegeordnung in der Schweiz veröffentlicht die gemeinnützige Organisation ihr aktualisiertes und ausführliches Positionspapier mit einem konkreten Vorschlag für einen rechtlichen Rahmen.
KI-Systeme, genauer im Positionspapier als Automated Decision-Making-Systems (ADM-Systeme) bezeichnet, sind längst – und nicht erst seit dem Aufkommen von Chatbots – in unserem Alltag angekommen. Die Algorithmen sozialer Medien und der Newsportale entscheiden beispielsweise, welche Nachrichten wir sehen und welche verborgen bleiben. Risikobewertungen haben einen Einfluss darauf, ob und zu welchen Konditionen wir Kredite und Versicherungsleistungen bekommen oder gar nicht erst angeboten erhalten. Die Vorhersagen eines Predictive-Policing-Systems entscheiden, wo Polizeistreifen patrouillieren und wo nicht.
ADM-Systeme haben einen wachsenden Einfluss auf unseren Alltag und unser Leben. Sie können die Entwicklungschancen von Individuen beeinträchtigen und Grundrechte verletzen. Darüber hinaus können ADM-Systeme einen gesellschaftlichen Einfluss haben, beispielsweise aufgrund einer algorithmischen Verzerrung («Bias»), die bestimmte Personen oder Gruppen benachteiligt oder bevorzugt.
Die Europäische Union hat die Herausforderungen erkannt und den AI Act beschlossen. Auch der Europarat hat in diesem Jahr eine Konvention zu KI verabschiedet. An den Verhandlungen war die Digitale Gesellschaft beteiligt. Die gemeinnützige Organisation beschäftigt sich bereits seit vielen Jahren mit dem Thema und ist auch an der aktuellen Schweizer Auslegeordnung beteiligt, die vom Bundesamt für Kommunikation (BAKOM) geleitet wird. Nun hat die Digitale Gesellschaft ihr Positionspapier aus den Jahr 2022 aktualisiert und veröffentlicht.
Die grösste Neuerung betrifft den Verweis auf die Schutzziele des Datenschutz-Konzepts der Digitalen Gesellschaft. Ferner wurden einige Konzepte und Begriffe wie die staatliche Förderung von Open-Source-Projekten ergänzt oder präzisiert
Die Position der Digitalen Gesellschaft und ihr konkreter Vorschlag für einen rechtlichen Rahmen folgen einer Mischform zwischen einem schaden- und einem risikobasierten Ansatz. Die Regeln richten sich nach dem vom System ausgehenden Risiko für Einzelpersonen und für die Gesellschaft. So gelten für Systeme mit «tiefem Risiko» keine weiteren Einschränkungen. Der Einsatz von Systemen mit «inakzeptablem Risiko» ist hingegen absolut verboten. Dazwischen finden sich die Systeme mit «mittlerem oder hohem Risiko», für die Transparenz- und Sorgfaltspflichten gelten.
Der Vorschlag ist technologieneutral und folgt einem «human-centered» Ansatz: ADM-Systeme sollen dem Menschen nützen. Es soll dem Menschen durch den Einsatz von ADM-Systemen besser gehen. Um Innovation nicht zu verhindern, setzt der Vorschlag auf Selbstdeklaration statt die Unternehmen und die Verwaltung mit bürokratischen Prüfprozessen zu belasten. Die Regulierung soll sicherstellen, dass Nutzen und Risiken in einem guten Verhältnis zueinander stehen.
Weiterführende Informationen: