St. Gallen: Datenschutzrechtliche Herausforderungen der Künstlichen Intelligenz
In St. Gallen ist die Künstliche Intelligenz (KI) ein präsentes Thema. Sie bietet viele Möglichkeiten, birgt jedoch auch datenschutzrechtliche Risiken. Die Verarbeitung persönlicher Daten durch KI-Systeme kann erhebliche Auswirkungen auf die Privatsphäre und informationelle Selbstbestimmung der betroffenen Personen haben.
Übersicht: Künstliche Intelligenz St. Gallen
- Thema: Künstliche Intelligenz und Datenschutz
- Ort: St. Gallen
- Hauptprobleme: Datenschutzrechtliche Risiken, Transparenz, Zweckgebundenheit, Richtigkeit der Daten
- Lösungsansätze: Rechtskonforme Handhabung, Sensibilisierung der Mitarbeitenden, Datenschutz-Folgenabschätzung
Die Fähigkeit von KI-Systemen, große Datenmengen zu verarbeiten und schnell Muster und Zusammenhänge zu erkennen, wirft Fragen auf. Woher kommen die Trainingsdaten und auf welcher Rechtsgrundlage werden sie verarbeitet? Ist gewährleistet, dass aufgrund der Ergebnisse der KI nicht auf einzelne Personen geschlossen werden kann?
Die datenschutzrechtlichen Grundsätze der Transparenz, der Zweckgebundenheit und der Richtigkeit der Daten sind ebenfalls von Bedeutung. Oft ist heute unklar, ob in einem System KI verwendet wird. Das ist für die datenschutzrechtliche Beurteilung eine große Herausforderung.
Der Grundsatz der Zweckmäßigkeit besagt, dass öffentliche Organe Personendaten nur für den gesetzlich definierten Zweck bearbeiten dürfen. Bürgerinnen und Bürger müssen nicht damit rechnen, dass Daten, die sie dem Staat aufgrund hoheitlicher Aufgaben überlassen, für das Training von KI-Systemen dienen.
Die Richtigkeit der Daten spielt neben dem Schutz der betroffenen Personen auch bei den Trainingsdaten eine große Rolle: Nur qualitativ hochwertige Daten führen zu qualitativ hochwertigen Systemen. Weiter stellen sich Fragen dazu, wie die Rechte der betroffenen Personen gewahrt werden können.
Zudem ist auch der technische Schutz eine Herausforderung: Für das Training von KI werden viele auch sehr sensible Daten bearbeitet. Schwachstellen müssen geschützt und die Manipulation verhindert werden.
Das öffentliche Organ ist in der Pflicht: Einerseits muss es beim Einsatz von KI sicherstellen, dass alle gesetzlichen Anforderungen erfüllt werden. Möchte ein öffentliches Organ KI einsetzen, dürfte eine Datenschutz-Folgenabschätzung nötig sein.
Bei einer Auftragsdatenbearbeitung muss das öffentliche Organ sicherstellen, dass Daten nicht für das Training von KI verwendet werden. Zudem müssen die Mitarbeitenden geschult und sensibilisiert werden.
Die Regierung hat ein Merkblatt für die Handhabung, beispielsweise von DeepL oder ChatGPT, erlassen. Es wird kein Verbot vorgesehen, sondern auf eine rechtskonforme Handhabung unter Berücksichtigung des Datenschutzes verwiesen.
Die FDS begrüßt diese Stoßrichtung. KI wird je länger je mehr ein unverzichtbarer Bestandteil des Alltags sein. Es ist wichtig, die Mitarbeitenden auf einen datenschutzkonformen und verantwortungsbewussten Umgang zu sensibilisieren.
Wichtig ist auch die gesellschaftliche Diskussion. KI betrifft jeden einzelnen. Können Bürgerinnen und Bürger mitbestimmen, wächst auch das Vertrauen. Und das ist essenziell für sämtliche Aufgaben, die der Staat erfüllt.
