Der Gesetzgeber täte gut daran, rasch Rahmenbedingungen für KI-Anwendungen zu schaffen. Das hilft, Österreich als Innovationsstandort zu positionieren. Auch das Spannungsfeld zum Datenschutz muss aufgelöst werden.

Wien. Seit jeher fasziniert viele die Idee, Maschinen mithilfe von künstlicher Intelligenz (KI) zum Leben zu erwecken. Nach jahrzehntelanger Forschung ermöglichen nun Big-Data-Anwendungen und steigende Rechenleistung, dass KI-Algorithmen enorme Datenmengen analysieren, Muster erkennen und so menschliches Verhalten schneller und besser imitieren. Die Technologie wird z. B. in der Industrie und der medizinischen Diagnose eingesetzt. Sogar im Alltag unterstützt uns KI in Form von Haushaltsrobotern und ermöglicht erste Formen des autonomen Fahrens. Obwohl wir von der gefürchteten Superintelligenz noch weit entfernt sind, eröffnet bereits die schwache KI Einsparungspotenziale im Milliardenbereich.

Die Technologie ist aber mit vielen ethischen, rechtlichen und technischen Herausforderungen verbunden. Wer als Erster diese Hürden überwindet, kann sich als KI-Pionier am Markt durchsetzen.

Prozesse nicht nachvollziehbar

Maschinen besitzen keine Intuition. Sie arbeiten nach fest vorgegebenen Regeln, ermitteln Wahrscheinlichkeiten und treffen auf dieser Basis Entscheidungen. Entwickelt sich die KI laufend weiter, wird sie zunehmend zu einer Blackbox. Genau das ist die größte Schwachstelle der Technologie. KI-Prozesse sind dann nicht mehr nachvollziehbar. Dadurch steigt das Risiko, dass sich Algorithmen irren, aufgrund fehlerhafter Daten Diskriminierung fortschreiben und Aufträge ohne erforderliche Einzelfallabwägung ausführen. Gerade Letzteres kann im Straßenverkehr, in der Medizin oder bei Kreditvergaben fatale Folgen haben. Eine vertrauenswürdige, sichere und erklärbare KI ist daher Grundvoraussetzung für den ethischen Einsatz der Schlüsseltechnologie.

Die EU-Kommission hat im April mit dem Entwurf des AI Act" (AI steht für Artificial Intelligence) den weltweit ersten Rechtsrahmen für KI vorgestellt. Dieser soll die Technologie in sichere Bahnen lenken. Die Verordnung sieht mit einem risikobasierten Ansatz unterschiedlich strenge Pflichten vor. Hochrisikoanwendungen müssen z. B. von einem Menschen überwacht werden und auf diskriminierungsfreien Daten beruhen. Der Verordnungsentwurf steckt aber in den Kinderschuhen. Er muss erst abgestimmt und im ordentlichen EU-Gesetzgebungsverfahren angenommen werden. Angesichts der sehr sensiblen Themen wird dies wohl noch einige Zeit dauern.

Nach diesem Startschuss auf EU-Ebene hat auch Österreich im Spätsommer mit der AI-Mission 2030" nachgezogen. Die Strategie verfolgt sehr lobenswerte Ziele, wie etwa, KI amGemeinwohl orientiert einzusetzen. Das Gipfelpapier erschöpft sich allerdings in der Aufzählung bekannter Anwendungsfelder und bloßen Absichtserklärungen. Ein konkreter Maßnahmenplan fehlt. So ist die Finanzierung von Forschungsaktivitäten unklar. Auch vermisst die KI-Szene Anreize für Investoren, wie etwa Prämien. Dadurch läuft Österreich Gefahr, dass Hightechunternehmen ins Ausland abwandern.

Darüber hinaus betont die Regierung die Erforderlichkeit der KI-Regulierung, verweist jedoch vorwiegend auf die EU-Gesetzgebung. Dies ist zur Harmonisierung sinnvoll. Es wäre aber auch zu überlegen, wo es auf nationaler Ebene zusätzlicher Maßnahmen bedarf.

KI ist in den Querschnittsmaterien mitzudenken. Das passiert noch nicht wirklich: Die automatische Auswertung von online verfügbaren Datenbanken ist z. B. eine Grundvoraussetzung für die Entwicklung von KI. Sie lebt von der Datenauswertung. Die Urheberrechterichtlinie sieht nun vor, dass Plattformen durch einen entsprechenden Hinweis im Programmcode der Auswertung widersprechen können. Der Entwurf der österreichischen Umsetzung eröffnet nun aber auch die Möglichkeit, den Widerspruch durch nicht automatisierte Mittel (z. B. in AGB) zu erklären. Text- und Data- Mining-Tools könnten damit etwaige Beschränkungen nicht mehr automatisch erkennen. Das ist ein über die Richtlinie hinausgehender Hemmschuh für die heimische KI-Industrie. Ebenso könnte ein großzügigerer Gebrauch von DSGVO-Öffnungsklauseln angedacht werden. Auch die Einbindung der Datenschutzbehörde wäre dringend notwendig, um den Spagat zwischen dem strengen Datenschutzregime und der angestrebten KI-Entwicklung zu schaffen. Die Rechtsunsicherheit könnte mittels Guidelines für Big-Data- Anwendungen minimiert werden.

Ethische Standards notwendig

Auch ethische und technische Standards sind dringend notwendig. Vorbildlich war die deutsche Datenethikkommission, die bereits 2018 Handlungsempfehlungen für den KI-Einsatz ausgearbeitet hat. Hier haben wir großen Aufholbedarf. Schließlich kann die Rechtssicherheit durch die Einrichtung von Regulatory Sandboxes zum Testen von KI-Anwendungen unter Aufsicht der nationalen Behörden erhöht werden. Auch Angebote wie das Datenschutz-Audit-Tool des britischen Information Commissioner's Office können dazu beitragen, dass Unternehmen innovative Produkte entwickeln können.

Es bleibt zu hoffen, dass Österreich nach dem eher theoretischen Positionspapier rasch zur Umsetzung schreitet, damit die selbstgesteckten Ziele erreichbar werden.

Originally published by Die Presse Rechtspanorama.

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.