Regulatorischer Rahmen für Hochrisiko-KI-Systeme
Mit der 2024 verabschiedeten KI-VO wird ein harmonisierter Rechtsrahmen für die Entwicklung, das Inverkehrbringen und die Nutzung von KI in der EU geschaffen. Sie verfolgt einen risikobasierten Ansatz und unterteilt KI-Systeme in vier Risiko-Kategorien: verbotene Praktiken, Hochrisiko-KI, beschränktes Risiko und geringes Risiko.
Von besonderer Bedeutung für den Life Sciences- und den Health Care-Sektor sind Hochrisiko-KI-Systeme. Diese unterliegen einem umfassenden Compliance-Mechanismus mit Anforderungen an Risikomanagement, Trainingsdaten, Daten-Governance, technische Dokumentation, Aufzeichnungspflichten, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit.
Artikel 6 der KI-VO unterscheidet zwischen zwei Kategorien von Hochrisiko-KI-Systemen:
- Eingebettete („embedded“) KI-Systeme ((Art. 6 Abs. 1, Anhang I): KI-Systeme, die Sicherheitsbauteile von Produkten sind oder selbst Produkte darstellen, die unter EU-Harmonisierungsvorschriften wie die Medizinprodukteverordnung (MDR) oder die Verordnung über In-vitro-Diagnostika (IVDR) fallen. Diese Systeme gelten bereits aufgrund ihrer Integration in regulierte Produkte (z. B. MedTec-Angebote wie bildgebende Verfahren, Operationsroboter, Wearables und Diagnosesoftware) als hochriskant.
- Eigenständige KI-Systeme (Art. 6 Abs. 2, Anhang III): KI-Systeme, die aufgrund ihres Verwendungszwecks in bestimmten, in Anhang III aufgeführten Anwendungsfällen erhebliche Risiken für die Gesundheit, die Sicherheit oder die Grundrechte bergen (z. B. KI, die im Gesundheitswesen zur Patiententriage eingesetzt wird).
Die Rolle der Leitlinien der Kommission
Während die KI-VO den rechtlichen Rahmen vorgibt, werden die Leitlinien der Kommission bei der Rechtsanwendung in der Praxis von zentraler Bedeutung sein. Dies ist besonders wichtig für regulatorische Grauzonen, in denen das Risikoprofil nicht immer auf den ersten Blick ersichtlich ist (wie z. B. bei KI, die in medizinischen Geräten, digitalen Therapeutika, der klinischen Forschung oder der Verwaltung des Gesundheitswesens eingesetzt wird). Auch wenn die Leitlinien nicht rechtsverbindlich sind, werden sie für Unternehmen im Life Sciences und Health Care-Bereich von entscheidender Bedeutung sein, um festzustellen, ob KI-Systeme in die Hochrisikokategorie fallen und welche Compliance-Verpflichtungen gelten.
Wichtige Aspekte der Konsultation für Unternehmen im Life Sciences- und Health Care -Sektor
Die Konsultation adressiert eine Reihe an Themen, die für Akteure Life Sciences- und Health Care-Sektor von großer Bedeutung sind:
- Klarstellung der Regeln für die Einstufung als Hochrisiko-KI: Die Konsultation dient der Einholung von Stellungnahmen zu dem in Artikel 6 festgelegten Einstufungsmechanismus. Die Interessengruppen werden gebeten, Praxisbeispiele für KI-Anwendungen und ihre potenziellen Auswirkungen auf Gesundheit und Sicherheit zu liefern. Diese Praxisbeispiele sollen dabei helfen, den Anwendungsbereich der Bestimmungen für Hochrisiko-KI-Systeme zu präzisieren.
- Anforderungen und Verpflichtungen für Hochrisiko-KI-Systeme: Die Konsultation thematisiert die Frage, wie die verbindlichen Anforderungen für Hochrisiko-KI-Systeme - wie beispielsweise Risikomanagement, Data Governance, Transparenz, menschliche Aufsicht und Robustheit - in der Praxis ausgelegt werden sollten. Für Health Care-Unternehmen bedeutet dies etwa, dass sie sicherstellen müssen, dass KI-Systeme auf repräsentativen und hochwertigen Datensätzen trainiert werden und dass die Ergebnisse erklärbar und überprüfbar sind.
- Verantwortlichkeiten entlang der Wertschöpfungskette: Ein zentraler Punkt ist die Verteilung der Verantwortlichkeiten zwischen den verschiedenen Akteuren in der KI-Wertschöpfungskette, einschließlich Entwicklern, Betreibern, Importeuren und Händlern. Die Kommission bittet um Stellungnahmen dazu, wie diese Rollen definiert und welche Pflichten den jeweiligen Akteuren zugewiesen werden sollten – insbesondere in komplexen Ökosystemen mit mehreren Beteiligten.
- Praktische Herausforderungen bei der Umsetzung: Die Kommission holt auch Rückmeldungen zu den praktischen Herausforderungen ein, mit denen Unternehmen bei der Umsetzung der KI-VO konfrontiert sind. Dazu gehören Überschneidungen mit bestehenden sektoralen Vorschriften (z. B. der Medizinprodukteverordnung), der Aufwand für Konformitätsbewertungen und die Verfügbarkeit der sog. notifizierten Stellen.
Vorteile des politischen Engagements
Die Konsultation der Kommission ist eine wichtige Gelegenheit für Unternehmen im Life Sciences- und Health Care-Sektor, die Umsetzung der KI-VO aktiv mitzugestalten. Durch praxisnahe Beiträge und die Benennung branchenspezifischer Herausforderungen können Stakeholder dazu beitragen, dass die Leitlinien effektiv und gleichzeitig verhältnismäßig sind. Unternehmen, die KI-Systeme entwickeln oder einsetzen, sollten ihre Produktportfolios im Hinblick auf die Hochrisiko-Kriterien der KI-VO prüfen und sich bis zum 18. Juli 2025 an der Konsultation beteiligen.
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
