Bevor ein Patient ein Medikament einnimmt, muss aufgrund umfangreicher Tests feststehen, dass die Risiken beherrschbar sind. Warum aber dürfen Betriebssysteme, Smartphones und Smart-Home-Devices ohne unabhängige Vorabprüfung auf den Markt? Für Hochrisiko-KI schlägt die EU nun einen neuen Weg ein, um riskante Technologien künftig zu regulieren.
Michael Kolain ist Rechtswissenschaftler und Autor. Er arbeitet als Koordinator des Programmbereichs „Digitalisierung“ am Deutschen Forschungsinstitut für öffentliche Verwaltung. Gemeinsam mit Prof. Dr. Mario Martini und Jan Mysegades hat er 2017 das Buch „Blackbox Algorithmus – Grundlagen einer Regulierung Künstlicher Intelligenz“ vorgelegt.
Dass staatliche Behörden einen strengen Blick auf Arzneimittel und Medizinprodukte werfen, bevor sie massenhaft auf den europäischen Markt gelangen, ist eindeutig geregelt. BioNTech oder AstraZeneca haben aufwändige Zulassungsverfahren durchlaufen, bevor sie zur Pandemiebekämpfung zum Einsatz kamen. Der Sinn leuchtet leicht ein: Die Verbraucherinnen und Verbraucher sollen von dem Risiko verschont bleiben, dass unausgereifte oder gefährliche Produkte in Umlauf geraten und Schäden anrichten.
Als Gemeinwesen trauen wir Arzneimittelherstellern nicht zu, in eigener Verantwortung zu
