Das auf künstliche Intelligenz im Bildungsbereich spezialisierte Unternehmen Riid und das gemeinnützige Konsortium DXtera haben gemeinsam die EdSAFE AI Alliance ins Leben gerufen, um das öffentliche Vertrauen in den Einsatz künstlicher Intelligenz im Bildungssektor zu stärken, das durch Probleme mit auf Gesichtserkennung basierenden Prüfungssystemen erschüttert wurde.
Die Allianz wurde auf der EdTech-Konferenz ASU+GSV Summit angekündigt und bringt Unternehmen aus diesem Bereich mit gemeinnützigen Organisationen und Branchenverbänden zusammen. Ziel der Allianz ist es, eine Reihe von freiwilligen Benchmarks und Standards zur Messung der Qualität und Zuverlässigkeit von KI-Technologien im Bildungsbereich festzulegen.
Die EdSAFE-Allianz wird Sicherheit, einschließlich Sicherheit und Datenschutz, Rechenschaftspflicht, Fairness und Wirksamkeit als vier kritische Bereiche für Standards festlegen. Sicherheit, Rechenschaftspflicht, Fairness und Wirksamkeit bilden die Buchstaben des Akronyms SAFE”.
Die Association for Computing Machinery (ACM) hat erst vor wenigen Wochen Richtlinien für Ferntests und Prüfungsaufsicht veröffentlicht, nachdem Bedenken hinsichtlich der Effektivität und Fairness von Prüfungssystemen, die biometrische Gesichtsdaten verwenden, laut wurden. Diese Bedenken betrafen u. a. die unzureichende Leistung für Menschen mit dunkler Hautfarbe und den schwachen Schutz der Privatsphäre.
Die Allianz wird sich mit der Frage befassen, wie anonymisierte Datensätze und eine offene Infrastruktur für die Schulung und den Einsatz von KI-Tools in diesem Sektor geschaffen werden können und wie sichergestellt werden kann, dass die Tools sicher, fair und unvoreingenommen sind. Die Allianz beabsichtigt auch, die Verwendung von randomisierten kontrollierten Studien und anderen strengen Bewertungsmethoden für KI-Bildungssysteme zu fördern.
Jim Larimore, Riiid Chief Officer for Equity in Learning, leitet die Bemühungen des Unternehmens bei der Bildung der KI-Allianz.
“Eines der Dinge, die wir von den Prüfungssystemen wissen, die sich stark auf Computer Vision oder Gesichtserkennung stützen, ist, dass es dafür Hardware- und Softwaregrenzen gibt”, sagte er in einem Interview mit GovTech.
Larimore wies auch darauf hin, dass mehr Front-End-Tests erforderlich sind, um Schwachstellen zu identifizieren und potenzielle Risiken im Zusammenhang mit der Technologie anzugehen.
Zu den Mitgliedern von DXtera gehören mehrere Hochschulen und Räte für Bildungssysteme, Unternehmen und die EduCloud Alliance.
