In einem Interview spricht Staatssektretärin Franziska Brantner über die Chancen von „KI made in Germany“. Schlüsselfaktor wären u.a. die vom EU AI Act geforderten Transparenzpflichten. Eine Studie der Standford University scheint die Thesen zu bestätigen. Doch Vorsicht: Der EU AI Act verschafft allen europäischen KI-Anbietern potenzielle Wettbewerbsvorteile – nicht nur deutschen.
- Der internationale KI-Wettbewerb ist im vollen Gange.
- Amerikanische KI-Modelle scheinen die europäischen Anbieter abgehängt zu haben.
- Doch die Vorgaben des EU AI Acts könnten ein Game-Changer sein.
- Diese These wird durch eine Standford-Studie von 2023 durchaus unterstützt.
- Eine Übersicht aktualisiert die in der Studie untersuchten Normen des EU AI Acts.
- Am Ende erfolgt ein kurzer Wissenstest.
Normen zu diesem Beitrag:
- Artikel 3 Nr. 1, 63, 66 EU AI Act
- Artikel 51 EU AI Act
- Artikel 53 EU AI Act
- Artikel 55 EU AI Act
- Anhang VIII EU AI Act
- Anhang XI EU AI Act
- Anhang XIII EU AI Act
Interview auf n-tv.de
n-tv hat ein Interview mit Staatssekretärin Franziska Brantner zu „KI made in Germany“ veröffentlicht. Der Tenor: KI aus Deutschland hat Zukunft! Stimmt das wirklich? Die Antwort lautet „Jein“. Aber der Reihe nach.
Screenshot des Interviews auf n-tv
Das Interview thematisiert zunächst das Spannungsfeld zwischen regulatorischen und wirtschaftlichen Aspekten rund um den internationalen KI-Wettbewerb:
- Unternehmen wollen die leistungsfähigsten KI-Modelle nutzen, um Wettbewerbsnachteile zu vermeiden.
- Die leistungsstärksten und am häufigsten verwendeten Modelle stammen aktuell aber von Übersee und weniger aus Europa oder Deutschland.
- Darüber hinaus benötigen Unternehmen möglichst geringe bürokratische Hürden bei der KI-Nutzung.
- Der EU AI Act birgt jedoch mit hoher Wahrscheinlichkeit das Gegenteil: Hohe bürokratische Zusatzaufwände!
- Droht vor diesem Hintergrund der EU AI Act die europäische KI-Landschaft „zu erschlagen“ (Wortlaut)?
Anders formuliert: Kann Europa, und allen voran Deutschland, bei Künstlicher Intelligenz tatsächlich noch Anschluss an die großen amerikanischen Technologiekonzerne finden? Die Antworten von StS Brantner fallen auffallend optimistisch aus. Zu recht?
Die im Beitrag angesprochenen Bedenken findet man auf vielen Fachportalen, z.B. auf heise. Derlei Negativ-Einschätzungen beruhen u.a. auf den „mittelmäßigen“ Leistungsbewertungen europäischer Lösungen durch die KI-Benchmarks der Stanford University (Detailergebnisse hier). Interessanter Weise ist die Standford University auch Herausgeber einer Studie, welche 2023 darstellte, wie schwer sich Anbieter von besonders leistungsfähigen KI-Modellen bei der Umsetzung des EU AI Acts tun dürften. In eine ähnliche Kerbe schlägt StS Franziska Brantner im Interview. Insofern lohnt es sich, die Standford-Studie zum EU AI Act genauer unter die Lupe zu nehmen, um sie mit den Thesen des Interviews abzugleichen.
Stanford-Studie 2023 zum EU AI Act
Die Ergebnisse der im Juni 2023 erschienen Stanford Studie sind bereits auf den ersten Blick ernüchternd: Kaum ein Foundation-Modell erfüllt danach hinreichend die 12 validierten Kriterien. Einige KI-Modelle schneiden schlecht ab. Andere noch schlechter. Keines gut! Die Ergebnisse der Studie wurde und werden bis heute in unzähligen Medien zitiert, um den hohen Handlungsbedarf zu untermauern. Das gilt aber nicht nur für amerikanische Anbieter … die Studie enthält auch auffällig schlechte Bewertungen für europäische Lösungen.
Screenshot der Studienergebnisse der Stanford University
Egal ob die Ergebnisse zu recht erfolgen oder nicht – eine objektive Einschränkung sei erlaubt: Die Studie nutzt für ihre Untersuchung eine Vorversion des EU AI Acts. Eine Version, die nicht immer mit der finalen Version übereinstimmt, siehe:
Die Studie läßt vor diesem Hintergrund einige Fragen offen:
- Gegenstand der Untersuchung sind explizit „Foundation Models“, dies entspricht den KI-Modellen mit allgemeinem Verwendungszweck i.S.v. Artikel 3 Nr. 63 EU AI Act.
- Der in der Studie am häufigsten validierte Artikel 28b war allerdings eine Zwischenversion von Mai 2023.
- Zudem bezieht sich der besonders häufig zitierte Anhang VIII auf Hochrisiko-KI-Systeme mit allgemeinem Verwendungszweck i.S.v. Artikel 3 Nr. 1, Nr. 66 EU AI Act und weniger auf die darin enthaltenen KI-Modelle i.S.v. Artikel 3 Nr. 63 EU AI Act.
- Die alte Fassung von Normen, Anmerkungen und Anhängen macht die Interpretation der Ergebnisse entlang der 12 Kriterien insgesamt schwer lesbar.
- Daher nachfolgend eine Übersicht mit den aktualisierten Normen, bei der auch die Artikel 51 ff. EU AI Act beigefügt sind, welche die finalen Providerpflichten für KI-Modelle definieren.
- Zudem dürfte neben dem viel zitierten Anhang VIII auch Anhang XI von Bedeutung sein. In der Studie erwähnt wurde er allerdings nicht.
Das Beispiel der Studie aus 2023 zeigt die potenzielle Verwirrung, die durch die vielen z.T. kurzfristigen Änderungen und Neufassungen des EU AI Acts entstanden sind: Nicht nur die Nummerierungen der Artikel der Vorversion stimmen nicht mit den finalen Nummerierungen überein. Auch die finale Logik, die genau zwischen (Hochrisiko-)KI-Systemen und KI-Modellen verschiedener Risikostufen unterscheidet, ist in der Vorversion nicht exakt so geregelt wie heute. Dies macht die Analyse vieler älterer Beiträge zum EU AI Act zu einer mitunter aufwändigen Puzzle-Arbeit!
Äpfel vs. Birnen?!
Anbei eine Übersicht, welche die in der Studie geprüften Normen (rechts) den finalen Normen für KI-Modelle zumindest teilweise gegenüberstellt (vorletzte Spalte). Anhang VIII bezog sich dabei bereits 2023 auf Hochrisiko-KI, ist also ein (durchaus wichtiger) „Sonderfall“. Umgekehrt beziehen sich einige der Normen (nur) auf KI-Modelle mit allgemeinem Verwendungszweck und systemischen Risiken.
| Kategorie | Schlüsselbegriff | Normen 2024 | Studie 2023 |
|---|---|---|---|
| Daten | Quellen | Anhang VIII Abschnitt 1 Nr. 6 | Anhang VIII |
| Governance | Artikel 10 | Artikel 28b | |
| Copyright | Artikel 53 (1) c) | Artikel 28b | |
| Offenlegung | generell | Artikel 53 (1), Anhang VIII | Anhang VIII |
| Energie | Artikel 51, Anhang XIII c); Artikel 53, Anhang XI Abschnitt 1, 1. e) | Artikel 28b | |
| KI-Modell | Fähigkeiten und Grenzen | Artikel 53 (1) b) i) | Anhang VIII |
| Risiken und Maßnahmen | Artikel 55 (1), Anhang VIII | Artikel 28b, Anhang VIII | |
| Benchmarks | Artikel 51, Anhang XIII e), Anhang VIII | Artikel 28b, Anhang VIII | |
| Tests | Anhang VIII | Artikel 28b, Anhang VIII | |
| Bereitstellung | maschinelle Offenlegung | ||
| Offenlegung von Mitgliedsstaaten | Anhang VIII Abschnitt A Nr. 10 | Anhang VIII | |
| Nachgelagerte Anbieter | Artikel 53 (1) b) | Artikel 28b |
Die Vermischung von Vorgaben für Hochrisiko-KI-Systeme und solchen für KI-Modelle führt grundsätzlich zur Gefahr, „Äpfel mit Birnen“ zu vergleichen. Gleichwohl dies der Fall ist, werden die Kernaussagen der Studie durch die finale Gestaltung des EU AI Acts nicht wirklich verfälscht, da hinter jeder Hochrisiko-KI z.B. i.S.v. Anhang VIII auch immer ein KI-Modell steht.
Die Übersicht müsste sicherlich noch umfassender im Hinblick auf die Aussagen der Studie verfeinert werden. Für die hier zur Debatte stehende Fragestellung, ob und wie weit der EU AI Act für die führenden Anbieter von KI-Modellen zur Herausforderung wird, reicht sie erst einmal aus. Aufgrund der vielen neu geregelten Pflichten für KI-Modelle in Artikel 51 ff. EU AI Act ist aktuell nicht davon auszugehen, dass sie die ohnehin schlechten Werte der meisten geprüften Modelle verbessern würden. Schon gar nicht bei den besonders hohen Anforderungen im Hinblick auf Hochrisiko-KI.
Damit zurück zum Interview
In Anbetracht der mutmaßlich nach wie vor eher mäßig umgesetzten Vorgaben des EU AI Acts bei KI-Modellen sind die Aussagen von StS Brantner durchaus zutreffend – und ganz im Sinne von Artikel 1 EU AI Act, der den Schutz den Binnenmarktes und damit auch die Wettbewerbsfähigkeit lokaler KI-Anbieter stärken will:
- Europäische Anbieter, die den EU AI Act erfolgreich umsetzen, könnten die Marktchancen ihres Angebot durchaus erhöhen!
- „Made in Germany“ kann somit durchaus (wieder) ein vertrauenswürdiges Gütesiegel werden, das auch bei KI weltweit geschätzt wird, wenn …
- … wie von StS Brantner beschrieben, die Normen und Standards tatsächlich „klug und schnell“ entwickelt werden, und sich auch Deutsche Anbieter von KI-Modellen und KI-Systemen in der Lage sehen, die vielen Auflagen des EU AI Acts besser zu erfüllen als inner- und außereuropäische Wettbewerber.
Damit dies gelingt wird insbesondere der faktische (und nicht nur in Aussicht gestellte) Support von deutschen Anbietern wie Aleph Alpha durch staatliche Auftraggeber notwendig sein.
Die Kernthesen des Interviews können also grds. zutreffen. Doch Vorsicht: Damit das Label „Made in Germany“ nicht durch das Label „Made in Europe“ verdrängt wird, muss auch der innereuropäische Wettbewerb beachtet werden. So hat sich die Sparkassen-Gruppe gerade erst für ein nicht-deutsches KI-Modell entschieden. Genutzt werden sollen Open-Source-Lösungen aus Frankreich und den USA: Genauer Mistral und Meta. Beide Anbieter haben neue hochleistungsfähige KI-Modelle angekündigt, nämlich Mistral Large und Llama 3. Noch wichtiger: Begründet wird dieser investitionsintensive Schritt durch die Vorgaben des EU AI Acts für die Finanzwirtschaft (dazu in Kürze ein separater Artikel). Deutsche KI-Anbieter wie Aleph Alpha müssen sich folglich anstrengen, um bei derartigen Rennen am Ball zu bleiben. Nur dann kann „Made in Germany“ bei KI zum begehrten Qualitätssiegel werden.
Zum Schluss noch ein kurzer Test zum Thema EU AI Act und internationaler Wettbewerb:
Über den Autor:
Schreibe den ersten Kommentar