Während Österreich mit dem nationalen KI-Gesetz – sohin insbesondere mit der Benennung der zukünftigen KI Behörde(n) und Umsetzung der Sanktionen – hinter dem Zeitplan liegt, sind die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck ("General Purpose AI" bzw "GPAI-Modelle") planmäßig seit 2.8.2025 anwendbar. Diese treffen nicht nur Hersteller von GPAI-Modellen, sondern auch Betreiber, die diese Modelle in ihre Systeme integrieren und verändern. Sie können dadurch als "downstream provider" die Anbieterrolle einnehmen. Sie müssen diesfalls auch die Anforderungen nach Art 51 ff KI-VO umsetzen. Die EU-Kommission bietet hierfür in ihren kürzlich final veröffentlichten Leitlinien zu GPAI (siehe hier) sowie den Code of Practices ergänzende Guideance.
Zu den wichtigsten GPAI-Eckpunkten für Unternehmen und betroffene Einrichtungen (zB Forschung, Lehre und öffentliche Hand) sowie den Auswirkungen einer fehlenden nationalen Grundlage für die Verhängung von KI-VO-Geldbußen:
GPAI-Modelle erkennen
Um die Relevanz der neuen Pflichten für seinen Betrieb einschätzen zu können, sind GPAI-Modelle im Rahmen der KI-Bestandanalyse zu identifizieren. So wird nicht jedes Modell eines KI-Systems reguliert. Nach Art 3 Z 63 KI-VO weisen GPAI-Modelle eine erhebliche allgemeine Verwendbarkeit auf und sind in der Lage, unabhängig von der Art und Weise ihres Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Charakteristisch ist zudem, dass sie in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden können. Sind Modelle für spezifische Zwecke entwickelt worden, ist die Einordnung als GPAI ausgeschlossen. Das gilt es in der Praxis technisch kritisch zu prüfen.
Nach den ErwGr werden die GPAI-Anforderungen vermutet, wenn das KI-Modell mindestens eine Milliarde Parameter hat. Darauf aufbauend hat die EU-Kommission auf Basis der Trainingsberechnung für das Modell indikative Kriterien erarbeitet. Demnach soll ein GPAI-Modell vorliegen, wenn
ein Trainingsberechnungswert von 10²³ FLOP überschritten wird und
sprachbasierte oder text-to-image oder text-to-video-Outputs generiert werden.
Dass nach den Leitlinien der Output für die Einordnung ausschlaggebend und zB Modelle für Schach- und Computerspiele oder für Wettervorhersagen per se ausgenommen sein sollen, ist fragwürdig. Schließlich stellt die gesetzliche Definition nicht auf die Ergebnisse der ausgeführten Arbeiten ab. Unabhängig davon bieten die Beispiele aber einen guten Anhaltspunkt, GPAI besser erkennen und einordnen zu können.
Um die Bestandsaufnahme zu erleichtern, können sich Verpflichtete an der Form der Bereitstellung orientieren. GPAI-Modelle werden zB regelmäßig über Bibliotheken (zB Hugging Face, GitHub), Anwendungsprogrammierschnittstellen (API), durch direktes Herunterladen oder als physische Kopie zur Verfügung gestellt.
Wurden GPAI-Modelle identifiziert, stellt sich die Frage, ob sie systemische Risiken aufweisen und daher die erweiterten Anbieterpflichten greifen. Die Klassifizierung wird nach Art 52 Abs 2 KI-VO angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, gemessen in Gleitkommaoperationen, mehr als 1025 FLOP beträgt. Zudem kann die Kommission Modelle auch als GPAI mit systemischen Risiken feststellen.
Anbieterpflichten
Gemäß Art 53 ff KI-VO müssen Anbieter von GPAI-Modellen nunmehr unter anderem folgende Anforderungen erfüllen:
Dokumentation: technische Dokumentation für jedes einzelne Modell, einschließlich seines Trainings- und Testverfahrens und der Ergebnisse seiner Bewertung während des Lebenszyklus.
Bereitstellung von Informationen für Anbieter von KI-Systemen: Integrationserleichterung für Anbieter von KI-Systemen, damit sie die Fähigkeiten und Grenzen des Modells gut verstehen und ihren Pflichten nachkommen können.
Urheberrechts-Compliance: Umsetzung einer Strategie zur Einhaltung des EU-Urheberrechts.
Transparenz: Veröffentlichung einer Zusammenfassung der verwendeten Trainingsinhalte. Hierfür wird ein Template bereitgestellt.
Für Anbieter von GPAI-Modellen mit systemischen Risiken gelten zusätzliche Pflichten: Risikoanalysen und Modell-Evaluierungen, Meldung schwerwiegender Vorfälle an das AI Office, laufende Cybersicherheitsmaßnahmen.
Ausnahmen vom Anwendungsbereich und den Pflichten für GPAI-Anbieter bestehen jedoch unter bestimmten Voraussetzungen für Open Source Software, sofern diese keine systemischen Risiken mit sich bringt.
Vom downstream modifier zum downstream provider
Werden GPAI-Modelle von nachgelagerten Akteuren, die das Modell bei sich integrieren, erheblich verändert, werden sie zum downstream provider. Die Guidelines stellen aber im Einklang mit dem Blue Guide klar, dass nicht jede Änderung relevant ist. Sie muss "erheblich" bzw "significant" sein. Das kann zB aber auch durch ein Finetuning des Modell erfolgen.
Ergänzend dazu unterstützen die neuen Leitlinien zu GPAI die Abgrenzung unbeachtlicher und erheblicher Veränderungen mit indikativen Schwellenwerten:
Es wird mehr als ein Drittel der Trainingsberechnung für das ursprüngliche Modell verwenden;
Sofern der Trainingsaufwand des Ursprungsmodells weder bekannt noch zuverlässig abschätzbar ist, können folgende Indikatoren genutzt werden: Ist das Ursprungsmodell ein GPAI-Modell mit systemischem Risiko, ist ein Drittel des Schwellenwerts für KI-Modelle mit systemischem Risiko anzusetzen, aktuell somit ein Drittel von 10²⁵ FLOP. Für GPAI-Modelle ohne systemischem Risiko ist ein Drittel der allgemeinen indikativen Schwelle heranzuziehen, aktuell somit ein Drittel von 10²³ FLOP.
Daher ist bei inhouse Anpassungen und customizing Vorsicht geboten. Eifrige Veränderungen von lizensierten – auch Open Source Software, sofern nicht ausgenommen – können auch zu einer neuen Rolle unter der KI-VO führen.
Keine durchsetzbaren Geldbußen, geringere Haftung?
Ferner wurden mit 2.8.2025 die Geldbußen nach der KI-VO scharf geschalten. Eine Ausnahme besteht für GPAI-Modelle; die entsprechenden Geldbußen bei Verstößen gegen die jetzt erst wirksam gewordenen Vorschriften können erst ab dem 2.8.2026 verhängt werden. Da national die Behördenkompetenzen und begleitenden Straf- und Verfahrensbestimmungen noch nicht festgelegt sind, können derzeit in Österreich keine Strafen wegen Verletzung der KI-VO, insbesondere der bereits geltenden Verbote nach Art 5 KI-VO verhängt werden (bis zu EUR 35 Mio oder 7 % des weltweiten Jahresumsatzes). Allerdings ist das kein Freifahrtschein. Bei Verletzung geltender Gesetze, Verordnungen und Richtlinien bleibt eine zivilrechtliche Haftung der Gesellschaft sowie deren vertretungsbefugten Organe – auch nach dem Gesetz gegen unlauteren Wettbewerb – unberührt.
ToDo's für GPAI Compliance im Überblick:
GPAI-Modelle und Rolle identifizieren
GPAI-Modelle klassifizieren
Erhebliche Modifikationen von GPAI-Modellen hinterfragen
Pflichten als Anbieter für das entwickelte Modell bzw als downstream provider für den veränderten Teil des Modells umsetzen
Dokumentation der Modelle, Rolle und Pflichten
Laufende Re-Evaluierung der Pflichten und Anpassung der Dokumentation während des gesamten Lebenszyklus