Checkliste Anbieter vs Betreiber von KI-Chatbots (KI-System)

Inhalt dieser Seite ist eine Checkliste für die Bestimmung der Anbieterschaft vs der Betreiberschaft bei KI-Systemen in Form von KI-Chatbots i.S.d. EU AI Acts (Version 1.0).

Der Checkliste liegt folgender Workflow zugrunde. Er wird im Fachbeitrag Anbieter vs Betreiber von KI-Systemen i.S.d. EU AI Acts näher beschrieben:

Die Checkliste kann hier als Link sowie mit Klick auf das nachfolgende Bild als frei verwendbares PDF downgeloaded werden.

Der Klick auf das Bild öffnet die Checkliste als PDF in einem separaten Fenster

1. Ziele dieser Checkliste:

  • Diese Checkliste hilft Anbietern und Betreibern von KI-Chatbots bei der Prüfung, welche Rolle mit welchen Pflichten sie aufgrund welcher Faktoren besitzen.
  • Die Checkliste bezieht sich ausschließlich auf KI-Systeme i.S.v. Artikel 3 Nr. 1, Nr. 66 EU AI Act und dabei insbesondere auf KI-Chatbots mit allgemeinem Verwendungszweck.

2. Zielgruppe dieser Checkliste:

  • Legal, Ethik & Compliance
  • Kommunikation u. Marketing
  • Software Developement
  • Produkt-/Projekt-Management
  • IT und Betrieb

EU AI Act - CAIR4.eu

Hintergründe und fachliche Details den Checklisten finden in diesem Beitrag zu Checklisten zum EU AI Act.

3. Inhalte der Checkliste als HTML:

1. KI-System?
Prüfen Sie zuerst, ob es sich bei dem (geplanten) Chatbot  tatsächlich um ein KI-System im Sinne des EU AI Acts handelt bzw. welche Variante eines KI-Systems vorliegt:
Ist die Definition für KI-Systeme gemäß Artikel 3 Nr. 1 EU AI Act erfüllt, z.B.:
– Ist das Angebot maschinenbasiert und verfügt es über eine Interaktionsschnittstelle?
– Sind die sonstigen Kriterien erfüllt, insbesondere der autonome Betrieb?
Dient das KI-System der direkten Interaktion mit natürlichen Personen (Artikel 50 Abs. 1 EU AI Act)?
– Ist das KI-System dafür ausgelegt, direkt mit natürlichen Personen zu interagieren?
– Ist es z.B. ein KI-Chatbot in Form einer Applikation oder in browserbasierter Form?
Ist es ein GPAI-System mit allgemeinem Verwendungszweck (Artikel 50 Abs. 2 EU AI Act):
– Ist es ein KI-System, in dem ein KI-Modell mit allgemeinem Verwendungszweck integriert ist (GPAI-Modell), vgl. Artikel 3 Nr. 63, 66 EU AI Act?
– Können mit dem KI-System unter Verwendung eines sonstigen KI-Modells synthetische Inhalte wie Bild, Ton, Video oder Text erstellt werden?
2. Anbieterschaft?
Prüfen Sie, ob sie Anbieter des KI-Chatbots sind:
Entwicklung des KI-Systems:
– Wurde der KI-Chatbot selbst entwickelt?
– Wurde der KI-Chatbot im eigenen Auftrag von Dritten entwickelt?
– Wurde der KI-Chatbot eines anderen Anbieters signifikant individualisiert?
Zusätzlich – Inverkehrbringung:
– Wurde der KI-Chatbot unter eigenem Namen oder der Handelsmarke entgeltlich oder unentgeltlich in Verkehr gebracht?
– Wurde der KI-Chatbot unter eigenem Namen oder der Handelsmarke entgeltlich oder unentgeltlich in Betrieb genommen?
– Könnte nach der Verkehrsanschauung der Anschein entstehen, dass eine der vorherigen beiden Varianten zutrifft?

3. Anbieterpflichten?
Prüfen sie, ob ihr KI-Chatbot die Transparenzpflichten von Artikel 50 (1) und (2) EU AI Act sowie die Vermittlung von KI-Kompetenz i.S.v. Artikel 4 EU AI Act erfüllt.
Information der Nutzer (Artikel 50 Abs. 1 EU AI Act):
– Wurde der KI-Chatbot so konzipiert und entwickelt, dass die Nutzer informiert werden, dass sie mit einem KI-System interagiere?
– Ist dies aus Sicht einer verständigen natürlichen Person aufgrund der Umstände und des Kontexts offensichtlich?
Kennzeichnung von Inhalten bei generativem KI-Chatbot (Artikel 50 Abs. 1 EU AI Act):
– Ist sichergestellt, dass die Ausgaben des KI-Chatbots in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind?
– Hat der KI-Chatbot lediglich eine unterstützende Funktion für die Standardbearbeitung oder werden Eingabedaten oder deren Semantik nicht wesentlich verändert?
KI-Kompetenz:
– Ist sichergestellt, dass Menschen, die mit dem KI-Chatbot befasst sind, über ausreichende KI-Kompetenz verfügen?
– Werden dabei die technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext ausreichend berücksichtigt?

4. Betreiberschaft?
Prüfen sie, ob sie (zusätzlich auch noch) Betreiber i.S.v. Artikel 3 Nr. 4 EU AI Act sind.
Wird der KI-Chatbot in eigener Verantwortung verwendet?
Liegt eine geschäftliche und keine rein private Nutzung vor?

5. Betreiberpflichten?
Prüfen sie, ob ihr KI-Chatbot die Offenlegungspflichten von Artikel 50 (4) EU AI Act sowie die Vermittlung von KI-Kompetenz i.S.v. Artikel 4 EU AI Act erfüllt.
– Offenlegung von Deepfakes, Artikel 50 (4) S.1 EU AI Act):
Ist bei Bild-, Ton- oder Videoinhalten die Offenlegung sichergestellt, dass Deepfakes künstlich erzeugt oder manipuliert wurden?
Offenlegung künstlich erzeugter Texte Artikel 50 (4) S.3 EU AI Act):
– Wird mit dem KI-System Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren?
– Wird dabei offengelegt, dass der Text künstlich erzeugt oder manipuliert wurde?