Montagmorgen, erste Tasse Kaffee. Sabine leitet das Dokumentenmanagement bei einem Medizintechnikhersteller, und in ihrem Postfach liegt eine Release-Mail ihres DMS-Anbieters. Ab dem nächsten Update lässt sich jedes Dokument per Klick zusammenfassen, dazu kommt ein Chat-Assistent über den gesamten Bestand. Die Funktion ist standardmäßig aktiv.
Ihr Team wird sich freuen. Sabine denkt an etwas anderes: an das nächste Audit. Ihre erste Frage ist nicht, ob die Zusammenfassungen gut sind, sondern was das für die Pflichten ihres Hauses bedeutet, gegenüber der Aufsicht, den Auditoren und den eigenen Leuten.
Genau diese Fragen gehen wir hier der Reihe nach durch.
- Generative KI im Dokumentenmanagement (Zusammenfassen, Suchen, Entwürfe) ist in aller Regel kein Hochrisiko-System nach der KI-Verordnung. Das sollte trotzdem geprüft und dokumentiert sein.
- Was gilt: KI-Kompetenz (Art. 4, seit Februar 2025) und die Transparenzpflichten nach Art. 50 (seit August 2026), je nach Rolle.
- Die meisten Pflichten liegen beim Anbieter der DMS-KI. Wer selbst einen Assistenten baut, kann selbst Anbieter werden.
- In GxP-Umgebungen kommt die KI-Verordnung zusätzlich zu den GMP-Regeln. Die Entwürfe zu Annex 11 und Annex 22 betreffen die Validierung, die KI-Verordnung betrifft die Transparenz.
- Sieben Fragen zeigen, wo Sie stehen.
Schritt 1: Ist die KI-Funktion ein Hochrisiko-System?
Das ist meist die erste Sorge, und meist ist sie unbegründet. Die KI-Verordnung stuft Systeme nämlich nicht nach ihrer Technik ein, sondern nach ihrem Einsatzzweck. Hochrisiko ist ein System vor allem dann, wenn es in einem der Bereiche aus Anhang III eingesetzt wird, darunter Beschäftigung und Personalauswahl, Zugang zu wesentlichen Leistungen, Bildung, kritische Infrastruktur, Strafverfolgung und Justiz, oder wenn es Sicherheitsbauteil eines Produkts nach Anhang I ist, etwa eines Medizinprodukts.
Hochrisiko möglich
- Bewerbungsunterlagen vorsortieren (Anhang III, Beschäftigung)
- Entscheidungen über Zugang zu wesentlichen Leistungen
- Sicherheitsbauteil eines Medizinprodukts (Anhang I)
Kein Hochrisiko-Bereich
- SOPs und Arbeitsanweisungen zusammenfassen
- Fundstellen in Prüfberichten suchen
- Entwürfe für interne Dokumente vorbereiten
Sabines Assistent soll SOPs zusammenfassen und Fundstellen in Prüfberichten finden. Damit fällt er in keinen dieser Bereiche. Spannend wird es erst, wenn jemand im Haus auf die Idee kommt, mit derselben Funktion Bewerbungsunterlagen vorzusortieren. Dann sieht die Sache anders aus.
Schritt 2: Wer ist Anbieter, wer Betreiber?
Von dieser Frage hängt ab, wer welche Pflichten trägt. Die gute Nachricht für Sabine: Bei einer gekauften Funktion liegt das meiste beim Hersteller.
Der DMS-Hersteller ist Anbieter
Hat der DMS-Hersteller die KI-Funktion gebaut und liefert sie aus, ist er der Anbieter. Ihr Unternehmen nutzt sie und ist Betreiber.
Sie können selbst Anbieter sein
Baut Ihr Team einen Assistenten auf Basis eines Sprachmodells, bindet ihn an das DMS an und stellt ihn intern bereit, können Sie selbst Anbieter sein.
In vielen Unternehmen liegt der eigentliche Prüfpunkt deshalb nicht beim gekauften DMS. Er liegt beim selbst gebauten Werkzeug daneben, das die IT „mal eben“ für ein Team aufgesetzt hat.
Schritt 3: Welche Transparenzpflichten greifen?
Artikel 50 gilt seit dem 2. August 2026. Für ein DMS kommt es auf drei Punkte an:
| Pflicht | Wen sie trifft | Bedeutung im DMS |
|---|---|---|
| Hinweis auf die KI-Interaktion (Abs. 1) | Anbieter | Der Chat-Assistent muss erkennen lassen, dass eine KI antwortet, sofern das nicht offensichtlich ist. Gilt seit 2. August 2026, auch für Bestandssysteme, ohne Übergangsfrist. |
| Maschinenlesbare Markierung KI-erzeugter Inhalte (Abs. 2) | Anbieter | Zusammenfassungen und inhaltlich umformulierte Texte sind zu markieren. Für Systeme, die vor August 2026 am Markt waren, gilt eine Übergangsfrist bis 2. Dezember 2026. |
| Offenlegung bei veröffentlichten Texten (Abs. 4) | Betreiber | Nur, wenn ein KI-Text zu einem Thema von öffentlichem Interesse veröffentlicht wird und kein Mensch ihn geprüft und redaktionell verantwortet hat. |
Ein Detail, das gern übersehen wird, betrifft genau Sabines Fall: einen Chat-Assistenten, der zugleich mit Menschen spricht und Texte erzeugt. Die Übergangsfrist bis zum 2. Dezember 2026 gilt laut den Leitlinien der Kommission vom Juli 2026 (Rn. 153) ausschließlich für die maschinenlesbare Markierung nach Abs. 2. Der Hinweis, dass eine KI antwortet (Abs. 1), ist auch bei Bestandssystemen bereits seit dem 2. August 2026 Pflicht.
Die Leitlinien enthalten außerdem eine enge Ausnahme für interne Geschäftsanwendungen: Ausgaben, die das Unternehmen nicht verlassen sollen und gegen Missbrauch geschützt sind, etwa durch Rollen- und Zugriffskonzepte, können von der Markierung ausgenommen sein. Die Bedingungen müssen alle zugleich erfüllt sein. Ob das für Ihr DMS gilt, sollte Ihnen der Anbieter begründen können, am besten schriftlich.
Schritt 4: KI-Kompetenz der Nutzenden
Diese Pflicht trifft Sabines Haus direkt, egal wer die KI gebaut hat. Artikel 4 verlangt seit Februar 2025, dass Anbieter und Betreiber für KI-Kompetenz sorgen. Der Digital Omnibus hat die Vorschrift neu gefasst: Unternehmen müssen Maßnahmen ergreifen, die die KI-Kompetenz ihrer Mitarbeitenden fördern, ein bestimmtes Niveau jeder einzelnen Person müssen sie nicht garantieren. Die Pflicht bleibt bestehen.
Im Alltag heißt das: Wer Zusammenfassungen nutzt, sollte wissen, dass sie Fehler enthalten können, und wie man eine Aussage am Original prüft. Dafür braucht es kein Schulungsprogramm. Eine kurze Einweisung beim Rollout und eine Zeile in der Arbeitsanweisung sind ein guter Anfang.
Schritt 5: GxP und KI-Verordnung zusammen denken
In Pharma und Medizintechnik ist das DMS ein GxP-relevantes System, und Sabines Auditoren werden genau hinschauen. Die KI-Verordnung ersetzt die GMP-Regeln nicht, sie kommt obendrauf. Für computergestützte Systeme liegen Entwürfe zu einem überarbeiteten Annex 11 und einem neuen Annex 22 zur KI vor, beide noch nicht in Kraft. Sie betreffen Validierung, Datenintegrität und die Rolle des Menschen, nicht die Transparenzpflichten.
Ist die Funktion validiert?
Ist die KI-Funktion für den vorgesehenen Zweck validiert und im Audit Trail nachvollziehbar? Das regeln Annex 11 und künftig Annex 22.
Ist sie transparent?
Erfüllt die Funktion die Transparenzpflichten nach Art. 50, und sind die Nutzenden im Sinne von Art. 4 geschult?
Der Pflichten-Check: sieben Fragen
Mit diesen sieben Fragen ist Sabine für das Gespräch mit ihrem Anbieter und für das nächste Audit gut aufgestellt:
- EinsatzzweckWofür wird die KI-Funktion genutzt, und berührt einer davon einen Hochrisiko-Bereich, etwa Personal?
- RolleSind wir Betreiber, oder haben wir selbst einen Assistenten gebaut und sind damit Anbieter?
- KennzeichnungErkennt jede Person im Chat, dass eine KI antwortet? Wie markiert der Anbieter Zusammenfassungen, und stützt er sich auf die Ausnahme für interne Anwendungen?
- WeitergabeVerlassen KI-Texte aus dem DMS das Haus, etwa als Stellungnahme oder Fachbeitrag? Wer prüft und verantwortet sie?
- KompetenzWissen die Nutzenden, wie sie eine KI-Aussage am Original prüfen?
- GxPIst die Funktion für den vorgesehenen Zweck bewertet, und landet ihre Nutzung im Audit Trail?
- AnbieterWelche Antworten gibt der Anbieter schriftlich zu Markierung, Verhaltenskodex, Datenspeicherung und Training mit Kundendaten?
Wo aiuno ansetzt
Am Ende ist die schwierigste Frage im Check meist nicht die rechtliche, sondern die praktische: Kann jemand eine KI-Aussage schnell am Original prüfen? Genau daran scheitern viele Zusammenfassungen, denn sie sagen nicht, woher sie stammen. aiuno liest die Dokumente in bestehenden Systemen und beantwortet Fragen mit einer Fundstelle für jede Aussage, bis zur wörtlichen Textstelle. Prüfung und Freigabe bleiben beim Menschen. Gehostet wird aiuno in Deutschland, die KI-Verarbeitung läuft in Deutschland oder der EU, ohne Training mit Kundendaten.
- Europäische Kommission: Guidelines on transparency obligations for providers and deployers of certain AI systems
- Bird & Bird: European Commission adopts final Guidelines on AI Act Article 50 transparency obligations, 22.07.2026
- Gibson Dunn: EU AI Act Omnibus Agreement: Postponed High-Risk Deadlines and Other Key Changes
- Future of Privacy Forum: The AI Act implementation timeline: What changes under the AI Omnibus?
- Europäische Kommission: Stakeholders‘ Consultation on EudraLex Volume 4, Chapter 4, Annex 11 and New Annex 22
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4, 6, 50, Anhänge I und III; Verordnung (EU) 2026/1744 (Digital Omnibus zur KI)
Häufige Fragen
Ist eine KI-Zusammenfassung im DMS ein Hochrisiko-System?
In aller Regel nicht. Hochrisiko sind Systeme in den Bereichen nach Anhang III, etwa Personalauswahl, oder Sicherheitsbauteile von Produkten nach Anhang I. Ein Assistent für SOPs oder Prüfberichte gehört nicht dazu, solange er nicht für solche Zwecke eingesetzt wird.
Muss ich KI-Zusammenfassungen in meinem DMS selbst kennzeichnen?
Die maschinenlesbare Markierung ist Pflicht des Anbieters des KI-Systems. Als Betreiber müssen Sie selbst erst offenlegen, wenn Sie einen KI-Text zu einem Thema von öffentlichem Interesse ohne menschliche Prüfung veröffentlichen.
Gilt die Übergangsfrist bis Dezember 2026 auch für den KI-Hinweis im Chat?
Nein. Die Frist bis zum 2. Dezember 2026 gilt nur für die maschinenlesbare Markierung nach Art. 50 Abs. 2. Der Hinweis, dass eine KI antwortet (Abs. 1), ist auch bei Bestandssystemen seit dem 2. August 2026 Pflicht.
Gilt die KI-Verordnung auch für rein interne Nutzung?
Ja. KI-Kompetenz und die Anbieterpflichten nach Art. 50 Abs. 1 gelten auch intern. Für die Markierung nach Abs. 2 gibt es eine enge Ausnahme für interne Geschäftsanwendungen mit Schutzmaßnahmen.
Ersetzt die KI-Verordnung Annex 11 oder Annex 22?
Nein. Die GMP-Leitfäden regeln Validierung und Datenintegrität computergestützter Systeme. Die KI-Verordnung regelt unter anderem Transparenz. In GxP-Umgebungen gelten beide nebeneinander.