Die Transparenzpflichten des EU AI Acts gelten seit 2. A ugust für Nutzer von KI-Systemen – und somit auch für Krankenhäuser, die ChatGPT, Gemini, Adobe-Produkte oder andere KI-Systeme einsetzen. Für Inhalte, die vor dem Zeitpunkt entstanden sind, besteht keine rückwirkende Kennzeichnungspflicht. Wer jetzt glaubt, künftig müsse jeder KI-Text und jedes KI-Bild mit einer Kennzeichnung versehen werden, liegt falsch. Es kommt auf die Details an.
Der Begriff „Deepfake“ wird häufig mit gefälschten Politikervideos oder einem Face-Swap gleichgesetzt, von der KI-Verordnung jedoch deutlich weiter gefasst. Als Deepfakes werden KI-generierte oder wesentlich manipulierte Bilder, Videos und Audios bezeichnet, die reale Personen, Orte, Gegenstände, Einrichtungen oder Ereignisse so realistisch darstellen, dass sie für echt gehalten werden können. Wenn ein Bild mithilfe von KI wesentlich verändert ist (Personen in ein reales Foto eingefügt, Gesichter oder Stimmen verändert oder die Aussage, der Stil oder die Intention des Bildes erheblich verändert werden), handelt es sich um einen kennzeichnungspflichtigen Deepfake. Unwesentliche Veränderungen, wie übliche Helligkeits-, Kontrast- und Farbkorrekturen, ein geringfügiger Zuschnitt oder die Rauschunterdrückung mithilfe von KI, sind davon ausgenommen und nicht kennzeichnungspflichtig. Offensichtlich abstrakte Motive oder eindeutig unrealistische Szenen fallen ebenfalls nicht darunter.
Bei KI-generierten Texten ist eine Kennzeichnung erforderlich, wenn ein Text die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert, ganz oder überwiegend durch KI erzeugt wurde und keine echte menschliche redaktionelle Kontrolle stattgefunden hat. Gesundheitsbezogene Themen gehören ausdrücklich zum öffentlichen Interesse. Für Kliniken kann das insbesondere bei gesundheitsbezogenen Informationsangeboten auf der eigenen Website oder in sozialen Medien relevant sein. Entscheidend ist die menschliche redaktionelle Kontrolle. Übernimmt das Krankenhaus die redaktionelle Verantwortung und wird der Inhalt substanziell auf Richtigkeit, Vollständigkeit, fehlenden Kontext, problematische Quellen oder irreführende Aussagen geprüft, entfällt die Kennzeichnungspflicht. Hinzu kommt, dass Werbetexte, Marketing- und Produktbeschreibungen sowie interne Kommunikation keine Kennzeichnung benötigen.
Die Kennzeichnung von KI-Inhalten muss klar, verständlich, sichtbar und barrierefrei sein. Möglich sind beispielsweise „KI-generiert“ („AI Generated“) und bei bearbeiteten Inhalten „KI-manipuliert“ („AI Modified“). Entscheidend ist die erste Wahrnehmung: Bei Bildern gehört die Kennzeichnung direkt ins Bild plus optionaler Hinweis in der Bildunterschrift, bei Videos an den Anfang, bei Audioinhalten muss sie hörbar sein und bei Texten gut sichtbar an den Anfang oder in die Nähe der Überschrift gesetzt werden.
Kliniken sollten nicht jeden KI-Inhalt sofort kennzeichnen, sondern zunächst Prozesse und Regeln schaffen. Ob die europäischen KI-Kennzeichnungspflichten tatsächlich zu deutlich mehr Transparenz führen, bleibt wegen Ausnahmen und Grauzonen fraglich. Die klare Empfehlung ist, die Transparenzpflichten des EU AI Acts konsequent, aber pragmatisch umzusetzen, um Aufwand und Kosten so gering wie möglich zu halten. Eine KI-Kennzeichnung schafft zwar Transparenz, verhindert jedoch keine böswillige Manipulation.
