Terminvergabe per Sprachassistent, ein Programm, das das Arztgespräch mitschreibt, eine Software, die Auffälligkeiten auf Bildern erkennt: Künstliche Intelligenz (KI) ist in vielen Praxen angekommen oder steht kurz davor. Rechtlich ist das grundsätzlich möglich. Es gibt aber Regeln, und die hängen davon ab, wofür die KI eingesetzt wird. Dieser Beitrag gibt Ihnen einen Überblick für den Praxisalltag.
Wofür wird KI in der Praxis eingesetzt?
Man kann zwei große Bereiche unterscheiden. Die organisatorische KI unterstützt bei der Verwaltung: Terminvereinbarung, Telefonannahme, Abrechnung und vor allem die Dokumentation, bei der ein Programm das Gespräch auswertet und einen Entwurf der Patientenakte erstellt. Die medizinische KI hilft dagegen bei der Behandlung, etwa beim Erkennen von Mustern in Befunden und Bildern, beim Überwachen von Patienten oder bei der Einschätzung, wie dringend ein Anliegen ist. Eine dritte Gruppe sind Chatbots für Patienten, die Symptome einordnen oder einfach als Gesprächspartner dienen.
Diese Unterscheidung ist wichtig, weil sie bestimmt, welche Regeln gelten: Bei der organisatorischen KI stehen Datenschutz und Transparenz im Vordergrund, bei der medizinischen KI kommen strenge Anforderungen an Sicherheit und Aufsicht hinzu.
Was verlangt die europäische KI-Verordnung?
Die KI-Verordnung der EU teilt KI-Systeme nach ihrem Risiko ein. Die Einordnung entscheidet über den Aufwand:
| Risiko | Beispiele | Was gilt |
|---|---|---|
| Verboten | KI, die Patienten unbemerkt manipuliert oder Menschen nach ihrem Verhalten bewertet | Darf nicht eingesetzt werden |
| Hohes Risiko | Medizinische KI zur Diagnose und Behandlung | Strenge Pflichten für Hersteller und Praxis |
| Begrenztes Risiko | Terminbots, Chatbots, Sprachassistenten | Patienten müssen erkennen, dass sie mit KI sprechen |
| Minimales Risiko | Spamfilter, einfache Hilfsprogramme | Keine besonderen Pflichten |
Die Verordnung gilt stufenweise. Einzelne Fristen, gerade für die Hochrisiko-Systeme, wurden zuletzt auf europäischer Ebene nach hinten verschoben. Die Grundregeln sollten Sie trotzdem jetzt kennen und beim Kauf einer Software berücksichtigen. Fragen Sie den Anbieter ausdrücklich, ob sein Produkt die Vorgaben erfüllt.
Ein Punkt gilt unabhängig von der Risikostufe: Wer KI einsetzt, soll dafür sorgen, dass er selbst und das Praxisteam die Technik verstehen. Dazu gehört zu wissen, dass KI sich irren oder Dinge erfinden kann und dass ihre Ergebnisse von den Daten abhängen, mit denen sie trainiert wurde. Eine kurze Schulung des Teams ist deshalb sinnvoll und lässt sich später auch nachweisen.
Der Arzt bleibt verantwortlich
Der wichtigste Grundsatz lautet: Die KI unterstützt, der Arzt entscheidet. Wer medizinische KI einsetzt, muss die Ergebnisse prüfen und nachvollziehen und jederzeit eingreifen können. Eine ungeprüfte Übernahme ist nicht zulässig. Das gilt auch für Mitarbeiter, die mit dem System arbeiten: Sie müssen wissen, wie die Software zu nutzen ist und wann man ihr nicht trauen sollte.
Außerdem sollten Sie die Software nur so einsetzen, wie es der Hersteller vorgesehen hat, Auffälligkeiten beobachten und schwere Fehler oder Fehlfunktionen melden. Bei medizinischer KI gelten zusätzlich die Regeln für Medizinprodukte: Die Software braucht eine CE-Kennzeichnung, und Sie müssen sie einweisen, warten und Vorfälle melden. Gängige allgemeine Sprachmodelle haben diese Kennzeichnung nicht und sind deshalb für die Behandlung von Patienten nicht geeignet.
Datenschutz: Was ist zu beachten?
Bei jeder KI in der Praxis werden Gesundheitsdaten verarbeitet. Das ist besonders geschützt, aber nicht verboten. Wichtig ist vor allem Folgendes:
- Meist keine Einwilligung nötig: Wenn die KI dazu dient, Patienten zu versorgen, zu dokumentieren oder die Praxis zu organisieren, ist die Verarbeitung durch die Behandlung gedeckt. Sie ist ein Arbeitsmittel wie die Praxissoftware auch. Das gilt auch für die KI-gestützte Dokumentation.
- Information der Patienten: Patienten müssen aber erfahren, dass und wie ihre Daten verarbeitet werden. Dafür genügt in der Regel ein Aushang oder eine Auslage im Wartezimmer, die Ihre Datenschutzhinweise um die KI ergänzt.
- Schweigepflicht: Dienstleister, die Zugriff auf Patientendaten erhalten, müssen zur Verschwiegenheit verpflichtet sein.
- Gespräche aufzeichnen: Ein Mitschnitt von Gesprächen ist strafbar, wenn der Patient nichts davon weiß. Besser sind Systeme, die das Gespräch nur live in Text umsetzen und kein Audio speichern. Bei Telefonassistenten, die aufzeichnen, sollten Anrufer vorab hingewiesen werden.
- Folgenabschätzung: Bei medizinischer KI ist in der Regel eine Datenschutz-Folgenabschätzung nötig, bei organisatorischer KI kommt es auf den Einzelfall an. Der Anbieter muss Ihnen die nötigen Informationen dafür liefern.
Dürfen Patientendaten zum Training der KI verwendet werden?
Das ist einer der heikelsten Punkte. Dient die Nutzung der Daten nicht mehr Ihrer Behandlung, sondern dazu, die KI des Anbieters weiterzuentwickeln, ist das ein anderer Zweck. Dafür gelten deutlich strengere Maßstäbe. Eine Einwilligung der Patienten ist hier schwierig, weil sie sehr genau wissen müssten, was mit ihren Daten geschieht, und das lässt sich bei komplexen KI-Systemen kaum erklären. Zudem darf die Behandlung nie davon abhängen, dass ein Patient dem Training zustimmt, und eine einmal gegebene Zustimmung lässt sich praktisch nicht rückgängig machen, wenn die Daten bereits im Modell stecken.
Mein Rat: Schließen Sie das Training mit Ihren Praxisdaten vertraglich aus, es sei denn, Sie haben das sorgfältig geprüft und rechtlich abgesichert. Achten Sie darauf, dass der Anbieter die Daten nur nach Ihren Weisungen und nicht für eigene Zwecke verwendet.
Vertrag und Cloud: Worauf es beim Anbieter ankommt
Wird die KI nicht auf einem Rechner in der Praxis, sondern in der Cloud betrieben, verarbeitet der Anbieter Patientendaten in Ihrem Auftrag. Dafür brauchen Sie einen Auftragsverarbeitungsvertrag, der die Sicherheitsmaßnahmen, die Weisungsbindung, die Unterstützung bei Auskunftsersuchen und Datenpannen und das Trainingsverbot regelt.
Für Vertragsärzte und -psychotherapeuten gibt es zusätzliche Vorgaben für Cloud-Dienste:
- Die Daten dürfen nur in Deutschland, in der EU oder in bestimmten gleichgestellten Staaten verarbeitet werden. Bei US-Anbietern muss eine Zertifizierung nach dem europäisch-amerikanischen Datenabkommen vorliegen.
- Der Anbieter braucht eine Niederlassung in Deutschland.
- Der Cloud-Dienst muss ein anerkanntes Sicherheitszertifikat besitzen (sogenanntes C5-Testat).
- Die Sicherheitsanforderungen der Kassenärztlichen Bundesvereinigung müssen erfüllt sein.
Auch privat tätige Ärzte sollten sich an diesen Maßstäben orientieren. Prüfen Sie diese Punkte, bevor Sie einen Vertrag unterschreiben.
Rechte der Patienten und automatische Entscheidungen
Patienten haben auch bei KI Anspruch auf Auskunft, Berichtigung und Löschung. Das ist technisch nicht immer einfach, deshalb sollte der Anbieter dafür geeignete Verfahren bieten. Zudem hat niemand Anspruch darauf, dass eine Diagnose oder Behandlung allein von einer Maschine bestimmt wird. Auch das spricht dafür, dass der Arzt stets das letzte Wort hat.
Haftung und Abrechnung
Für Behandlungsfehler gelten dieselben Maßstäbe wie sonst: Entscheidend ist der anerkannte fachliche Standard. Dass Sie KI einsetzen, ist nicht vorgeschrieben, wird aber künftig wohl häufiger zum Standard gehören. Gefährlich wird es, wenn Sie Ergebnisse der KI ungeprüft übernehmen und ein Patient dadurch zu Schaden kommt. Für Fehler Ihrer Mitarbeiter bei der Bedienung haften Sie in der Regel ebenfalls. Der Hersteller kann zusätzlich verantwortlich sein, aber Patienten können es meist leichter nachweisen, dass Sie die Sorgfalt verletzt haben, als dass ein Produkt fehlerhaft war. Auch falsche Aussagen eines Chatbots werden Ihnen zugerechnet, wenn Sie ihn einsetzen.
Wichtig für die Kalkulation: Die KI können Sie nicht gesondert abrechnen, weder bei Kassenpatienten noch bei Privatpatienten. Die Kosten gehören zum Praxisbetrieb.
Checkliste
Vor dem Einsatz von KI klären
- Einsatzzweck: Organisatorisch oder medizinisch?
- Hat der Anbieter die Vorgaben der KI-Verordnung im Blick?
- Bei Medizinprodukten: CE-Kennzeichnung vorhanden?
- Team geschult, Prüfung der Ergebnisse geregelt?
- Vertrag: Auftragsverarbeitung und Trainingsverbot geregelt?
- Serverstandort und Sicherheitszertifikat geprüft?
- Datenschutzhinweise im Wartezimmer ergänzt?
- Keine heimlichen Tonaufnahmen von Gesprächen?
Mein Rat
Nutzen Sie die Chancen, aber mit sauberer Grundlage
KI kann Ärzte und Psychotherapeuten spürbar entlasten, vor allem bei der Dokumentation. Wer sie rechtssicher einsetzen will, sollte vor dem Kauf prüfen, welche Pflichten damit verbunden sind und was der Vertrag mit dem Anbieter regelt. Ich unterstütze Sie bei der Prüfung von Anbieterverträgen, der Datenschutzdokumentation und der Einordnung Ihres Systems. Sprechen Sie mich gerne für ein Erstgespräch an.