Ein Psychiater in Melbourne lehnte neue Patienten ab, sofern diese nicht zustimmten, dass er ein künstliches Intelligenz-Schreibprogramm zur Transkription der Gespräche in ihren Sitzungen verwendete. Diese Maßnahme verdeutlichte die zunehmende Spannung zwischen technologischem Fortschritt und den ethischen Anforderungen der medizinischen Versorgung. KI-gestützte Protokollierungswerkzeuge wurden in der medizinischen Branche populär, wobei laut dem Royal Australian College of General Practitioners (RACGP) zwei von fünf Allgemeinärzten solche Programme nutzten. Dennoch entstanden Bedenken hinsichtlich der Datensicherheit und der Genauigkeit der erstellten Transkripte.
Die Psychiaterin Dr. Hemlata Ranga legte die Anforderungen in einem Registrierungsformular dar. Das Dokument forderte die Zustimmung zur Nutzung von KI-Transkriptionssoftware, um bei der Erstellung von Notizen, Berichten und klinischen Dokumenten zu assistieren. Patienten, die die Nutzung der Technologie ablehnten, mussten ihren behandelnden Arzt bitten, sie an einen anderen Dienstleister zu verweisen. Ein Patient, der anonym bleiben wollte, äußerte sich kritisch über die Formulierung der Bedingungen. Er empfand die Verknüpfung der Behandlung mit der Notwendigkeit der Zustimmung als unangemessen und bemerkte, dass die Verweigerung der Nutzung von KI den Zugang zu einer Psychiaterin erschwerte.
Die Klinik selbst erklärte, dass sie ihre zugelassenen Psychiater nicht an ihre Nutzung von KI-Systemen bindet, jedoch betonte, dass diese zunehmend zur Bewältigung administrativer Belastungen eingesetzt wurden. Die Klinik versicherte, dass Psychiater die Nutzung von KI allen Patienten offenlegten und die Zustimmung einholten. Sollte die Zustimmung verweigert werden, wurde die Technologie nicht eingesetzt. Ein Entwickler des populären KI-Schreibprogramms betonte zudem, dass die Daten im Land des Patienten verarbeitet wurden und nicht zum Training der Systeme verwendet oder an Dritte verkauft wurden.
Experten warnten vor den Risiken der Technologie. Die Transkriptionen seien unvollkommen, da die Trainingsdaten oft auf spezifische demografische Gruppen zugeschnitten waren, was zu Fehlern bei anderen Bevölkerungsgruppen führte. Es bestand ein reales Risiko, dass medizinische Daten kompromittiert oder durchsickerten, insbesondere bei sensiblen Themen wie psychischer Gesundheit. Kritiker argumentierten, dass die Implementierung von KI primär zur Senkung administrativer Kosten diente, wodurch Patienten in dieser Konstellation zum Produkt degradiert wurden.
Die Verbrauchergruppen des RACGP äußerten Bedenken hinsichtlich des Machtungleichgewichts zwischen Patienten und Ärzten bei der Zustimmung zu KI-Tools. Es wurde gefordert, dass eine gesetzlich verankerte Möglichkeit geschaffen werde, KI-Systeme abzulehnen, ohne negative Konsequenzen für die Gesundheit zu erleiden. Es wurde betont, dass Patienten das Recht haben sollten, sich von diesen Systemen abzumelden und die Genauigkeit der erstellten Notizen anzweifeln.