Die australische Gesundheitsbehörde äußerte Bedenken hinsichtlich des zunehmenden Einsatzes von KI-Schreibwerkzeugen durch Ärzte. Diese Tools zeichneten Gespräche zwischen Ärzten und Patienten auf, transkribierten diese und fassten sie zusammen, um medizinische Notizen zu erstellen. Die Verbreitung dieser Technologie beschleunigte sich rasant, da Unternehmen die administrativen Belastungen der Patientenberatungen mindern wollten.
Eine Umfrage des Royal Australian College of General Practitioners zeigte, dass die Nutzung von KI-Schreibwerkzeugen durch Ärzte in Australien nahezu verdoppelt worden war. Die Verbreitung stieg von zwanzig zwei Prozent im August 2024 auf vierzig Prozent im November 2025. Unternehmen, die diese Technologie den Praktikern anboten, berichteten, dass sie in den letzten achtzehn Monaten bereits hunderte Millionen Mal weltweit eingesetzt worden waren, da Ärzte versuchten, den Aufwand für Patientengespräche zu reduzieren.
Die Gesundheitsbehörde identifizierte erhebliche Bedenken hinsichtlich der unzureichenden Aufsicht über diese Technologie. Digitale Schreiber wurden nur dann als „medizinische Geräte“ klassifiziert und dem Gesetz über therapeutische Güter unterstellt, wenn sie einen therapeutischen Zweck erfüllten. Einige Anbieter vermarkten die Tools jedoch als außerhalb der regulativen Kontrolle stehend oder als datenschutzkonform, wobei die Transparenz über den Datentransfer außerhalb Australiens oft fehlte. Dies schuf Risiken für die Sicherheit von Patientendaten.
Die Behörde bemerkte zudem, dass einige Anbieter eine Umsatzsteigerung von dreißig Prozent für Gesundheitsfachkräfte versprachen, ohne zusätzliche Arbeitsstunden oder Patientenkontakte. Diese Entwicklung hatte direkte Auswirkungen auf die Kosten des Medicare Benefits Scheme. Darüber hinaus betonte die Behörde, dass KI-Schreiber zwar die Produktivität der Kliniker verbessern und die Burnout-Rate senken konnten, sie jedoch denselben Einschränkungen hinsichtlich Qualität und Genauigkeit wie andere große Sprachmodelle unterlagen. Dies hatte weitreichende Implikationen für die Patientensicherheit und die Integrität der Daten innerhalb der nationalen digitalen Gesundheitsinfrastruktur.
Ein zentrales Problem betraf die Einholung der informierten Zustimmung der Patienten. Es bestand eine erhebliche Variation in der Art und Weise, wie Kliniker die Zustimmung zur Nutzung der Schreiber einholten. Die Behörde stellte fest, dass eine informierte Zustimmung die Verstehen der Vorteile und Limitationen der Technologie erforderte. Die Verbraucher und die Regierung stellten dieselben Fragen zur Technologie. Die nächste Frage betraf die Stärke und Konsistenz der bestehenden Schutzmaßnahmen im täglichen Gebrauch.
Die Aufsicht über KI-Schreiber erfolgte in Australien durch ein Flickenteppich von Regulierungsbehörden, darunter die Therapeutic Goods Administration, die Australian Health Practitioner Regulation Agency und den Büro des australischen Informationskommissars. Die TGA leitete eine Überprüfung der digitalen Schreiber ein, um zu bestimmen, ob diese als medizinische Geräte eingestuft werden sollten. Die Behörde kündigte an, eine Zusammenfassung der Ergebnisse der Überprüfung in den kommenden Monaten zu veröffentlichen. Der Datenschutzbeauftragte verfolgte die Einführung der Technologie genau und engagierte sich mit zivilgesellschaftlichen Organisationen bezüglich der Mängel in den Zustimmungsrichtlinien und dem Fehlen von Offenlegung in Datenschutzrichtlinien.