KI in Medizin, Recht und Finanzen: Assistenz statt unkontrollierte Entscheidung

In Bereichen mit erheblichen Folgen muss KI als begrenztes Hilfsmittel mit geprüften Daten, Fachaufsicht und klarer Verantwortlichkeit eingesetzt werden.

Wissensstufe: , Status: Zuletzt geprüft: 28.07.2026Primärquelle: Europäische Kommission: AI Act
Lesedauer: etwa 1 Min.Zur Übersicht

Ein sprachlich überzeugendes Ergebnis ist kein Nachweis fachlicher Richtigkeit. Medizinische, rechtliche und finanzielle Aussagen können von aktueller Rechtslage, individuellen Umständen, Messwerten oder professionellen Standards abhängen, die einem allgemeinen Modell fehlen.

Geeignete Assistenzaufgaben

  • Dokumente strukturieren und verständlicher formulieren
  • Checklisten und Fragen für ein Fachgespräch vorbereiten
  • Informationen in bereitgestellten Quellen auffinden
  • Entwürfe erzeugen, die fachlich geprüft werden
  • Administrative Routinearbeiten unterstützen

Nicht ohne qualifizierte Prüfung

  • Diagnosen, Behandlung oder Dosierung
  • Verbindliche Rechtsauslegung oder Fristberechnung
  • Kredit-, Versicherungs- oder Anlageentscheidungen
  • Automatisierte Ablehnung von Leistungen oder Bewerbern
  • Entscheidungen mit irreversiblen Folgen

Qualitätssicherung

  • Verlässliche Originalquellen und aktuelle Fachdaten
  • Dokumentierte menschliche Endentscheidung
  • Nachvollziehbare Version und Eingaben
  • Datenschutz und Zugriffskontrolle
  • Mechanismus für Fehler, Beschwerden und Korrekturen

Quellen und Rechtsstand

Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.