Branche oder Lebensbereich: Bildung

  • Die vier Risikostufen des EU AI Act

    Nicht die technische Bezeichnung eines Modells entscheidet allein über die rechtlichen Pflichten, sondern vor allem der konkrete Verwendungszweck. Derselbe Modelltyp kann in einem harmlosen Assistenten anders eingestuft werden als bei Personalentscheidungen oder Zugang zu wesentlichen Leistungen.

    Unzulässiges Risiko

    Bestimmte Praktiken sind verboten, weil sie eine klare Gefahr für Sicherheit, Lebensgrundlagen oder Grundrechte darstellen. Dazu gehören unter anderem schädliche Manipulation, Social Scoring und bestimmte biometrische Anwendungen.

    Hohes Risiko

    Anwendungen in sensiblen Bereichen wie Bildung, Beschäftigung, wesentlichen Diensten, Strafverfolgung, Migration oder Justiz können als Hochrisiko-Systeme gelten und unterliegen strengen Anforderungen.

    Transparenzrisiko

    Menschen müssen in bestimmten Situationen erkennen können, dass sie mit KI interagieren oder dass Inhalte künstlich erzeugt oder manipuliert wurden.

    Minimales oder kein Risiko

    Für viele alltägliche Systeme wie Spamfilter oder KI-Funktionen in Spielen führt der AI Act keine zusätzlichen spezifischen Pflichten ein. Andere Gesetze bleiben dennoch anwendbar.

    Praxisregel

    Zuerst den konkreten Einsatzfall, die betroffenen Personen und mögliche Folgen beschreiben. Erst danach lässt sich die regulatorische Kategorie sinnvoll prüfen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Verbotene KI-Praktiken in der EU

    Der AI Act verbietet mehrere Praktiken, die Menschen manipulieren, Schwächen ausnutzen oder Grundrechte besonders stark beeinträchtigen. Seit Februar 2025 gelten die ersten acht Verbote. Ein zusätzliches Verbot für Systeme zur Erzeugung nicht einvernehmlicher intimer Inhalte tritt nach dem AI Omnibus im Dezember 2026 in Kraft.

    Beispiele

    • Schädliche Manipulation oder Täuschung
    • Schädliche Ausnutzung besonderer Verletzlichkeit
    • Social Scoring
    • Ungezieltes Sammeln von Gesichtern zum Aufbau von Erkennungsdatenbanken
    • Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen in den erfassten Fällen
    • Bestimmte biometrische Kategorisierung und Echtzeit-Fernidentifizierung
    • KI-Systeme für nicht einvernehmliche intime Darstellungen und Missbrauchsmaterial

    Nicht jede ähnliche Funktion ist automatisch verboten

    Die genaue Einordnung hängt von Zweck, Kontext, Ausnahmen und rechtlicher Definition ab. Eine technische Funktion darf nicht ohne Prüfung mit einer verbotenen Praxis gleichgesetzt werden.

    Für Betreiber

    Organisationen sollten bereits vor Beschaffung oder Entwicklung prüfen, ob der geplante Anwendungsfall in einen verbotenen Bereich fällt. Ein späteres Abschalten ist kein Ersatz für diese Vorprüfung.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Bias und Diskriminierung: Warum neutrale Daten nicht automatisch neutral sind

    Verzerrungen entstehen nicht nur im Modell. Sie können aus der Auswahl der Aufgabe, unvollständigen Daten, historischen Entscheidungen, Beschriftungen, Zielgrößen oder dem Einsatzkontext stammen. Ein Gesamtergebnis kann trotz guter Durchschnittswerte einzelne Gruppen benachteiligen.

    Typische Ursachen

    • Unterrepräsentierte Gruppen in Trainings- oder Testdaten
    • Historische Daten spiegeln frühere Diskriminierung
    • Stellvertretermerkmale korrelieren mit geschützten Eigenschaften
    • Fehlerhafte oder uneinheitliche Beschriftungen
    • Optimierung auf eine Kennzahl, die reale Folgen nicht abbildet

    Sinnvolle Prüfung

    • Betroffene Gruppen und Schadensarten vorab bestimmen
    • Ergebnisse getrennt nach relevanten Gruppen auswerten
    • Fehlerfälle qualitativ untersuchen
    • Beschwerden und Korrekturmöglichkeiten schaffen
    • System und Arbeitsprozess gemeinsam beurteilen

    Grenze technischer Fairnessmetriken

    Unterschiedliche Fairnessziele können sich widersprechen. Welche Abwägung vertretbar ist, ist nicht nur eine mathematische, sondern auch eine rechtliche und gesellschaftliche Frage.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Menschliche Kontrolle: Mehr als ein Bestätigungsbutton

    Ein Mensch in der Schleife verhindert Fehler nicht automatisch. Zeitdruck, Automatisierungsvertrauen, unklare Zuständigkeit oder fehlende Alternativen können die Kontrolle wirkungslos machen. Gute Aufsicht ist organisatorisch und technisch vorbereitet.

    Wirksame Aufsicht braucht

    • Verständliche Informationen über Zweck, Grenzen und Unsicherheit
    • Ausreichend Zeit und Fachkenntnis für eine Prüfung
    • Zugriff auf zugrunde liegende Daten und Begründungen soweit möglich
    • Befugnis, das Ergebnis zu ändern oder das System abzuschalten
    • Einen funktionierenden manuellen Ersatzprozess

    Warnzeichen

    • Menschen bestätigen fast alle Vorschläge ungeprüft
    • Abweichungen müssen aufwendig begründet werden
    • Leistungsziele lassen keine reale Prüfzeit
    • Es gibt keine Aufzeichnung, wer entschieden hat
    • Betroffene können eine Entscheidung nicht anfechten

    Besonders wichtig

    Bei Entscheidungen über Gesundheit, Beschäftigung, Bildung, Kredit, Versicherung, Recht oder staatliche Leistungen darf KI nicht als unfehlbare Autorität behandelt werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Kinder, Jugendliche und KI: Schutz, Lernen und Eigenständigkeit

    Kinder und Jugendliche benötigen altersgerechte Erklärungen über Fehler, Datenverarbeitung und künstlich erzeugte Inhalte. Aufgaben sollten so gestaltet sein, dass Denken, Quellenprüfung und eigene Ausdrucksfähigkeit sichtbar bleiben.

    Sinnvolle Nutzung

    • Begriffe auf unterschiedlichem Niveau erklären
    • Übungsfragen und Lernpläne erstellen
    • Sprachliche Barrieren reduzieren
    • Feedback zu einem eigenen Entwurf geben
    • Barrierearme Darstellungen unterstützen

    Risiken

    • Unkritische Übernahme falscher Antworten
    • Preisgabe persönlicher oder schulischer Daten
    • Umgehung eigener Lernleistung
    • Stereotype und ungeeignete Inhalte
    • Abhängigkeit von einem einzelnen kommerziellen Dienst

    Regeln für Lernen mit KI

    1. Eigene Lösung oder Frage zuerst formulieren
    2. Quellen und Aussagen unabhängig prüfen
    3. KI-Beitrag offenlegen, wenn die Aufgabe es verlangt
    4. Keine persönlichen Daten anderer eingeben
    5. Ergebnis erklären können, statt es nur abzugeben

    Pädagogischer Grundsatz

    Die Anforderungen müssen zum Alter, Lernziel und möglichen Risiko passen. Verbote allein vermitteln keine Medien- und KI-Kompetenz.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • AlphaGeometry: Geometriebeweise ohne menschliche Demonstrationen

    Das System erzeugt Hilfskonstruktionen und prüft geometrische Folgerungen symbolisch. In einem Testset löste es 25 von 30 ausgewählten Olympiade-Aufgaben innerhalb der vorgegebenen Zeitbedingungen. Der Vergleich betrifft einen begrenzten Bereich formaler Geometrie und keine allgemeine mathematische Intelligenz.

    Forschungsfrage

    Wie können kreative geometrische Konstruktionen mit streng überprüfbaren Beweisschritten verbunden werden?

    Ansatz

    Ein neuronales Modell schlägt zusätzliche Punkte, Linien oder Kreise vor. Eine symbolische Engine leitet daraus formal gültige Aussagen ab und sucht einen vollständigen Beweis.

    Veröffentlichte Ergebnisse

    • 25 von 30 Aufgaben des IMO-AG-30-Testsets gelöst
    • Vorheriger Vergleichsansatz löste 10 Aufgaben
    • Beweise wurden in symbolisch nachvollziehbarer Form erzeugt

    Bedeutung

    • Verbindung generativer Vorschläge mit formaler Verifikation
    • Synthetische Trainingsdaten statt menschlicher Lösungsdemonstrationen
    • Forschung zu maschinellem Theorembeweisen und mathematischen Assistenzsystemen

    Grenzen

    • Spezialisiert auf euklidische Olympiade-Geometrie
    • Testset und Vergleich erlauben keine Aussage über gesamte Mathematik
    • Formale Übersetzung und geeignete Werkzeuge bleiben für andere Gebiete schwierig

    Primärquellen

  • Aeneas: antike lateinische Inschriften kontextualisieren

    Aeneas ist ein multimodales generatives Modell für Epigraphik. Es kombiniert Text und Bildinformationen und liefert historische Parallelen als Begründungshilfe. Die beste Verwendung ist eine Zusammenarbeit mit Fachleuten, nicht die automatische Festlegung einer einzigen historischen Interpretation.

    Forschungsfrage

    Wie können beschädigte oder unvollständige Inschriften mit großen Sammlungen ähnlicher historischer Texte verbunden werden?

    Ansatz

    Das Modell verarbeitet transkribierten Text und, falls vorhanden, Bilder. Es restauriert fehlende Teile, schätzt Zeit und Herkunft und sucht kontextuell ähnliche Inschriften.

    Veröffentlichte Ergebnisse

    • Verbesserte Ergebnisse bei Restaurierung sowie geografischer und zeitlicher Zuordnung im verwendeten Datensatz
    • Ausgabe historisch begründeter Textparallelen
    • Studien mit Historikern untersuchten die Zusammenarbeit zwischen Mensch und Modell

    Bedeutung

    • Schneller Zugriff auf Parallelen in großen Inschriftensammlungen
    • Unterstützung bei fragmentarischen oder beschädigten Quellen
    • Beispiel für KI in Geisteswissenschaften und digitaler Archäologie

    Grenzen

    • Daten sind zeitlich, geografisch und sprachlich ungleich verteilt
    • Modelle können plausible, aber historisch falsche Ergänzungen erzeugen
    • Datierung und Interpretation benötigen weiterhin Quellenkritik und Fachwissen

    Primärquellen

  • Barrierearme Texte und Alternativtexte vorbereiten

    Automatische Vorschläge helfen beim ersten Entwurf. Ob ein Text wirklich verständlich und ein Alternativtext im konkreten Kontext sinnvoll ist, muss durch Menschen geprüft werden.

    Geeignet für

    • Webseiten
    • Dokumente
    • Öffentliche Kommunikation
    • Schulungsmaterial

    Voraussetzungen

    Kenntnis der Zielgruppe, des Nutzungskontexts und der geltenden Barrierefreiheitsanforderungen.

    Vorgehensweise

    1. Zweck des Inhalts und Zielgruppe benennen.
    2. Komplexe Sätze und Fachbegriffe markieren.
    3. Vereinfachte Fassung oder Alternativtext erzeugen.
    4. Bedeutung und Informationsverlust prüfen.
    5. Mit Prüfwerkzeugen und möglichst betroffenen Nutzern testen.

    Beispiel

    Eine komplexe Behördeninformation wird in kürzere Sätze gegliedert; für eine Infografik entsteht ein kontextbezogener Alternativtext.

    Qualitätskontrolle

    • Automatische Lesbarkeit ist kein Nachweis für Barrierefreiheit.
    • Alternativtexte müssen Zweck und Kontext des Bildes berücksichtigen.
    • Kontrast, Tastaturbedienung und Struktur separat testen.

    Grenzen und Risiken

    • Modelle können sichtbare Details falsch beschreiben.
    • Vereinfachung kann wichtige rechtliche oder fachliche Inhalte verändern.

    Passende Tools und Modelle

    Sprachmodelle, Bildanalyse und spezialisierte Barrierefreiheits-Prüfwerkzeuge.

    Quellen und Leitlinien

  • Audio transkribieren und Untertitel erstellen

    Gute Audioqualität verbessert das Ergebnis. Eigennamen, Fachbegriffe, Sprecherwechsel und Zeitmarken benötigen häufig manuelle Nacharbeit.

    Geeignet für

    • Videos
    • Podcasts
    • Interviews
    • Barrierefreie Medien

    Voraussetzungen

    Rechtmäßig nutzbares Audiomaterial, passende Spracheinstellung und ein klarer Umgang mit personenbezogenen Daten.

    Vorgehensweise

    1. Audioqualität prüfen und Störgeräusche reduzieren.
    2. Transkription mit Sprache und gegebenenfalls Sprechererkennung erstellen.
    3. Text korrigieren und sinnvoll segmentieren.
    4. Zeitmarken und Lesegeschwindigkeit prüfen.
    5. Untertitel im Zielmedium testen.

    Beispiel

    Ein Interview wird transkribiert und als korrigierte Untertiteldatei für ein Video ausgegeben.

    Qualitätskontrolle

    • Namen, Zahlen und Fachbegriffe mit dem Original abgleichen.
    • Untertitel auf Bildschirmzeit und Zeilenlänge prüfen.
    • Sensible Rohaufnahmen geschützt speichern.

    Grenzen und Risiken

    • Überlappende Sprecher und schlechte Aufnahmen verringern die Genauigkeit.
    • Automatische Sprecherzuordnung ist nicht immer zuverlässig.

    Passende Tools und Modelle

    Speech-to-Text-Modelle, Untertitel-Editoren und Videobearbeitungssysteme.

    Quellen und Leitlinien

  • Voice-over und Sprachfassungen vorbereiten

    Die Technik eignet sich für Prototypen, Erklärmedien und mehrsprachige Fassungen. Stimme, Einwilligung, Kennzeichnung und korrekte Aussprache müssen kontrolliert werden.

    Geeignet für

    • Erklärvideos
    • Podcasts
    • Schulungsmaterial
    • Barrierefreie Ausgaben

    Voraussetzungen

    Freigegebener Text und eine Stimme, deren Nutzungsrechte und Einwilligungen geklärt sind.

    Vorgehensweise

    1. Text für gesprochene Sprache überarbeiten.
    2. Aussprachehinweise für Namen und Fachbegriffe ergänzen.
    3. Stimme, Tempo und Betonung wählen.
    4. Audio abschnittsweise erzeugen und prüfen.
    5. Fassung kennzeichnen und im Kontext testen.

    Beispiel

    Eine Bedienungsanleitung wird als langsam gesprochene Audioversion bereitgestellt.

    Qualitätskontrolle

    • Aussprache, Betonung und Pausen kontrollieren.
    • Keine reale Person ohne Einwilligung imitieren.
    • Hörer über synthetische Stimme informieren, wenn Verwechslung möglich ist.

    Grenzen und Risiken

    • Stimmen können emotional oder regional unpassend wirken.
    • Stimmklonen kann für Täuschung und Identitätsmissbrauch verwendet werden.

    Passende Tools und Modelle

    Text-to-Speech-Modelle und Audioeditoren.

    Quellen und Leitlinien