Transparenz über Künstliche Intelligenz

Gemäß Artikel 50 der KI-Verordnung der EU (Verordnung 2024/1689) legt MirrorBuddy offen, dass die 32 pädagogischen Maestros auf der Plattform generative Künstliche Intelligenz nutzen. Diese KI-Systeme sind darauf ausgelegt, den Unterricht zu personalisieren und Schüler mit Lernschwierigkeiten zu unterstützen.

Importante: Die KI-Systeme in MirrorBuddy umfassen: Systeme zur pädagogischen Personalisierung (Azure OpenAI GPT), Systeme zur Fortschrittsanalyse (FSRS-Algorithmen für Spaced Repetition) und Systeme zur emotionalen Unterstützung (Erzeugung personalisierter Rückmeldungen und Ermutigung).

MirrorBuddy utilizza Azure OpenAI (GPT-4), Azure Openai Gpt4, Die KI-Verordnung der EU klassifiziert KI-Systeme nach Risikostufen. MirrorBuddy hat eine Datenschutz-Folgenabschätzung (DPIA) und eine KI-Risikobewertung durchgeführt, um das erforderliche Konformitätsniveau zu bestimmen.

Risikoeinstufung von MirrorBuddy

• Begrenztes Risiko - Personalisierungssysteme: Systeme zur pädagogischen Personalisierung (Empfehlung von Maestros, Anpassung des Schwierigkeitsgrads) werden als begrenztes Risiko eingestuft. Wir verwenden transparente Hinweise und ermöglichen es Eltern, die Entscheidungen der KI zu überwachen.
• Hohes Risiko - Falls Anwendbar: Sollte MirrorBuddy künftig automatisierte Bewertungsfunktionen integrieren, die den Bildungsweg des Schülers erheblich beeinflussen könnten (Art. 6 der KI-Verordnung), werden wir Kontrollen für hohes Risiko einführen, einschließlich verpflichtender menschlicher Aufsicht.
• Konformität mit dem italienischen Gesetz 132/2025: MirrorBuddy führt in Übereinstimmung mit dem italienischen Gesetz 132/2025 (nationale Umsetzung der KI-Verordnung der EU) öffentlich zugängliche Konformitätsverzeichnisse, die regelmäßig von der Datenschutzbehörde überprüft werden.

Die folgenden KI-Systeme werden in MirrorBuddy eingesetzt, um inklusiven Unterricht zu unterstützen:

Beschriebene KI-Systeme

• Engine für pädagogische Personalisierung: Konversationsdaten (Nachrichten mit den Maestros), in Echtzeit analysiert, um Antworten und Tonfall zu personalisieren
• FSRS-System zur Fortschrittsverfolgung: Historische Leistungen bei Karteikarten und Quizzen, verwendet zur Berechnung optimaler Wiederholungsintervalle
• Generator für Ermutigungsnachrichten: Emotionaler Kontext der Lernsitzung, verwendet zur Erzeugung personalisierter Motivationsnachrichten
• Erkennung von Lernschwierigkeiten: Wiederkehrende Schwierigkeitsmuster, überwacht, um Lehrkräfte zu benachrichtigen, ohne automatische Kategorisierung der Schüler
• Semantische Suche für Dokumente: Vektor-Embeddings der hochgeladenen Dokumente, verwendet für die semantische Suche, ohne den Originalinhalt in den Vektoren zu speichern

Alle diese Systeme sind mit integrierter menschlicher Aufsicht konzipiert und können in den Datenschutzeinstellungen deaktiviert werden.

Implementierte Kontrollen zur menschlichen Aufsicht

• Elterliche Aufsicht: Eltern haben Zugriff auf ein Eltern-Dashboard, das alle KI-Entscheidungen zu ihrem Kind anzeigt, einschließlich der Maestro-Empfehlungen und der vorgeschlagenen Lernpfade.
• Aufsicht durch Lehrkräfte: Lehrkräfte und schulische Koordinatoren können die Entscheidungen des KI-Systems einsehen und manuell ändern. Keine KI-Entscheidung ist ohne menschliche Genehmigung endgültig.
• Verpflichtendes menschliches Eingreifen: Stellt das System erhebliche Schwierigkeiten fest, muss eine menschliche Lehrkraft innerhalb von 7 Tagen eingreifen, um individuelle Unterstützung zu bieten. Die KI liefert nur Vorschläge, keine Entscheidungen.
• Audit für Fairness und Transparenz: Wir führen vierteljährliche Audits durch, um sicherzustellen, dass die Empfehlungen der KI Schüler nicht aufgrund von Geschlecht, ethnischer Herkunft, Behinderung oder sozioökonomischem Status diskriminieren.
• Deaktivierung der KI - Widerspruchsrecht: Schüler und Eltern können die KI-Personalisierung jederzeit vollständig deaktivieren. MirrorBuddy stellt weiterhin alle grundlegenden Bildungsfunktionen mit generischen Einstellungen bereit.

The Professors' Constitution

Unsere 27 KI-Professoren handeln nach einer philosophischen Verfassung mit sechscore articles:

Die KI-Verordnung der EU und die DSGVO garantieren Ihnen spezifische Rechte in Bezug auf KI-Systeme. Das können Sie tun:

• Recht auf Zugang und Erläuterung: Sie können erfragen, wie die KI eine Sie betreffende Entscheidung getroffen hat, einschließlich der verwendeten Logik und der berücksichtigten Faktoren. Kontaktieren Sie roberdan@fightthestroke.org, um dieses Recht auszuüben.
• Recht auf Datenübertragbarkeit: Sie können alle für unsere KI-Entscheidungen verwendeten Daten (Gespräche, Fortschritte, Präferenzen) in einem lesbaren Format (JSON, CSV) exportieren, um sie auf eine andere Plattform zu übertragen.
• Widerspruchsrecht: Sie können der Verarbeitung Ihrer Daten zur KI-Personalisierung und pädagogischen Profilbildung widersprechen. MirrorBuddy deaktiviert daraufhin sofort alle KI-Systeme für Ihr Konto.
• Recht auf Berichtigung: Wenn Sie der Ansicht sind, dass die von der KI verwendeten Daten unrichtig sind (z. B. der zugewiesene Schwierigkeitsgrad), können Sie deren Berichtigung verlangen, indem die KI-Profile mit korrekten Daten zurückgesetzt werden.
• Recht auf Vergessenwerden - Löschung: Sie können die Löschung all Ihrer KI-Daten verlangen. Dies umfasst den Personalisierungsverlauf, wobei die grundlegenden Bildungsfunktionen weiterhin funktionsfähig bleiben.
• Beschwerderecht: Wenn Sie der Ansicht sind, dass eine KI-Entscheidung Sie rechtswidrig diskriminiert hat, können Sie innerhalb von 30 Tagen eine Beschwerde bei der italienischen Datenschutzbehörde (www.garanteprivacy.it) einreichen.

Wir setzen spezifische Sicherheitsmaßnahmen ein, um zu schützen, wie die KI Ihre Daten verwendet:

• Datenverschlüsselung: Die zur KI-Personalisierung verwendeten Daten (Chatverlauf, Fortschritte, Präferenzen) werden bei der Übertragung an Azure OpenAI Ende-zu-Ende verschlüsselt.
• Anonymisierung der Modelle: Die generativen KI-Modelle von MirrorBuddy werden niemals mit den persönlichen Daten der Schüler trainiert. Wir verwenden nur Echtzeit-Eingaben, um die Antworten anzupassen.
• Keine diskriminierende Profilbildung: Die KI erstellt keine Profile, die Schüler nach kognitiven Fähigkeiten, Behinderung, ethnischer Herkunft oder sozioökonomischem Status kategorisieren und dadurch Bildungschancen beeinflussen könnten.
• Eingeschränkter menschlicher Zugriff: Nur unser italienisches Team aus Sicherheitsingenieuren und Datenschutzbeauftragten kann die von der KI verwendeten Daten zu Audit-Zwecken einsehen. Der Zugriff wird protokolliert und überprüft.
• Begrenzte Speicherdauer: Die Personalisierungsdaten der KI werden nur während der aktiven Sitzung des Schülers gespeichert. Historische Daten werden innerhalb von 90 Tagen aggregiert und pseudonymisiert.

MirrorBuddy hat die folgenden potenziellen KI-Risiken identifiziert und Minderungsmaßnahmen gemäß Artikel 29 der KI-Verordnung der EU umgesetzt:

Die italienische Datenschutzbehörde hat das Recht, MirrorBuddy jederzeit zu inspizieren, um die Konformität zu überprüfen.

• KI-Verordnung der EU (Verordnung 2024/1689) - Risikoklassifizierung und Transparenzpflichten für KI-Systeme im Bildungsbereich
• DSGVO (Verordnung (EU) 2016/679) - Schutz personenbezogener Daten, Recht auf Erläuterung automatisierter Entscheidungen (Art. 22)
• Gesetz 132/2025 (Italien) - Nationale Umsetzung der KI-Verordnung der EU mit spezifischen Anforderungen für den Bildungsbereich
• WCAG 2.1 Stufe AA - Barrierefreiheitsstandard für Nutzer mit Behinderungen, konform mit dem italienischen Stanca-Gesetz (Gesetz 4/2004)

MirrorBuddy erfüllt alle Anforderungen der KI-Verordnung der EU 2024/1689 und des italienischen Gesetzes 132/2025.

Haben Sie Fragen zu unserer Nutzung von KI? Sie können uns auf folgende Weise kontaktieren:

• E-Mail für KI-Konformität roberdan@fightthestroke.org
• Meldeformular Nutzen Sie das Kontaktformular unter www.mirrorbuddy.com/contact, um uns Feedback zur KI-Transparenz zu senden. Wir beantworten alle Anfragen innerhalb von 5 Werktagen.
• Aufsichtsbehörde Italienische Datenschutzbehörde (garante@gpdp.it)

Wir verbessern die Transparenz der KI kontinuierlich. Ihr Feedback hilft uns, eine verantwortungsvollere und inklusivere Bildungsplattform aufzubauen.

Woher weiß ich, warum die KI einen bestimmten Maestro empfohlen hat?

Wenn die KI einen Maestro empfiehlt, zeigt das Eltern-Dashboard die Begründung an (z. B. 'Empfohlen basierend auf den Leistungen in Mathematik'). Sie können sich unter roberdan@fightthestroke.org an uns wenden, um eine ausführliche Erklärung zu erhalten.

Beeinflusst meine Behinderung die Empfehlungen der KI?

Nein. Die KI verwendet die Behinderung nicht als direkten Empfehlungsfaktor. Wir nutzen ausschließlich das Lernprofil des Schülers (Lerntempo, bevorzugte Lernstile) für einen inklusiven, universellen Unterricht.

Kann ich meine KI-Daten löschen, ohne mein Konto zu löschen?

Ja. Sie können die KI-Personalisierung in den Datenschutzeinstellungen deaktivieren. Alle Personalisierungsdaten werden gelöscht, Ihr Konto und die Bildungsinhalte bleiben jedoch erhalten.

Welche KI-Modelle verwenden Sie?

MirrorBuddy verwendet Azure OpenAI (GPT-4o mini für Trial, GPT-5.2-edu für Base, GPT-5.2-chat für Pro) sowie firmeneigene FSRS-Algorithmen zur Gedächtnisverfolgung. Kein Modell wird mit den Daten der MirrorBuddy-Schüler trainiert.

Was geschieht, wenn Sie feststellen, dass die KI Schüler diskriminiert?

Stellen wir eine Diskriminierung (Verzerrung) fest, wird das System sofort deaktiviert. Die Daten werden einem menschlichen Audit unterzogen. Schüler und Eltern werden benachrichtigt. Hat die Diskriminierung einen Bildungsschaden verursacht, bieten wir vorrangige korrektive Unterstützung an.

Dieses Dokument zur KI-Transparenz wurde gemäß Artikel 50 der KI-Verordnung der EU (Verordnung 2024/1689) und dem italienischen Gesetz 132/2025 erstellt. Es ist öffentlich in Italienisch, Englisch, Französisch, Deutsch und Spanisch verfügbar.

Nächste Überprüfung: 27. Juli 2026 (vierteljährlich)