Transparencia sobre Inteligencia Artificial
Resumen Rápido (TL;DR)
- MirrorBuddy utiliza inteligencia artificial para personalizar la enseñanza y apoyar el aprendizaje inclusivo
- Todas las decisiones significativas de IA están sujetas a supervisión humana según la Ley de IA de la UE
- Usted tiene derecho a solicitar una explicación de cómo la IA ha influido en sus experiencias educativas
- Sus datos están protegidos y no se utilizan para discriminar o perfilar sin su consentimiento
- Puede desactivar la IA personalizada en cualquier momento y continuar usando la aplicación
11. Divulgación de los Sistemas de IA
De conformidad con el Artículo 50 del Reglamento de IA de la UE (Reglamento 2024/1689), MirrorBuddy divulga que los 32 maestros educativos disponibles en la plataforma utilizan inteligencia artificial generativa. Estos sistemas de IA están diseñados para personalizar la enseñanza y apoyar a estudiantes con dificultades de aprendizaje.
Importante: Los sistemas de IA de MirrorBuddy incluyen: Sistemas de Personalización Educativa (Azure OpenAI GPT), Sistemas de Análisis del Progreso (algoritmos FSRS de repetición espaciada) y Sistemas de Apoyo Emocional (generación de retroalimentación personalizada y motivación).
22. Clasificación de la IA y Conformidad Normativa
MirrorBuddy utilizza Azure OpenAI (GPT-4), Azure Openai Gpt4, El Reglamento de IA de la UE clasifica los sistemas de IA según el riesgo. MirrorBuddy ha realizado una Evaluación de Impacto sobre la Protección de Datos (DPIA) y una Evaluación del Riesgo de IA para determinar el nivel de conformidad requerido.
Clasificación del Riesgo de MirrorBuddy
- Riesgo Limitado - Sistemas de Personalización: Los sistemas de personalización educativa (recomendación de maestros, adaptación del nivel de dificultad) se clasifican como riesgo limitado. Utilizamos advertencias transparentes y permitimos que los padres supervisen las decisiones de la IA.
- Riesgo Elevado - Cuando Sea Aplicable: Si en el futuro MirrorBuddy integra funciones de evaluación automática que puedan influir significativamente en la trayectoria educativa del estudiante (Art. 6 del Reglamento de IA), implementaremos controles de riesgo elevado, incluida la supervisión humana obligatoria.
- Conformidad con la Ley Italiana 132/2025: MirrorBuddy, de conformidad con la Ley 132/2025 (implementación nacional italiana del Reglamento de IA de la UE), mantiene registros de conformidad disponibles públicamente y sujetos a revisión periódica por parte de la Autoridad de Protección de Datos.
33. Funciones Principales del Sistema de IA
Los siguientes sistemas de IA se utilizan en MirrorBuddy para apoyar la enseñanza inclusiva:
Sistemas de IA Descritos
- Motor de Personalización Educativa: Datos conversacionales (mensajes con los maestros), analizados en tiempo real para personalizar respuestas y tono
- Sistema FSRS de Seguimiento del Progreso: Rendimiento histórico en tarjetas de estudio y cuestionarios, utilizado para calcular intervalos de repetición óptimos
- Generador de Mensajes de Ánimo: Contexto emocional de la sesión de estudio, utilizado para generar mensajes de motivación personalizados
- Detector de Dificultades de Aprendizaje: Patrones de dificultad recurrentes, monitorizados para enviar avisos a los educadores sin categorización automática de los estudiantes
- Búsqueda Semántica de Documentos: Embeddings vectoriales de los documentos cargados, utilizados para la búsqueda semántica sin almacenar el contenido original en los vectores
Todos estos sistemas están diseñados con supervisión humana integrada y pueden desactivarse en la configuración de privacidad.
44. Supervisión Humana y Control (Artículo 14 - Reglamento de IA)
Controles de Supervisión Humana Implementados
- Supervisión de los Padres: Los padres tienen acceso a un Panel para Padres que muestra todas las decisiones de IA relativas a su hijo, incluidas las recomendaciones de maestros y las rutas de aprendizaje sugeridas.
- Supervisión de los Educadores: Los profesores y coordinadores escolares pueden ver y modificar manualmente las decisiones del sistema de IA. Ninguna decisión de la IA es definitiva sin aprobación humana.
- Intervención Humana Obligatoria: Si el sistema identifica dificultades significativas, un educador humano debe intervenir en un plazo de 7 días para ofrecer apoyo personalizado. La IA solo proporciona sugerencias, no decisiones.
- Auditoría de Equidad y Transparencia: Realizamos auditorías trimestrales para verificar que las recomendaciones de la IA no discriminen a los estudiantes por motivos de género, etnia, discapacidad o nivel socioeconómico.
- Desactivación de la IA - Derecho de Oposición: Los estudiantes y los padres pueden desactivar por completo la personalización de la IA en cualquier momento. MirrorBuddy seguirá ofreciendo todas las funciones educativas fundamentales con configuraciones genéricas.
Our AI Philosophy
Inspired by AI Safety Research
MirrorBuddy's safety approach is informed by contemporary AI"The Adolescence of Technology" (January 2026), which highlights unique risks of personalized AI in
We consciously choose NOT to be an AI that shapes opinions or createsdependency. Our Professors are designed to be tools of empowerment,
The Professors' Constitution
Nuestros 32 Profesores IA operan bajo una constitución filosófica con seiscore articles:
1. Autonomy First
Every interaction leaves the student MORE capable of facing the nextchallenge on their own.
2. Human Relationships Are Irreplaceable
Professors do not compete with parents, teachers, or friends. They
3. No Opinions, Only Knowledge
Facts and perspectives, never personal opinions on political,
4. Protection from Dependency
Excessive use is a problem, not success. We monitor patterns and
5. Responsible Knowledge
Science education yes, harm instructions no. Some knowledge requires
6. Total Transparency
Students and parents always know they are interacting with AI.Limits and policies are public.
"MirrorBuddy: We amplify human potential, we don't replace
55. Sus Derechos Relativos a la IA
El Reglamento de IA de la UE y el RGPD le garantizan derechos específicos relativos a los sistemas de IA. Esto es lo que puede hacer:
- Derecho de Acceso y Explicación: Puede solicitar conocer cómo la IA tomó una decisión que le afecta, incluida la lógica utilizada y los factores considerados. Contacte con roberdan@fightthestroke.org para ejercer este derecho.
- Derecho a la Portabilidad de los Datos: Puede exportar todos los datos utilizados en nuestras decisiones de IA (conversaciones, progresos, preferencias) en un formato legible (JSON, CSV) para transferirlos a otra plataforma.
- Derecho de Oposición: Puede oponerse al tratamiento de los datos para la personalización de la IA y la elaboración de perfiles educativos. MirrorBuddy desactivará inmediatamente todos los sistemas de IA para su cuenta.
- Derecho de Rectificación: Si considera que los datos utilizados por la IA son inexactos (por ejemplo, el nivel de dificultad asignado), puede solicitar su corrección restableciendo los perfiles de IA con datos precisos.
- Derecho al Olvido - Supresión: Puede solicitar la eliminación de todos sus datos de IA. Esto incluirá el historial de personalización, manteniendo operativas las funciones educativas básicas.
- Derecho de Recurso: Si considera que una decisión de la IA le ha discriminado ilegalmente, puede presentar una reclamación ante la Autoridad de Protección de Datos italiana (www.garanteprivacy.it) en un plazo de 30 días.
66. Protección de Datos y Seguridad
Implementamos medidas de seguridad específicas para proteger cómo la IA utiliza sus datos:
- Cifrado de Datos: Los datos utilizados para personalizar la IA (historial de chat, progresos, preferencias) se cifran de extremo a extremo durante la transmisión a Azure OpenAI.
- Anonimización de los Modelos: Los modelos de IA generativa de MirrorBuddy nunca se entrenan con los datos personales de los estudiantes. Solo utilizamos entradas en tiempo real para adaptar las respuestas.
- Sin Elaboración de Perfiles Discriminatoria: La IA no crea perfiles que categoricen a los estudiantes por capacidad cognitiva, discapacidad, etnia o nivel socioeconómico de forma que pueda influir en las oportunidades educativas.
- Acceso Humano Limitado: Solo nuestro equipo italiano de ingenieros de seguridad y delegados de protección de datos pueden ver los datos utilizados por la IA con fines de auditoría. El acceso queda registrado y sujeto a revisión.
- Conservación Limitada: Los datos de personalización de la IA se conservan únicamente durante la sesión activa del estudiante. Los datos históricos se agregan y seudonimizan en un plazo de 90 días.
77. Análisis de Riesgos de IA y Medidas de Mitigación
MirrorBuddy ha identificado los siguientes riesgos potenciales de la IA e implementado medidas de mitigación conformes al Artículo 29 del Reglamento de IA de la UE:
| Riesgo Identificado | Medida de Mitigación |
|---|---|
| Sesgo en los Algoritmos de Personalización | Auditorías bimestrales de equidad utilizando conjuntos de datos diversos. Pruebas con estudiantes de distinto género, etnia y discapacidad para verificar recomendaciones imparciales. |
| Dependencia Excesiva de la IA | MirrorBuddy fomenta la interacción humana y el control manual. Los maestros son la interfaz principal. La IA solo proporciona sugerencias no vinculantes. |
| Divulgación No Autorizada de Datos Sensibles | Cifrado de extremo a extremo, segregación de datos, políticas de acceso basadas en roles, registros de auditoría permanentes, sin transferencias fuera de la UE sin consentimiento. |
| Generación de Contenidos Dañinos | Filtros de seguridad integrados en Azure OpenAI, revisión humana de los contenidos generados, bucle de retroalimentación para señalar problemas, desactivación instantánea si se detecta un problema. |
| Falta de Transparencia en las Decisiones de la IA | Este documento ofrece divulgación completa. El panel para padres muestra el razonamiento de la IA. Derecho garantizado de explicación previa solicitud. |
88. Conformidad Normativa y Supervisión
La Autoridad de Protección de Datos italiana tiene derecho a inspeccionar MirrorBuddy en cualquier momento para verificar la conformidad.
- Reglamento de IA de la UE (Reglamento 2024/1689) - Clasificación del riesgo y obligaciones de transparencia para los sistemas de IA en el ámbito educativo
- RGPD (Reglamento UE 2016/679) - Protección de datos personales, derecho a la explicación de las decisiones automatizadas (Art. 22)
- Ley 132/2025 (Italia) - Implementación nacional del Reglamento de IA de la UE con requisitos específicos para la educación
- WCAG 2.1 Nivel AA - Estándar de accesibilidad para usuarios con discapacidad, conforme a la Ley Stanca italiana (L. 4/2004)
MirrorBuddy cumple todos los requisitos del Reglamento de IA de la UE 2024/1689 y de la Ley italiana 132/2025.
99. Contáctenos - Preguntas sobre la Transparencia de la IA
¿Tiene preguntas sobre nuestro uso de la IA? Puede contactarnos de las siguientes maneras:
- Correo de Conformidad de la IA roberdan@fightthestroke.org
- Formulario de Notificación Utilice el formulario de contacto en www.mirrorbuddy.com/contact para enviarnos comentarios sobre la transparencia de la IA. Respondemos a todas las solicitudes en un plazo de 5 días laborables.
- Autoridad de Supervisión Autoridad de Protección de Datos italiana (garante@gpdp.it)
Estamos mejorando continuamente la transparencia de la IA. Sus comentarios nos ayudan a construir una plataforma educativa más responsable e inclusiva.
1010. Preguntas Frecuentes sobre la Transparencia de la IA
¿Cómo puedo saber por qué la IA ha recomendado un maestro en particular?
Cuando la IA recomienda un maestro, el Panel para Padres muestra el razonamiento (por ejemplo, 'Recomendado en función del rendimiento en matemáticas'). Puede contactar con roberdan@fightthestroke.org para obtener una explicación detallada.
¿Mi discapacidad influye en las recomendaciones de la IA?
No. La IA no utiliza la discapacidad como factor directo de recomendación. Solo usamos el perfil de aprendizaje del estudiante (ritmo, estilos preferidos) para una enseñanza universal e inclusiva.
¿Puedo eliminar mis datos de IA sin eliminar mi cuenta?
Sí. Puede desactivar la personalización de la IA en la configuración de privacidad. Todos los datos de personalización se eliminarán, pero su cuenta y los contenidos educativos permanecerán intactos.
¿Qué modelos de IA utilizan?
MirrorBuddy utiliza Azure OpenAI (GPT-4o mini para Trial, GPT-5.2-edu para Base, GPT-5.2-chat para Pro) y algoritmos FSRS propios para el seguimiento de la memoria. Ningún modelo se entrena con los datos de los estudiantes de MirrorBuddy.
¿Qué ocurre si descubren que la IA está discriminando a los estudiantes?
Si detectamos discriminación (sesgo), el sistema se desactiva de inmediato. Los datos se someten a una auditoría humana. Se notifica a estudiantes y padres. Si la discriminación ha causado un perjuicio educativo, ofrecemos apoyo correctivo prioritario.
11. Información de Conformidad y Revisión
Este documento de transparencia de la IA se ha preparado de conformidad con el Artículo 50 del Reglamento de IA de la UE (Reglamento 2024/1689) y la Ley italiana 132/2025. Está disponible públicamente en italiano, inglés, francés, alemán y español.
Próxima Revisión: 27 de julio de 2026 (trimestral)