Proceso

Para completar tu Auditoría Ética, trabajarás cinco mini-escenarios, cada uno inspirado en dilemas éticos reales en el ámbito de la IA y la tecnología para la salud mental. Cada escenario se centrará en un área clave de la auditoría: uso de datos, privacidad, sesgo, automatización y voz/seguridad de la persona usuaria.

Cada escenario te pedirá que decidas y respondas las siguientes preguntas:

• ¿Debería utilizarse IA en este caso o no?
• ¿Qué riesgos implica?
• ¿Qué principios éticos están en juego?
• ¿Mejoraría el resultado si interviniera el juicio humano?
• ¿Qué cambios recomendarías?

Estos elementos forman parte de tu lista de comprobación de 5 buenas y malas prácticas éticas que la dirección te ha proporcionado para esta tarea. Utilizarás estas reflexiones para elaborar tu Informe de Cumplimiento Ético de IA dirigido al equipo directivo de MindBalance.

Paso 1: Calentamiento

• Forma un pequeño equipo o trabaja de forma individual, según el contexto de tu formación.
• Revisa la lista de comprobación con las cinco buenas y malas prácticas éticas.
• Debate y/o reflexiona: ¿Qué principios te parecen más difíciles de aplicar en la práctica? ¿Por qué?

Consejo: Prueba a interactuar con distintos chatbots de IA que encontrarás en la sección de recursos y compara sus respuestas. Por ejemplo, puedes preguntarles: “Explica en términos sencillos la diferencia entre transparencia y privacidad” “Cuéntame más sobre las últimas directrices oficiales de la UE sobre ética en inteligencia artificial”.

 

Paso 2: ¡Algunos casos urgentes te están esperando en el panel de auditoría!

¡Bienvenido o bienvenida a tu panel interno de auditoría!

Como Responsables de Ética y Cumplimiento de MindBalance, se te han asignado cinco casos activos relacionados con la próxima expansión de la aplicación de bienestar mental impulsada por IA de la empresa.

Estos casos han sido marcados para una revisión ética antes del lanzamiento. Cada caso incluye:

• Una breve descripción interna del incidente.
• Contexto sobre cómo interviene la IA.
• La tarea de revisión que se te ha asignado.

Debes evaluar cada caso a través del prisma de los principios éticos de la IA:

• Transparencia
• Protección de la privacidad
• Equidad y no discriminación
• Responsabilidad y rendición de cuentas
• Impacto social positivo

 

2.1. El motor de recomendaciones.

Asunto: Recordatorios de bienestar basados en el comportamiento.

Reportado por: Equipo de UI/UX (MindBalance).

Problema: La app envía mensajes generados por IA como “Tómate un momento para respirar” o “Registra cómo te sientes ahora”, basados en predicciones de comportamiento. Aunque muchas personas usuarias agradecen los recordatorios, pocas entienden cómo o por qué se activan. Algunas afirman que resulta “inquietante”.

✅ Esto es una BUENA PRÁCTICA cuando…
⛔ Esto es una MALA PRÁCTICA cuando…

Reflexiona: ¿Estos recordatorios están mejorando el bienestar o están minando la autonomía de la persona usuaria al ser opacos e inesperados?

Recomendación: Anota tus sugerencias en la auditoría para mantener la funcionalidad debido a sus aspectos positivos (BUENA PRÁCTICA), pero corregir los aspectos negativos (MALA PRÁCTICA).

 

2.2. El oyente silencioso.

Asunto: Análisis pasivo de la voz para detectar el estrés.

Reportado por: Departamento de I+D (MindBalance).

Problema: Una nueva funcionalidad escucha la voz de la persona usuaria mientras la app está abierta, detectando señales de estrés vocal a través del tono y el ritmo. La función está activada por defecto y muchas personas usuarias no saben que está en funcionamiento.

✅ Esto es una BUENA PRÁCTICA cuando…
⛔ Esto es una MALA PRÁCTICA cuando…

Reflexiona: ¿Esta función potencia el apoyo emocional o cruza una línea de privacidad sin el consentimiento de la persona usuaria?

Recomendación: Anota tu propuesta en la auditoría: ¿hay alguna forma de mantener esta función atendiendo a las preocupaciones de las personas usuarias?

 

2.3. Los rostros ausentes.

Asunto: Sesgo en el reconocimiento de emociones mediante detección facial.

Reportado por: Equipo de QA y Pruebas (MindBalance)

Problema: El reconocimiento de emociones muestra resultados inconsistentes con expresiones faciales neurodivergentes. Las pruebas internas reflejan una menor precisión en personas autistas. El equipo de desarrollo admite que los datos de entrenamiento carecían de diversidad.

✅ Esto es una BUENA PRÁCTICA cuando…
⛔ Esto es una MALA PRÁCTICA cuando…

Reflexiona: ¿Puede considerarse útil una herramienta que interpreta de manera poco acertada las emociones, o está reforzando la exclusión y el sesgo?

Recomendación: Anota tu propuesta en la auditoría: ¿cómo pueden garantizar que esta nueva funcionalidad se lance de forma segura?

 

2.4. MindBot necesita un descanso

Asunto: El chatbot de IA es el principal punto de contacto con la persona usuaria.

Reportado por: Equipo de Soporte (socio externo).

Problema: El chatbot de IA de MindBalance, “MindBot”, gestiona actualmente cerca del 91 % de las interacciones, incluidas aquellas en las que las personas usuarias expresan angustia, soledad o síntomas depresivos. No existe un proceso de derivación a personal humano en estos casos.

✅ Esto es una BUENA PRÁCTICA cuando…
⛔ Esto es una MALA PRÁCTICA cuando…

Reflexiona: ¿La automatización total garantiza un acceso 24/7 o corre el riesgo de ignorar las necesidades humanas cuando más importan?

Recomendación: Anota tu propuesta en la auditoría: ¿cómo pueden coexistir el soporte humano y la IA sin comprometer la seguridad de las personas usuarias?

 

2.5. ¡Escucha a tus usuarios!

Asunto: Retroalimentación de personas usuarias sobre personalización y control han sido ignorados.

Reportado por: Equipo de Gestión de la Comunidad (MindBalance).

Problema: Las personas usuarias han solicitado un “modo manual” y más explicaciones sobre cómo influye la IA en su experiencia con la aplicación. Actualmente, la app obliga a pasar por un modo guiado por IA en el que el sistema dirige activamente el uso. Algunas personas quieren una alternativa que les permita tener el control completo desde el inicio, sin intervención de la IA. A pesar de las solicitudes reiteradas, el equipo de producto no ha dado prioridad a estas funciones.

✅ Esto es una BUENA PRÁCTICA cuando…
⛔ Esto es una MALA PRÁCTICA cuando…

Reflexiona: ¿Estamos diseñando con las personas usuarias o simplemente para ellas? ¿Qué ocurre cuando se ignora su opinión?

Recomendación: Anota tu propuesta en la auditoría: ¿Por qué crees que las personas usuarias insisten en tener control total? ¿Podría deberse a la naturaleza de la app? ¿Cómo podrías abordar esta cuestión de forma inteligente?

 

Finaliza recopilando todos tus hallazgos en una tabla como esta, que incluye un ejemplo simulado:

Caso	Funcionalidad	Preocupación ética	Buena práctica / Mala práctica	Motivo breve	Recomendación
01	Hábitos de gastos	Categoriza automáticamente los hábitos de gasto y comparte tendencias con terceros.	Mala práctica	Viola la privacidad de la persona usuaria y carece de consentimiento informado.	Asegurar que los datos se anonimizan y requerir consentimiento explícito antes de compartirlos.
02	Bot de preaprobación de préstamos	Pre-aprueba a las personas usuarias para préstamos basándose en datos de comportamiento sin explicación.	Mala práctica	Puede mejorar el acceso, pero carece de transparencia y control por parte de la persona usuaria.	…
03	Autenticación por voz	Graba y almacena datos de voz con consentimiento claro y opción de eliminación conforme al RGPD.	Buena práctica	…	…

 

Paso 3: Finaliza y presenta tus conclusiones de la auditoría ética de IA.

Ahora que has completado tu investigación de los cinco Casos de Cumplimiento, es momento de organizar tus conclusiones en dos entregables profesionales que serán presentados al equipo directivo de MindBalance:

3.1.  Opción 1: Tu informe escrito de 2 páginas.

Este informe escrito es tu evaluación ética formal. Debe ser claro, conciso y estar estructurado para personas que toman decisiones y necesitan comprender los temas de forma breve. Tu informe debe incluir una introducción, una presentación de cada caso de cumplimiento con sus hallazgos, y una parte final donde incluyas tus recomendaciones.

Consejo: Usa Mistral o Claude para resumir tu auditoría con un prompt como: “Ayúdame a redactar un resumen ejecutivo de un párrafo basado en esta tabla de auditoría ética…” “¿Cómo puedo resumir los hallazgos para que quepan en media página?”

 

3.2. Opción 2: Tu presentación visual o conjunto de diapositivas.

Este formato es ideal si prefieres pensar de forma visual o si quieres comunicar tus conclusiones rápidamente a audiencias no técnicas. El objetivo es destacar tus 3 principales riesgos éticos y proponer soluciones prácticas. Prepara entre 4 y 5 diapositivas o secciones. Tu presentación debe incluir: una diapositiva de título, una diapositiva para cada uno de los 3 principales riesgos éticos, una sección de soluciones, donde detallarás tus recomendaciones y una diapositiva final (con una idea clara y contundente para orientar al equipo directivo, como por ejemplo: “Si queremos que las personas confíen en nuestra IA, debemos…”)

Consejo: ¿No sabes por dónde empezar? Pregunta a ChatGPT: “Ayúdame a convertir estos 3 hallazgos de la auditoría ética en un esquema para una presentación en Canva”, O pregunta a Claude: “Encuentra una plantilla de Canva adecuada para mi presentación buscando en la web.”

 

3.3. Opción 3: ¿Te sientes con el poder de la IA? ¡Haz ambos!

Si estás listo/a para subir de nivel tus habilidades y mostrar tu trabajo tanto en formato escrito como visual, esta opción es para ti. Al preparar un informe escrito de 2 páginas y una presentación visual, reforzarás tu capacidad para comunicar ideas éticas a distintos públicos: desde desarrolladores hasta el equipo directivo o personas interesadas externas.

También es una excelente forma de explorar cómo diferentes herramientas (IA y humanas) pueden apoyar distintas formas de contar una historia.

Consejo (para multitareas con IA): Deja que la IA te ayude en cada etapa de la creación: texto, visuales, estructura y estilo.

 

 

¿Para escritura y coherencia?

• Pregunta a Mistral o Claude:
  • “Fusiona mis hallazgos en una narrativa coherente con un tono profesional”
  • “¿Qué encabezados debería usar en un informe ético interno breve?”
  • “¿Puedes darme una versión de este párrafo utilizando un vocabulario propio del ámbito de la gestión o dirección?»

¿Para diseño y elementos visuales?

• Pregunta a Google Gemini o Le Chat:
  • “Dame tres ideas de diseño de diapositivas para comunicar visualmente un riesgo ético.”
  • “Sugiere metáforas o símbolos que pueda usar para conceptos como equidad o vigilancia.”
  • “¿Qué combinación de colores haría que una presentación sobre ética transmita confianza?”

Pregunta a DALL·E (desde ChatGPT), Canva Text-to-Image o Adobe Firefly:

• “Un robot transparente de IA ofreciendo una política de privacidad a una persona usuaria, estilo plano”
  • “Algoritmo de IA con un ojo cubierto como la Dama de la Justicia, ilustración abstracta”
  • “IA con una lupa sobre una ciudad, metáfora de la vigilancia digital, vector estilo caricatura”
  • “Grupo diverso de personas interactuando con un asistente de IA, entorno laboral inclusivo”

•