XAI (Explainable AI \IA Explicable)

Capacidad de un sistema de IA para hacer comprensibles sus decisiones y razonamiento a usuarios humanos mediante visualizaciones, reglas o narrativas.
Ejemplo clínico. Sistema que recomienda clozapina muestra:
«Recomendación basada en: 1\) Fallo de 3 antipsicóticos previos (40 % peso); 2\) Ausencia de neutropenia (30 %) y 3\) Síntomas negativos prominentes (30 %)».
Precaución. Mayor explicabilidad puede reducir precisión; balan- ce necesario según contexto.
Relevancia para la práctica: Fundamental para confianza clínica, consentimiento informado y cumplimiento regulatorio.
Concepto clave: «Explicabilidad en salud mental». La explicabilidad en psiquiatría tiene dimensiones únicas: debe ser compren- sible no solo para el clínico sino potencialmente para pacientes con alteraciones cognitivas o insight limitado. Además, las expli- caciones deben evitar reforzar estigmas o generar desesperanza terapéutica.