Caja negra (Black Box)

Definición:

Sistema de IA cuyo proceso interno de toma de deci- siones es opaco e incomprensible para usuarios humanos, ge- nerando resultados sin explicación clara del razonamiento.
Ejemplo clínico. Red neuronal profunda predice riesgo suicida con 90 % de precisión, pero no puede explicar por qué clasifica a un paciente específico como alto riesgo, dificultando la inter- vención dirigida.
Precaución. Problemático éticamente cuando afecta decisiones clínicas importantes; puede generar desconfianza en pacientes y profesionales.
Relevancia para la práctica. Principal barrera para adopción de IA compleja en psiquiatría; preferir modelos interpretables cuando sea posible.
Concepto clave: «Problema de la caja negra». En medicina, la ex- plicabilidad no es solo deseable sino frecuentemente obligato- ria. Un psiquiatra debe poder justificar decisiones ante pacien- tes, familiares y tribunales. Los modelos «caja negra» crean un dilema: ¿aceptamos mayor precisión a costa de no entender el porqué? La tendencia actual favorece la «IA explicable» (XAI) que balancea rendimiento con interpretabilidad.