Sesgo algorítmico

Definición:

Errores sistemáticos en sistemas de IA que resultan en tratamiento injusto o discriminatorio de ciertos grupos, reflejando y amplificando prejuicios en datos de entrenamiento.
Ejemplo clínico. Algoritmo entrenado en hospital universitario urbano falla sistemáticamente en población rural: infradiagnostica depresión en agricultores porque sus expresiones de malestar difieren del dataset original.
Precaución. Puede perpetuar y amplificar disparidades en salud mental existentes.
Relevancia para la práctica. Consideración ética fundamental; requiere validación en población específica antes de implementación.

Concepto clave: «Sesgo algorítmico en psiquiatría». El sesgo algorítmico en salud mental es particularmente preocupante porque puede afectar a poblaciones ya vulnerables. Un modelo entrenado principalmente con datos de pacientes blancos de clase media puede fallar en detectar expresiones culturalmente específicas de distress en minorías étnicas, perpetuando disparidades en diagnóstico y tratamiento. La mitigación requiere datasets diversos, validación por subgrupos y monitorización continua de equidad.