MEDIATECA

La Confederación de Personas con Discapacidad Física y Orgánica de la Comunitat Valenciana (COCEMFE CV) ha advertido de que el desarrollo de la Inteligencia Artificial puede generar nuevas formas de discriminación hacia las personas con discapacidad física y orgánica si no incorpora criterios de accesibilidad e inclusión desde su diseño.

Así lo ha trasladado la coordinadora de la organización, Lina Soler, durante su participación el pasado martes en las jornadas DiscapacIA organizadas por el Comité de Entidades Representantes de Personas con Discapacidad de la Comunidad Valenciana (CERMI CV).

Durante la mesa redonda “Brecha digital y discapacidad: del diagnóstico a la acción de las entidades”, Soler ha señalado que el desarrollo de las tecnologías basadas en Inteligencia Artificial (IA) está consolidando una serie de sesgos conceptuales que ponen en riesgo los derechos de las personas con discapacidad. Esta situación no solo frena la inclusión real, sino que reproduce barreras existentes y las convierte en barreras de información no verificada que pasan desapercibidas pero que tienen consecuencias muy reales. Por este motivo, desde COCEMFE CV se han identificado varios sesgos que deben corregirse para garantizar una transición tecnológica justa en esta transformación profunda que implica la IA:

En primer lugar, la entidad de utilidad pública alerta sobre el sesgo de la generalización, que afirma que “todas las personas tenemos alguna discapacidad”. COCEMFE CV recuerda que la discapacidad es una condición concreta reconocida administrativamente que constituye la puerta de acceso a políticas públicas específicas basadas en la equidad la igualdad de oportunidades y la no discriminación.

En segundo lugar, COCEMFE CV diagnostica el sesgo de la accesibilidad inventada que incluye varios componentes que generan nuevas barreras basadas en información que no se corresponde con la realidad, Lina Soler ha explicado que en esta falsa accesibilidad operan varios factores, entre los que destaca la mezcla ordenada de datos sobre accesibilidad, que puede dar lugar a las llamadas alucionaciones, la no identificación de la cadena de accesibilidad por la IA y la acumulación de datos descriptivos, que provoca que se la propia persona persona con discapacidad decida autoexcluirse de manera preventiva ante carencias en accesibilidad que no son presentadas como barreras.

El tercer punto crítico es el sesgo de la empatía, el cual defiende que las necesidades de las personas con discapacidad deben atenderse por motivos de sensibilidad o buena voluntad. COCEMFE CV no rechaza la empatía y la sensibilidad individual, pero recuerda que la accesibilidad y la inclusión responden a un mandato legal, ético y democrático basado en los derechos humanos, lo cual debe superar este tipo de enfoque asistencialista.

IA y discapacidad física y orgánica

Además, Soler también señaló cómo puede levantar nuevas barreras cuando sus sistemas no tienen en cuenta la diversidad de las personas usuarias. En el caso de la discapacidad física, algunas de estas barreras se encuentran en las interfaces táctiles que no ofrecen alternativas de interacción, las aplicaciones que requieren movimientos de precisión o los sistemas de reconocimiento gestual y de voz que no identifican patrones de movilidad o habla diferentes a los habituales. Además, la velocidad a la que se desarrolla puede hacer que los avances conseguidos en productos de apoyo para la autonomía personal tarden en formar parte del catálogo orotprotésico.

Por su parte, las personas con discapacidad orgánica, especialmente aquellas que conviven con enfermedades crónicas, dolor o fatiga, pueden encontrar dificultades añadidas en el acceso a servicios de salud digital y trámites electrónicos. A ello se suma el riesgo de que los algoritmos de diagnóstico y recomendación clínica reproduzcan sesgos si los datos utilizados para entrenarlos no representan adecuadamente la diversidad de las personas con discapacidad.

«Si los sistemas de inteligencia artificial se construyen ignorando nuestras realidades y necesidades, los algoritmos perpetuarán nuestra exclusión», ha advertido Soler.

Formación, investigación e innovación para reducir la brecha digital

Frente a estas barreras, COCEMFE CV trabaja para reducir la brecha digital a través de la formación en competencias digitales, la capacitación para el empleo y el asesoramiento al personal docente sobre herramientas digitales inclusivas.

La entidad participa, además, en iniciativas de investigación e innovación tecnológica. Entre ellas, destaca su colaboración con la Cátedra de Brecha Digital de la Universitat Politècnica de València (UPV) y su participación en el proyecto europeo de espacios de datos DS4M Mediterráneo, junto a la Universitat de València, en el que aporta un caso de estudio sobre los problemas de movilidad urbana que afrontan las personas con discapacidad.

Cuatro medidas para una inteligencia artificial inclusiva

Con el fin de que los avances en inteligencia artificial no dejen atrás a las personas con discapacidad la organización propone cuatro medidas dirigidas a las administraciones públicas y al sector tecnológico:

1. Asegurar que las decisiones automatizadas que puedan afectar a derechos fundamentales, como el acceso a recursos sociales o las valoraciones sanitarias, cuenten con supervisión humana efectiva y que la inteligencia artificial no sustituya la atención presencial ni el criterio profesional.
2. Incorporar el diseño universal y la accesibilidad desde el inicio del desarrollo tecnológico, así como garantizar la financiación de productos y herramientas de apoyo, como software accesible, periféricos adaptados y soluciones de domótica. En este sentido, es necesario auditar los posibles sesgos de los algoritmos y asegurar que los datos utilizados para entrenarlos representan también las experiencias de las personas con discapacidad.
3. Incorporar a las organizaciones representativas de la discapacidad en los procesos de diseño, desarrollo y validación de estas tecnologías.
4. Asegurar el cumplimiento de la normativa sobre accesibilidad universal, tanto en el ámbito público como en el privado.