La IA y el sesgo humano.

La inteligencia artificial (IA) no tiene predilección ni simpatías por determinadas teorías.
Eso la hace más segura a la hora de tomar decisiones o hacer clasificaciones, desde personas, pasando por partículas, hasta objetos exóticos del Universo. No obstante, el sesgo humano puede estar presente, lo que puede ser perjudicial para los resultados y las conclusiones.

Imagen ilustrativa publicada sin créditos en SIGNOS. (ver enlace en la foto)

La inteligencia consiste en resolver problemas recurriendo a los conocimientos previos o generarlos en el caso de no disponer de ellos. Los test de inteligencia sólo miden la voluntad de hacer el test (https://paolera.wordpress.com/2011/04/26/qu-miden-los-test-de-inteligencia/).

En ese aspecto, la IA obtiene información a partir de los datos iniciales y aprende de ellos en lo que se conoce como aprendizaje automático (AA). Así, a partir de datos iniciales, se generan millones de datos que son almacenados creando un sistema realmente experto en su tema.
Pero si el humano alimenta al sistema con datos a los que les da más importancia que a otros, digamos que pondera más unos que otros, eso se propagará en los algoritmos de AA generando resultados tendenciosos.
Por ejemplo: Si a un programa de reconocimiento de rostros se le introducen más características de un tipo de personas que de otras, el programa tendrá un sesgo favorable hacia un tipo de rostros. Así fue cómo, en un principio, un programa de reconocimiento facial mostró un 32% de error en clasificar mujeres de color en relación a hombres blancos.

En cosmología, la IA puede clasificar objetos exóticos en base a datos observacionales. Esa tarea se hace más rápida y confiable que con astrónomos que pueden verse inclinados a ciertos resultados. Pero las características iniciales de los objetos fueron introducida por científicos.
Si el científico no deja ideas preconcebidas de lado y no se mantiene al margen de los posibles resultados, puede ponderar más un tipo de datos que otros y generar un sesgo que arruine el trabajo de la IA. Eso se propagará en el AA y terminará socavando la teoría que se desea demostrar.

Luego: es importante dejar las ideas preconcebidas de lado, no sólo en el análisis de datos hecho por humanos, sino también en la carga de datos para la IA.
O sea: la influencia humana sigue estando y hay que evitarla.

Fuente:
Laura Dattaro; A physicists’ guide to the ethics of artificial intelligence; Symetry 6.may.2024 | https://www.symmetrymagazine.org/article/a-physicists-guide-to-the-ethics-of-artificial-intelligence

pdp.