¿La inteligencia artificial podría estar sesgada?

0

La inteligencia artificial tiene un problema de sesgo y la forma de solucionarlo es haciendo que la industria de la tecnología en Occidente sea “mucho más diversa”, según el jefe de inteligencia artificial y aprendizaje automático en el Foro Económico Mundial.

Hace solo dos o tres años, había muy pocas personas planteando cuestiones éticas sobre el uso de la IA, dijo Kay Firth-Butterfield en la Reunión Anual de Nuevos Campeones del Foro Económico Mundial en Tianjin, China.

No obstante, las cuestiones éticas ahora han “pasado a primer plano”, expresó. “Eso es en parte porque tenemos (el Reglamento General de Protección de Datos), obviamente, en Europa, pensando en la privacidad, y también porque ha habido algunos problemas obvios con algunos de los algoritmos de Inteligencia Artificial”.

Teóricamente, se supone que las máquinas son imparciales. Pero ha habido casos en los últimos años que demostraron que incluso los algoritmos pueden ser perjudicados.

Hace unos años, Google fue criticado después de que su algoritmo de reconocimiento de imágenes identificara a los afroamericanos como “gorilas”. A principios de este año, un informe de Wired expresó que Google aún no había resuelto el problema, y simplemente bloqueó su software de reconocimiento de imágenes para que no reconociera a los gorilas por completo.

“A medida que hemos visto surgir más y más de estas cosas, el debate ético sobre la inteligencia artificial se ha vuelto mucho mayor”, dijo Firth-Butterfield. “Una de las cosas que estamos tratando de hacer en el Foro Económico Mundial es realmente encontrar una forma de garantizar que la IA crezca exponencialmente, como lo hace en beneficio de la humanidad, mientras que mitigar algunas de estas consideraciones éticas en la privacidad, el sesgo, transparencia y responsabilidad”.

Los expertos han dicho que a veces los prejuicios se apoderan de los programas porque el sesgo humano influyó en esos algoritmos cuando se escribieron. Firth-Butterfield estuvo de acuerdo con esta afirmación.

La composición de la industria tecnológica que está creando esos algoritmos no es perfecta.

Silicon Valley tiene una larga historia de críticas por su falta de diversidad.

El año pasado, un informe del gobierno de los Estados Unidos. Encontró que el sector tecnológico del país está detrás de otros en términos de diversidad de su fuerza de trabajo. El informe también dice que los trabajadores de sexo femenino, negro e hispano constituyen una proporción menor de la fuerza de trabajo de tecnología, en ocupaciones relacionadas con las matemáticas, la informática y la ingeniería, en comparación con sus representaciones en la fuerza de trabajo general.

“Cuando hablamos de prejuicios, nos preocupamos ante todo por el enfoque de las personas que están creando los algoritmos”, dijo Firth-Butterfield. “Necesitamos hacer que la industria sea mucho más diversa en Occidente”.

Firth-Butterfield afirma que un problema de gran importancia es que durante años, las mujeres y otras personas que no son blancas se han mantenido al margen de la ciencia, y agregó que no hay suficientes ingenieros de inteligencia artificial para satisfacer la demanda de la industria. El impulso de China para capacitar a más ingenieros de IA y científicos de datos podría llenar parte de la brecha de talento en el sector, expresó.

La inteligencia artificial es una tecnología en rápido crecimiento. El gasto mundial en inteligencia artificial y sistemas cognitivos aumentará a unos $ 52.200 millones en 2021, según la investigación.

De hecho, recientemente el Foro Económico Mundial predijo que si bien las máquinas superarán a los humanos en términos de realizar más tareas en el lugar de trabajo para 2025, todavía podría haber 58 millones de nuevos empleos netos creados en los próximos cinco años.