Sesgos en la data, el peligro de la Inteligencia Artificial

Inteligencia-Artificial.png

Por Vanessa Arenas

Un grupo de estadounidenses fue detenido por cometer presuntos delitos. Sus rasgos faciales, sexo, color de piel, entre otros datos personales fueron sometidos a un análisis de Inteligencia Artificial por el sistema judicial de Estados Unidos, resultando procesados y condenados. Al tiempo, se pudo comprobar que los hombres eran inocentes y que los sesgos raciales del sistema penal los señalaron por su color de piel.

En esta línea, Bernard Coleman, director global de Inclusión de Uber, expuso sobre el fenómeno de sesgo racial en el Congreso de Tecnologías de Consumo (CES) 2020, la feria de tecnologías de consumo más grande del mundo, que se realizó durante enero de 2020 en Las Vegas, Estados Unidos. Allí habló sobre cómo estas decisiones por parte de empresas e instituciones, que omitan o desconozcan información sin mantener su ética, puede afectar a poblaciones vulnerables y, finalmente, a ellos mismas como organización.

Al respecto, Rodrigo Seguel, experto en Data e Inteligencia Artificial de IBM, señala: “Una empresa se puede exponer a un riesgo significativo si delega responsabilidades a un sistema de IA que no esté alineado completamente con sus objetivos y políticas corporativas. Por ejemplo, podría producirse un daño financiero o reputacional grave si un modelo discrimina injustamente a un grupo particular porque sus datos no representaban una muestra lo suficientemente grande de ellos o si se deriva en algo que ya no cumpla con los objetivos comerciales previstos”.

Pablo Groeger, gerente de Control Interno de Banco Procredit, expuso sobre “Ética ¿El gran reto de la inteligencia artificial?”, en el Digital Guayaquil, de Digital Bank Latam. Allí apuntó a que hay instituciones financieras que dejan que el scoring decida quién puede tener créditos o no. A lo que posteriormente cuestionó: “¿estos sistemas pueden trabajar con un principio de ética? Yo tengo mis dudas. Tenemos que trabajar en nuestras culturas corporativas, en nuestro propio comportamiento, para poder enseñar a nuestros sistemas de IA, porque nos imitan”.

Sin embargo, Alejandro Nuñez, gerente de Investigación y Desarrollo en la empresa tecnológica Practia, afirma que “los datos en (probablemente todas) las bases están sesgados. Para corregir esto es necesario hacer análisis descriptivos, observar las frecuencias, subrepresentación de grupos etarios, étnicos, sexuales, religiosos, o cualquier otra información asociada, principalmente, a personas”.

En este punto coincide Seguel: “La Inteligencia Artificial como herramienta llegó para quedarse. Hoy, como nunca, tenemos las capacidades de cómputo, redes y algoritmos, tanto open source, como de compañías tradicionales. Ahora, también es muy probable que casi cualquier modelo de IA, sin importar lo cuidadosamente que esté diseñado, exhiba una cierta cantidad de sesgo”.

Frente a este escenario, las habilidades de los profesionales de datos y los equipos de data science con los que trabajan son fundamentales, de acuerdo al experto, agrega Seguel.

Una plataforma que detecta sesgos dentro de las organizaciones

Una encuesta del Institute for Business Value de IBM revelaba que mientras el 82% de las empresas se plantea utilizar la IA, al 60% le preocupa la responsabilidad y el 63% cree que carece de las capacidades y el talento interno para gestionar esta tecnología con confianza.

Este y varios estudios más realizados por la tecnológica fueron determinantes para crear un nuevo software que permite detectar automáticamente los sesgos y proporciona información detallada sobre las decisiones que toma el algoritmo de IA de una organización.

“IBM prioriza infundir confianza y transparencia en nuestros productos y crear nuevas herramientas para combatir el sesgo”, dijo a Digital Trends el ejecutivo de la multinacional, Seguel. Watson OpenScale es una de las plataformas de IBM que rastrea y mide los resultados de la IA a lo largo de su ciclo de vida,
adaptándola a las situaciones comerciales cambiantes.

Tecnología eficaz, pero con uso responsable

Verónica Quinteros, Senior Account Manager – Chile & Perú de Automation Anywhere, indica que las principales ventajas para las empresas con la implementación de IA tienen que ver con la predictibilidad de previsión de consumo, aceptación de nuevos productos, comportamientos de compra y de pagos.

La ejecutiva explica que estos mecanismos de análisis tienen un buen grado de autonomía, por lo cual aportan información de valor adicional que podría hacer ver otras realidades no consideradas.

“Lo interesante de estas tecnologías es que son capaces de trabajar sobre otro tipo de data, no la explicita o tradicional, sino que es capaz de entender el lenguaje natural, intención y sentimientos, reconocimiento de patrones, tendencias, probabilidades, apoyando al análisis productivo”, resalta Quinteros.

Sin embargo, los expertos consultados alertan sobre la utilización de algoritmos correspondientes o, de lo contrario, se puede llegar a resultados completamente errados; así como usar una mala fuente de información que podría traer consecuencias irreversibles para todos los involucrados.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

scroll to top