Slider

Implementar adecuadas políticas internas frena sesgos de la IA

Compartir en facebook
Compartir en twitter
Compartir en linkedin

J. L. Revilla, solutions specialist de Microsoft, recomienda políticas de gobernabilidad al interior de las organizaciones para conseguir un conveniente manejo de la data, en beneficio del negocio. La sobreabundancia de información desestructurada genera complicaciones y riesgos, resaltó

Las empresas en la actualidad trabajan con múltiples plataformas, incluidas varias nubes, con flujos de datos muy complejos que requieren pasar un filtro, consolidarse y ser ordenados. Datos estructurados y no estructurados, cruzados de muchas fuentes y no todo confiables.

Sin una política de gobernabilidad adecuada todos los usuarios tendrán información diferente o no sabrán donde encontrarla y perderán tiempo cuadrando números, advirtió J. L. Revilla, solutions specialist de Microsoft, durante su presentación en el webinar sobre Gobierno Digital organizado por AmCham la semana pasada.

“No importa si gastas en el ERP más grande: igual los usuarios terminan exportando datos a un Excel para hacer sus reportes”, advierte. ¿Cuál es el problema? Que se hace lo mismo para distintos programas, generando nuevos datos. Además, está lo que se reporta en cada máquina de planta, los sensores en el almacén, las cámaras, los POS, y un largo abanico de fuentes de información que viene en diferentes idiomas.

“Se necesita manejar calidad de data privacidad, una política de retención y linaje, para saber de dónde vino ese dato, qué afecta y hacia dónde se dirige. Se necesitan criterios claros de clasificación de la data sensible”

El tema no es la tecnología que se adquiere, añadió, sino las políticas y procesos definidos para guardar la información correcta, destruir la que no sirve y darle acceso solo a quien le corresponde. Las organizaciones necesitan una cultura de toma de decisiones sobre los datos, formas adecuadas de buscarlos y saber plantearse las preguntas adecuadas para resolver los desafíos que implica el manejo del ciclo del dato, remarcó.

“Cuando hablamos hoy de la data no solo es la transaccional, sino todo el flujo que sigue, para entender su pasado y su impacto. La idea es entender lo que la causa, sí, pero donde realmente obtiene valor es en el futuro. ¿Cómo la analizo y que modelo de previsión hago?”, señaló.

La Inteligencia Artificial hoy permite a las empresas predecir lo que podría suceder y puede ser útil más allá de la misma organización, comentó. Como ejemplo citó a una farmacéutica que predecía cuando se vendría un quiebre de stock de un medicamento en particular. Se dieron cuenta que eso significaba que podían saber de qué se iba a enfermar la gente con unos días de anticipación y le ofrecieron al Gobierno darle esa predicción para prepararse.

Otro ejemplo citado es el de una compañía de autos que tienen casi 200 sensores que trasmiten en tiempo real a la nube cuando pasan un bache. Ellos lo usan para predecir y programar citas al taller, pero también conocen el estado de las pistas y eso les permite venderle al Gobierno el detalle de qué pistas están con desperfectos, para que puedan arreglarlas.

El problema, advirtió, es que todos estos sistemas de IA y ML son creados por personas que trasladan sus propios sesgos al programa creado, explicó J. L. Revilla. Por ejemplo, dijo, hay muchos sistemas de visión computarizada y reconocimiento facial que funciona con gente blanca, porque fueron entrenados con personas de dichas características. O sistemas de patrullaje que mandan a la policía a las zonas más peligrosas y no se llega a reportar y atender los crímenes en otras zonas.

Cada vez vemos más innovación, pero cada organización debe ser responsable sobre el uso del dato, los sesgos que pueden existir y cómo fueron programados los algoritmos, remarcó.  Es necesario entender el impacto que tendrá el uso de los datos y de la IA que los procesa. Y eso parte de las políticas de la organización, los comités de seguridad y todo el trabajo que se hace para cuidar la fuente del dato y el uso que se le dará. “Imposible tener un uso responsable si no hay una política y cultura adecuada en la organización”, remarcó.