El lado oscuro de la analítica

Solo las empresas que hayan implementado o empezado a implementar departamentos de data analítica en sus modelos de negocio están llamadas a sobresalir por delante de sus competidores. Las tecnologías de la gestión de los datos a gran escala, el aprendizaje automático, el aprendizaje profundo y la inteligencia artificial son, a la gestión tradicional, las armas de hierro en el final de la era del bronce, los que dispongan de ellas y conozcan como utilizarlas liderarán sus respectivos sectores.

Pero por supuesto como cualquier innovación acarrea inmensas ventajas, pero siempre hay inconvenientes y las nuevas técnicas analíticas también tiene su lado oscuro. Dicho lado oscuro se basa en la, a veces, escasa explicación de los modelos utilizados, las llamadas cajas negras, los sesgos que se pueden experimentar en los listados de datos utilizados para la elaboración de dichos modelos, la legalidad a la hora de la extracción de los datos, etc.

Los gobiernos, encabezados en Europa por la Comisión Europea en su documento titulado “On Artificial Intelligence – A European approach to excellence and trust”, ya ha empezado a avanzar en estas materias y prevenir que el desarrollo de estas tecnologías nos lleve por caminos indeseados.

En Wenalyze desde el inicio, este particular es algo que nos ha preocupado y por ello hemos tenido en cuenta, lo que denominamos, elementos de confianza que cualquier desarrollo de analítica por nuestra parte debe de cumplir para seguir los estándares de calidad de nuestra empresa.

Ética: el desarrollo, despliegue y uso de cualquier solución de inteligencia artificial debe adherirse a los principios éticos fundamentales, de conformidad con las directrices del Grupo de Expertos de Alto Nivel de la Comisión Europea sobre la inteligencia artificial

Explicabilidad e interpretabilidad: un modelo es explicable cuando su comportamiento interno puede ser directamente comprendido por los humanos (interpretabilidad) o cuando se pueden dar explicaciones (justificaciones) de los principales factores que llevaron a su resultado. La importancia de la explicabilidad es mayor cuando las decisiones tienen un impacto directo en los clientes/humanos y depende del contexto particular y del nivel de automatización de que se trate. La falta de explicabilidad podría representar un riesgo en el caso de modelos desarrollados por terceros externos y luego vendidos como paquetes de “caja negra” (opacos).

La explicabilidad es sólo un elemento de la transparencia. La transparencia consiste en poner a disposición de la inspección externa datos, características, algoritmos y métodos de capacitación y constituye una base para la construcción de modelos fiables.

Wenalyze, ética y algoritmos.

Equidad y evitar sesgos: la equidad requiere que el modelo garantice la protección de los grupos contra la discriminación (directa o indirecta). La discriminación puede ser consecuencia de un sesgo en los datos, cuando éstos no son representativos de la población en cuestión. Para garantizar la equidad, el modelo debe estar libre de sesgos. No obstante, hay que tener en cuenta que el sesgo puede introducirse de muchas maneras. Las técnicas para prevenir o detectar el sesgo existen y siguen evolucionando.

Trazabilidad y auditabilidad: la utilización de soluciones trazables ayuda a seguir todos los pasos, criterios y elecciones a lo largo del proceso, lo que permite la repetición de los procesos que dan lugar a las decisiones adoptadas por el modelo y contribuye a garantizar la auditabilidad del sistema.

Protección de datos personales: Aunque en Wenalyze los modelos que actualmente analizamos y explotamos no tratan dichos datos, en el caso de que pudieran tratarse en el futuro, los protegemos desde el diseño, con un sistema fiable de DGE&AA (Datos a Gran Escala y Analítica Avanzada) que cumple estrictamente con la normativa vigente de protección de datos.

Calidad de los datos: la cuestión de la calidad de los datos debe tenerse en cuenta a lo largo de todo el ciclo de vida de la DGE&AA, ya que la consideración de sus elementos fundamentales puede ayudar a ganar confianza en los datos procesados.

Seguridad: las nuevas tendencias tecnológicas también traen consigo nuevas técnicas de ataque que explotan las vulnerabilidades de seguridad. Es importante mantener una vigilancia técnica sobre los últimos ataques a la seguridad y las técnicas de defensa conexas y garantizar que la gobernanza, la supervisión y la infraestructura técnica estén en funcionamiento para una gestión eficaz de los riesgos de las TIC.

Por ello Wenalyze siempre estará vigilante del cambio en las tecnologías y en las técnicas y modelos que aplica en su negocio para evitar cualquier uso y/o desvío de los modelos que comercialice o ponga a disposición de sus clientes ahora o en el futuro.

Entradas recomendadas