ANÁLISIS | LIBRO “ARMAS DE DESTRUCCIÓN MATEMÁTICA”

Explica: Javier Linares, Head of Security & Innovation de Zenta

Hace poco terminé de leer el interesante Libro de Cathy O’neil sobre ciencia de datos, machine learning y el impacto del Big data en nuestras vidas.

Siempre me ha resultado muy interesante y apasionante el tema de los datos, la explotación de los mismos y la generación de información importante partiendo de este análisis. Es imposible negar todas las aristas positivas que la ciencia de datos trajo a nuestras vidas en diferentes ámbitos: Salud, laboral, tecnológico, educación, hobby, deportes, etc

Pero pocas veces nos ponemos a pensar por ejemplo: ¿Cómo impactan ciertos análisis y modelos en la vida de las personas y en la sociedad en general?

Por lo general nos imaginamos algoritmos que nos ayudan a encontrar lo que necesitamos, escuchar la música que nos gusta, conducir con menos tráfico, incentivarnos a comprar los productos que más se acercan a lo que somos.

Ahora, qué pasa cuando estos algoritmos tratan de predecir, por ejemplo: ¿Cuán saludable estarás en los próximos 5 o 10 años? Esto parece positivo ¿cierto?, porque te permitirá tomar precauciones y cuidarte. Pero, si esta información de tu salud la toma una compañía aseguradora o un potencial empleador, puede que, dependiendo de los resultados, la aseguradora te ofrezca una cobertura mala y muy cara, o que el empleador te descarte por que en 10 años tendrás hipertensión, diabetes o algo similar.

También imagina, ¿qué pasaría si un algoritmo para dar créditos hipotecarios compara tus datos con personas de tu misma zona residencial o con el historial crediticio de tus familiares o amigos? y en base a eso decide si eres fiable o no. Esto pudiera ser muy perjudicial para personas que estén rompiendo una cadena histórica familiar de pobreza, ya que el algoritmo deduciría que, si la zona en la cual nació o vive es predominantemente de personas de bajos recursos, sus padres lo son, así como sus abuelos, no sería confiable para un crédito. Esto condenaría a la persona a no poder surgir por un entrenamiento sesgado, negando el crédito o aprobando un crédito con tasas y condiciones muy difíciles de pagar.

Esto mismo se puede aplicar para el ingreso a las universidades, para becas, puestos de trabajo, incluso para algoritmos que tratan de predecir la probabilidad de que alguien se convierta en delincuente.

Otro problema interesante es que en gran parte estos algoritmos no reciben retroalimentación, es decir, nunca se da cuenta, por ejemplo, si se equivocó al rechazar a una persona que calificó como un mal trabajador y luego con el tiempo esta persona se convierte en una trabajador estrella de otra organización, lo mismo puede pasar con un estudiante rechazado de una buena universidad.

Como puedes notar, hay muchos temas interesantes y sensibles socialmente con el avance de la tecnología y la segmentación de grupos sociales, de acuerdo a la clasificación que entregan estos algoritmos. Creo que todos los que estamos en este mundo de datos e información, debemos desarrollar conciencia de todo el impacto que puede causar un análisis o algoritmo desarrollado con las mejores intenciones.

No quiero decir con esto que el Big Data, la ciencia de datos y mucho menos las ciencias IT sean malas en sí y vengan a destruir nuestro futuro. Pero es importante entender siempre las dos caras de la moneda: los muchos beneficios que esta rápida evolución tecnológica nos trae, así como los casos no tan positivos que pueden nacer de ellas.

Es importante recordar que con la 1era revolución industrial llegaron muchísimas cosas buenas como producción en masa, productos más económicos, mayor cantidad de empleo. Pero también trajo ciertos problemas como trabajos forzados, mano de obra infantil, etc. Lo importante es que como sociedad se tomó conciencia de los beneficios y lo negativo de la revolución industrial para lo cual se generaron las normas necesarias para regular todo lo necesario.

Esto es similar a lo que está ocurriendo actualmente, y como menciona Klaus Schwab en su libro la cuarta revolución industrial “Se debe dar forma a la cuarta revolución industrial para asegurarnos que gire alrededor del empoderamiento y de los seres humanos” además indica que esto no es una tarea de un solo sector, sino que involucra a todos los entes de una sociedad: gobiernos, empresas privadas, profesionales, universidades, etc.

Por esta razón en Zenta hemos participado activamente en diversas dinámicas y foros relacionados al avance sano de la tecnología, actuando en iniciativas como Chile Tiene Futuro, charlas y congresos sobre neuro derechos.

Nos interesa mucho el avance tecnológico y aprovechar al máximo sus bondades para impulsar el crecimiento y desarrollo de nuestros clientes, así como de la sociedad en general.

Para culminar este artículo, te recomiendo este libro, ya que no es muy técnico y contiene un análisis similar al resumido anteriormente, pero con mucho más detalle y ejemplos.

Así que aprovecha la oportunidad de abrir los horizontes a un entendimiento completo de la tecnología para utilizarla conscientemente. Y si llegaste hasta aquí, deja tu comentario y comparte esta información.

#ML #machinelearning #bigdata #cienciadedatos #IT #Zenta #chiletienefuturo #neurosderechos #Chile