Los graves problemas sociales que generan los algoritmos en el mundo

Esos códigos matemáticos que dominan nuestras vidas pueden ayudarnos a organizar situaciones caóticas, pero también fomentan el desempleo

Vivimos en la era de los algoritmos. Esos códigos matemáticos lo abarcan todo: desde los resultados de los buscadores de internet y redes sociales, hasta los sistemas de seguridad de nuestras tarjetas de crédito y teléfonos móviles.

Los algoritmos han revolucionado nuestras vidas, facilitando en muchos casos tareas informáticas más o menos complejas que antes tomaban mucho tiempo en resolverse, salvando vidas y organizando situaciones caóticas.

Han transformado el comercio -desde librerías hasta supermercados- prediciendo y controlando sistemas electrónicos de forma rápida y eficiente, y gestionando la mayoría de las transacciones financieras.

El éxito de Google, Amazon, YouTube o Netflix es fruto de los algoritmos.

También pueden ayudarnos a encontrar pareja, a encontrar trabajo, reconocer rostros, tomar fotos, construir -y manejar autos-, enviar emails o ubicarnos en un mapa.

Todo lo que la gente hace y ve en la web es producto de algoritmos . Y están emergiendo nuevos algoritmos de autoaprendizaje y autoprogramación”, explican los expertos del centro independiente de investigación Pew Research Center, con sede en Washington D.C., EE.UU.

Pero los algoritmos también tienen un lado oscuro y no siempre el cambio que introducen es positivo, especialmente si les otorgamos demasiado control sobre la toma de ciertas decisiones.

Estos son algunos de los problemas que están causando en el mundo.

1. La perturbación de los mercados financieros

La moneda británica cayó descontroladamente frente al dólar – hasta un 6.1% – en los mercados asiáticos en octubre de 2016. Fue el mayor descenso de la divisa desde el voto del Brexit (la salida de Reino Unido de la Unión Europea), cuando se hundió un 11%.

Y el desplome se debió, en parte, a operaciones computarizadas que funcionan con algoritmos, dicen los especialistas de Pew Research Center.

Los analistas creen que el pudo deberse a los programas informáticos diseñados para operar en los mercados de forma automática y que pueden reaccionar mucho más rápido que los humanos.

Y algunos dicen que, en aquel momento, había pocas personas en el mercado y las operaciones estaban siendo realizadas, mayoritariamente, por algoritmos, aunque todavía no se sabe qué pasó con exactitud.

2. El fomento de los discursos de odio en internet

Hace casi un año, Microsoft creó un programa informático para mantener conversaciones con usuarios de Twitter al que llamó Tay.

Sin embargo, el experimento terminó en un fracaso estrepitoso cuando Tay comenzó a emitir comentarios racistas y xenófobos , mostrando su simpatía por Hitler y justificando el Holocausto.

El bot estaba basado en algoritmos que habían “aprendido” a responder a sus interlocutores, a quienes acusaron de “abusar del sistema”. Pero lo cierto es que la apuesta del gigante tecnológico por la inteligencia artificial no salió como esperaba, y puso de manifiesto una vulnerabilidad que no había tenido en cuenta antes.

Microsoft
Los algoritmos hicieron que las interacciones de Tay, el bot de Microsoft para Twitter, fueran racistas y xenófobas.

3. La distribución de noticias falsas

“Facebook trató de crear una herramienta para destacar los temas que son tendencia en la sección de noticias de la gente”, explican los analistas.

“Primero, contó con un equipo humano para editarlo, pero hubo controversia cuando les acusaron de sesgo contra los conservadores, así que decidió dejarlo en manos de los algoritmos”

El problema fue que las máquinas no pudieron diferenciar las noticias falsas de las reales , agregan desde Pew Research Center.

4. El aumento de la desigualdad y la discriminación

Cathy O’Neil -una exprofesora del prestigioso Barnard College de la Universidad de Columbia, en EE.UU. que trabajó como analista de datos en Wall Street- explicó en su libro, “Weapons of Math Destruction” (Armas de destrucción matemática), que hay ciertos algoritmos “opacos, desregulados e irrefutables” que refuerzan la discriminación.

Es el lado oscuro del Big Data.

Esos algoritmos favorecen a los más afortunados y castigan a los oprimidos, creando un “cóctel tóxico para la democracia” al controlar resultados académicos, clasificar currículos vitae, evaluar a trabajadores, determinar votantes, establecer penas de libertad condicional y vigilar la salud de los ciudadanos.

5. La destrucción de empleos

La Casa Blanca lanzó el pasado mes de octubre dos informes detallando el avance de los algoritmos y de la inteligencia artificial, además de los planes para gestionar esa realidad.

Dos meses más tarde, emitió un nuevo informe hablando sobre los efectos potenciales de la inteligencia artificial en el mercado laboral y en la economía estadounidense.

Facebook
Los algoritmos de Facebook crean tu sección de noticias de forma predeterminada.

“Puede ser que en mi vida haya mirado 20,000 o 30,000 currículos” , explicó Sheerov Desai, ejecutivo jefe de Gild, una empresa de reclutamiento. “Pero una máquina que se ha alimentado de cientos de millones va a hacerlo mejor que yo “.

Y ese es sólo un ejemplo. El problema afecta a muchos otros sectores.

6. La vulnerabilidad de internet

“Los algoritmos bienintencionados pueden ser saboteados por terceros”, dicen los analistas de Pew Research Center.

Eso fue lo que ocurrió hace apenas unos meses en Estados Unidos, cuando unos hackers atacaron a un proveedor de acceso al sistema de nombres de dominio (DNS, por sus siglas en inglés) DNS llamado Dyn sobrecargándolo con información y tráfico basura.

El ciberataque provocó la caída de Twitter, Spotify, Netflix, Airbnb, SoundCloud, Amazon y hasta diarios como The New York Times. Tardó dos horas en ser resuelto.

Por otra parte, el abuso del algoritmo de Facebook para la difusión de noticias falsas fue un tema controversial durante la campaña presidencial estadounidense de 2016.

7. La falta de ética y otros peligros potenciales

En enero, el Future of Life Institute publicó una carta abierta con 23 principios para evitar los peligros de la Inteligencia Artificial.

El escrito incluía más de 1,600 firmas, entre ellas la de Steven Hawking, Elon Musk, Ray Kurzweil y cientos de científicos e investigadores de todo el mundo.

Además, la Fundación Knight, el Instituto de Tecnología de Massachusetts (MIT), la Universidad de Harvard y otras instituciones crearon el Fondo para la É tica y G obierno de la I nteligencia A rtificial para “identificar problemas, ayudar a determinar quién los decide y abordar perspectivas sobre cómo sacaremos el mejor provecho a la inteligencia artificial para beneficiar a la sociedad y minimizar su daño potencial “, dijo Alberto Ibargüen, presidente de la Fundación Knight.

“La promesa de la inteligencia artificial está inevitablemente ligada al beneficio público , aseguró. Y todo parece indicar que los inconvenientes serán también inevitables.

En esta nota

Amazon BBC Google Inteligencia artificial netflix Tecnología YouTube

Recibe gratis todas las noticias en tu correo

Este sitio está protegido por reCAPTCHA y Google Política de privacidad y Se aplican las Condiciones de servicio.

¡Muchas gracias! Ya estás suscrito a nuestro newsletter

Más sobre este tema
Contenido Patrocinado
Enlaces patrocinados por Outbrain