21. Algoritmos, vigilancia y control social ¿Cómo se escribe el futuro?
¿Qué son los algoritmos? ¿Su presencia cada vez más dominante en todos los campos humanos determina bienestar o amenaza? ¿Estamos entregando nuestros datos simplemente para ceder a otros el control de nuestro modus vivendi? ¿En realidad leen y predicen nuestro comportamiento? Te lo cuento en este episodio.
FRAGMENTO DE TRANSCRIPCIÓN
Algoritmos, datos y control, son un coctel diario del que somos consumidores y al mismo tiempo, productores. ¿Pero cómo es posible?, en qué momento concedimos este poder para manejar nuestra información a terceros? es posible que en realidad puedan predecir nuestro comportamiento o incluso, controlarlo?
El lado negativo es más complejo de lo que aparenta. Muchos son los algoritmos que hacen de nuestro a día a día algo más simple, no obstante, otros pueden convertir nuestras vidas en verdaderas pesadillas. Quizás las ciencia ficción se ha aproximado a estas cuestiones con aciertos bastante aceptables y es interesante revisar por ejemplo lo que pudimos observar en la última temporada de la serie Westworld, cuando uno de sus protagonistas está aplicando a un empleo y la entrevista teléfonica es condicida por una inteligencia artificial que tras valorar sus antecedentes decide negarle el puesto. Hoy en día los algoritmos ya estan tomando ventaja sobre evaluadores o reclutadores humanos. Los procesos de selección de personal conducidos por algoritmos pueden fácilmente descartarte solo por la información que posee de ti, tu actividad en redes sociales, datos bancarios y demás, sin siquiera conocerte en persona. De igual manera el sistema judicial está utilizando algoritmos para decidir sobre apelaciones, sentencias y la aptitud de un candidato para la libertad condicional. Con mediciones y sistemas de puntos, los datos son procesados para luego mediante el algoritmo emitir un concepto. Apto, no apto. Podemos confiar este tipo de decisiones a una inteligencia artificial? Es muy famoso el caso de Glen Rodríguez quien estuvo en prisión durante 26 años y tras solicitar la libertad condicional para poder salir y rehacer su vida, con un record casi intachable de conducta, tuvo que apelar repetidamente ya que el algoritmo del programa compas del sistema judicial de los Estados Unidos determinó que era un riesgo para la sociedad. ¿Son objetivos los algoritmos? ¿pueden reemplazar la mirada humana alli donde es realmente necesaria?. Por supuesto son más eficientes que nosotros a la hora de controlas 200 aviones en vuelo simultaneo, pero , ¿lo son para establecer un criterio que se traslade al aspecto moral o ético?
Como lo mencione al inicio el valor de un algoritmo en el mundo está dado por su exactitud y eficiencia. pero cuando esto nos pone en situaciones de desventaja, el juego se torna macabro por lo cual, que los algoritmos hagan bien su trabajo es algo que de una u otra forma, debe preocuparnos.
Son las 7 de la noche y la lluvia no da tregua. Martha regresa a casa empapada, pues su paraguas se dañó al abrirlo en la tarde al salir de la oficina. Tras cambiarse, revisa su smart watch para confirmar cuantos pasos caminó y cuántas calorías quemó durante el proceso. Ahora tiene más tiempo para revisar su teléfono por lo cual regresa a las redes sociales, acepta algunas solicitudes de amistad y lee un par de publicaciones sobre el avance de la pandemia. En cada uno de los blogs que visitó encontró publicidad de la lámpara que tanto quiere, además de anuncios sobre ofertas de… paraguas. Ahora martha preparará su cena y luego de ver el capítulo de su serie favorita irá a la cama a descansar, nuevamente revisará las redes sociales antes de dormir y con ello, entregará el último bloque de datos al sistema. En la mañana, el ciclo se reiniciará en un loop digno de cualquier episodio de Black Mirror.
Vivimos en una época increíble que no ofrece techo a nuestra imaginación. Sigo pensando en cómo la relación entre algoritmos y datos determinan los sistemas de control que regulan nuestras conductas del día a día. Inicialmente los algoritmos solo operaban con los datos o la información que le suministrábamos, luego la sofisticación y el desarrollo de nuevas inteligencias artificiales nos trajo la segunda fase, lo algoritmos empezaron a aprender de manera autónoma de otros algoritmos. Por si fuera poco, hoy, los algoritmos tiene la capacidad de crear sus propias instrucciones y autorregularse.
En este marco, confío en que encontraremos de igual forma los caminos para establecer normativas y parámetros de control que nos ayuden a sobrevivir esta infancia tecnológica. Así mismo es prioritario educar y promover el pensamiento crítico desde la escuela, ayudando a nuestros niños y jóvenes a ampliar su visión de mundo. Hoy, más que nunca, es fundamental comprender el alcance de nuestras decisiones no solo como individuos, sino como especie, entendiendo que los ejercicios de control social y la forma en que nos hemos organizado son solo posible, si nosotros como como individuos y colectivos, lo consentimos.
¿Está algún algoritmo en este momento interpretando el contenido de este podcast y posiblemente censurándolo?
Quizás. Si es así, quiere decir que alguna cosa estamos haciendo bien.
Facebook Fin del Mundo Podcast
Instagram @findelmundopodcast
Twitter @findelmundopod
NOTAS Y ENLACES
DISCLAIMER
Declaro que no poseo los derechos totales ni parciales de las citas y piezas de audio externas, su uso en el presente episodio es solo con fines educativos- explicativos sobre el tema en cuestión. Los derechos pertenecen a sus creadores y/o productores por lo cual anexo links de referencias a fuentes primarias.