14 de julio de 2018

BLACK MIRROR EN CHINA


En el primer episodio de la tercera parte de la serie de ciencia ficción británica Black Mirror, se relata una sociedad en la cual las personas pueden puntuar a sus conciudadanos (con un sistema similar a los “Likes” de Facebook). El guión narra las aventuras de Lacie Pound, una mujer que, con una puntuación de 4.2, desea desesperadamente llegar al 4.5 para tener acceso a la compra de un apartamento de lujo. Para ello, contrata consultores que la asesoran en su comportamiento social, pero tener un hermano que no está interesado en los ránkings la penaliza, al rodearse de gente “peor” que ella. Intentando acceder a la boda de una amiga que goza de un alto ránking (para aumentar su propia puntuación), le suceden una serie de desventuras que le comportan dislikes de la comunidad, hasta el punto de que es arrestada y llevada a prisión por mal comportamiento social.

Algo similar existe en China. Y no es ciencia-ficción. Un emergente “Sistema de Crédito Social” soportado por tecnología digital está convirtiendo en realidad algo similar al episodio de Black Mirror. Mediante métodos de vigilancia masiva y acumulación de grandes bases de datos, el gobierno chino ha lanzado una iniciativa de puntuación social de cada ciudadano en base a su comportamiento, medido en diferentes parámetros compilados y promediados en un ránking social. Según los planes gubernamentales, dicho sistema debería estar plenamente operativo en 2020. Detrás de la implementación de los algoritmos digitales de control y medida, se encuentran grandes corporaciones tecnológicas chinas como Alibaba (el Amazon chino), Tencent o Didi (el Uber chino). Los datos de cada individuo son recogidos de múltiples fuentes (administraciones públicas, empresas privadas, redes sociales, cámaras en las calles…) con el fin de parametrizar y medir el “correcto comportamiento” de los ciudadanos.

El sistema observa indicadores tales como por dónde navegan las personas cuando se conectan a internet, quiénes son sus amigos y qué ránking tienen (de quién se rodean), qué dicen en sus mensajes privados en las redes sociales, cuántas multas de tráfico han acumulado, qué solvencia tienen en sus pagos, qué expediente académico pueden acreditar, cuáles son sus compras, qué hacen en su tiempo libre (pasar demasiado tiempo jugando a videojuegos, por ejemplo, está penalizado), qué periódicos leen, cuántas veces se han casado o por dónde se desplazan. Flujos masivos de datos provenientes de los registros públicos, de sus compras on-line en empresas como Alibaba, las posiciones de sus móviles, o sus conversaciones en WeChat (el WhatsApp chino) son analizados automáticamente por robots para configurar su identidad digital y comparar su perfil de comportamiento con aquél deseado por el gobierno. Con ello, se obtiene su puntuación social y se le ubica en el ránking.

¿Qué ocurre con aquéllos que descienden a posiciones bajas? Son castigados de forma progresiva para inducir un cambio en su comportamiento. Se les puede prohibir, por ejemplo, tomar un avión (hasta mayo de 2018, 11 millones de pasajeros vieron bloqueados sus accesos a sus vuelos, al comprobar sus bajos rankings sociales en la puerta de embarque). Se impide el acceso de sus hijos a determinadas escuelas (las mejores). Se les reduce la velocidad de conexión a internet. Se les deniegan créditos bancarios, trámites burocráticos, o acceso a hoteles. Y, por supuesto, la puntuación en el sistema de crédito social condiciona las posibilidades de acceder a un buen trabajo.

No hace falta profundizar en las implicaciones del sistema en la dinámica de relaciones sociales, y en sus connotaciones éticas. Los mejores puntuados evitarán todo contacto con los peores, mientras que éstos intentarán desesperadamente relacionarse con alguien “mejor”. Una persona con un bajo ranking social será sistemáticamente evitada por los que la rodean. Incluso empresas de contactos matrimoniales comparan los ránkings sociales de sus usuarios para impedir que se formen parejas asimétricas. Pero, ¿qué es el comportamiento “deseable” que fija el óptimo de los patrones de medida? ¿quién diseña el óptimo, y con qué criterios? ¿Visitar webs de otros países, o leer ensayos políticos de un determinado tipo es “antisocial”? ¿El pensamiento crítico no es deseable? Más allá de las brutales connotaciones de un tipo de sociedad tenebrosa y orwelliana dirigida top-down por discutibles ránkings digitales de comportamiento, cabe preguntarse ¿cuál es el destino final de esa sociedad? ¿llevaría ese mecanismo a la creación de una casta de parias excluidos? Y, entonces, ¿qué se debería hacer con ellos?

1 comentario:

  1. Preocupante!!!. ¿Baja inmediata en Facebook (que nunca uso) y tal vez en todas las demás RRSS.?

    ResponderEliminar