Si bien la tecnología tiene logros en plausibles avances científicos, debemos estar alertas para que los datos que “aportamos” no se desvíen en contra de las libertades y de las democracias del mundo. El presidente del Tribunal Supremo de Estados Unidos John Roberts admitió que ni él mismo “lee la letra chica de las computadoras”.
Si buscamos un calefactor, instantáneamente aparecen en el teléfono, en la computadora, recomendaciones de casas de artículos del hogar cercanos que nos lo pueden proporcionar. Organizamos un viaje a Salta y llueven las ofertas de alojamiento, de esparcimiento, paseos y visitas en el lugar de destino, incluso zapatillas, mochilas ideales para utilizar en el viaje. Esto fue el principio de un “juego” que pensamos que era inocente. Los usuarios al utilizar la red generamos datos de actividad, dejamos una huella digital.
La Doctora Shoshana Zuboff autora del bestseller internacional: “La era del Capitalismo de la Vigilancia – La Lucha por un futuro humano frente a las nuevas fronteras del poder”, editorial Paidos, en quien basamos el presente artículo señala: “tenemos ahora una lógica extraña, sorprendente, invasiva, significativa, que ha secuestrado la tecnología digital y la tecnología dominante de nuestro siglo. Ha despegado, inundado todo, con total libertad.” Este capitalismo está representado por las empresas tecnológicas como: Facebook, Amazon, Google, Windows, Apple y otras que han trabajado sin límites, sin fronteras, porque nadie entendía lo que hacían y nos encuentra “desnudos” para protegernos de su influencia. Estamos en el siglo digital, con tecnología digital, cuya dueña para Zuboff es la “economía de la vigilancia” con un nuevo sistema de capitalización.
Una frase muy popular de marketing es «Cuando el producto es gratis, el producto eres tú», peor aún, NO SOMOS EL PRODUCTO. SOMOS LA MATERIA PRIMA. Somos los objetos de los que se extrae una materia prima que las tecnológicas expropian para su uso en sus fábricas de predicciones. El producto son las predicciones sobre nuestros comportamientos. «Ustedes son el cadáver abandonado. El producto es lo que se fabrica con el excedente que han arrancado de sus vidas». Los servicios online gratuitos, las app que no cuestan nada, solo son un cebo, no un regalo que hacen media docena de empresas magnánimas creadas por jóvenes emprendedores, casi todos estadounidenses, divertidos y simpáticos, en nada parecidos a los grandes magnates encorbatados del pasado que posaban fumando un habano.
Para expertos hay un engaño por partida doble, ya que entregamos nuestros datos a cambio de servicios triviales y en segundo lugar, esos datos son mercantilizados para personalizar y estructurar nuestro mundo de una manera que no es transparente ni deseable. Se pierde soberanía personal. El filósofo alemán de origen coreano Byung-Chul Han lo resume en esta certera frase: “Pienso que estoy leyendo un ebook, pero en realidad es el ebook el que me lee a mí”. Los videojuegos fueron el comienzo de la adicción a las nuevas tecnologías.
Como ciudadanos democráticos, a pesar del RGPD (Reglamento general de protección de datos de 2016 en la Unión Europea) y la Ley de Privacidad del Consumidor de 2018 (aprobada por el estado de California), de todas las conversaciones, las leyes presentes y futuras marchamos en este siglo sin “cartas de derechos”, sin marcos legales apropiados, sin paradigmas regulatorios y sin las nuevas instituciones necesarias para defendernos en este siglo digital para poder asegurar que las tecnologías desarrolladas y lanzadas no solo sean compatibles con la democracia, sino también que promuevan los valores y principios democráticas y la participación para el futuro del siglo XXI.
Para Zuboff han tenido 20 años de ilegalidad y le temen a la democracia, a los ciudadanos democráticos, a las leyes y a los legisladores y le temen a que trabajen juntos. Es difícil frenarlos porque primero no entendemos bien lo que hacen, segundo no hemos intentado prohibir lo que hacen, no nos hemos movilizado. Y no es una condición inevitable del avance de la tecnología, es la lógica de la economía, un modelo de negocios centrado en la predicción, que ha construido un caballo de Troya.
El capitalismo de la vigilancia reclama unilateralmente para sí la experiencia humana, entendiéndola como materia prima “gratuita” que puede traducir en datos de comportamiento. Ahora las máquinas no solo conocen nuestra conducta, sino que también moldean nuestros comportamientos en igual medida. Ellos saben demasiado y nuestra ignorancia juega a su favor. Alguien puede decir que nos conocen más que nosotros mismos. Saben con quien hablamos a qué hora nos despertamos y nos acostamos, donde vamos, que nos gusta y qué no.
En Palo Alto (California) en la Universidad de Stanford hay un laboratorio de tecnología persuasiva cuya meta explícita es entender cómo se puede utilizar la tecnología para modificar lo que las personas piensan o lo que las personas hacen. Preocupan los sesgos cognitivos y los sistemas de recompensa. Y “quien entienda esto tiene el poder de manejarnos”, señala el economista Santiago Bilinkis en su charla que se puede ver en Youtube: “Cómo nos manipulan, Aprender de Grandes” con Gerry Garbulsky.
Según la Dra Zuboff “hemos estado desnudos y ahora es hora de vestirnos”. Son evidentes y loables los avances de la tecnología en todo orden y todas las temáticas. Sin embargo hay secuelas negativas como la que comenta un usuario de Facebook “compré un juego de anillos de compromiso de diamantes en una tienda en línea para prepararle una sorpresa a mi novia… en apenas unas horas, recibí la llamada de uno de mis mejores amigos que sorprendido, me daba la enhorabuena por mi compromiso”, o la señora que ha vivido aterrorizada por el acoso de su ex marido que no quería que averigue en la red cuál era su domicilio actual, o la mujer de mediana edad avergonzada de una detección de la que había sido objeto durante su época de estudiante y el abogado Mario Costeja Gónzalez que había perdido su vivienda a raíz de una ejecución hipotecaria y a pesar que el asunto había quedado zanjado, cuando se hacía la búsqueda seguían apareciendo enlaces que llevaban a la nota de aquella ejecución y que perjudicaba su reputación.
Estas empresas (tecnológicas) quieren ganar dinero, es comprensible. Estas tecnologías, pueden modificar nuestra conducta en forma subrepticia. No se ve, y como “está debajo del agua” cuesta tiempo entenderlo. Sucede que, con generar estímulos que premian conductas y castigan otras pueden redirigir nuestro comportamiento. El reto no es destruir la tecnología, es crear leyes para protección de la población, y que la tecnología no esté a disposición de ese capitalismo de la vigilancia, que busca apropiarse de lo único que no ha sido comercializado hasta ahora en los mercados tradicionales, nuestra experiencia humana privada y la manera en que esta puede ser utilizada como materia prima. Toda la información que recolectan fluye hacia las nuevas fábricas del siglo XXI, fábricas informáticas de IA (Inteligencia Artificial), con predicción de nuestro comportamiento.
En Agosto 2011 Apple sobrepasó a Exxon Mobil como la compañía de más alta capitalización en el mercado de valores de EEUU. Hoy Exxon no está entre las S&P 500 mientras Apple continúa “arriba”. Las 5 compañías más importantes en capitalización del mercado para Zuboff son capitalistas de la vigilancia. Tenemos un grupo de empresas tecnológicas que suben y hay pobreza lo que genera violencia, todo causado por un crecimiento desigual.
En “Las uvas de la ira”, de John Steinbeck (premio Nobel de literatura en 1962), un empleado de un banco le dice al granjero al que van a desahuciar: «El banco es algo más que hombres. Fíjate que todos los hombres del banco detestan lo que el banco hace, pero aun así el banco lo hace. El banco es algo más que hombres, créeme. Es EL MONSTRUO. Los hombres lo crearon, pero no lo pueden controlar. El tiempo que pasó ha cambiado los cortinados pero la obra de teatro es la misma.
El capitalismo de la vigilancia es el titiritero que mueve los hilos del aparato digital, ese títere Zuboff lo llama «el Otro Mayor». Y el instrumentarismo sería una especie de poder que se definiría como «la instrumentación e instrumentalización de la conducta a efectos de su modificación, predicción, monetización y control».
El Otro Mayor solo quiere una cosa: quiere llevarse nuestra experiencia, convertirla en datos y enviarlos por las tuberías a las fábricas, las ventas, los mercados. Esta arquitectura que no tiene “humanidad, ni ética” quiere a nuestros hijos, quiere sus datos.
Desde las empresas se dice que brindan lo que el consumidor quiere. Más gente mira contenido violento, lleno de ira, agresivo, que la que mira contenido agradable, bueno, más que calmado, pacífico, así los algoritmos constantemente evolucionan para favorecer el peor contenido, más destructivo, más peligroso, más chocante, siempre que de más ganancia para las empresas, así funciona el Otro Mayor. En el libro 1984, George Orwell Novelista, el Hermano Mayor quería dominar desde adentro. No le importa lo que sintamos o lo que pensemos. La conducta colectiva está definida por lo que hacen sus miembros, ASÍ FUNCIONA LA COLMENA.
En el futuro el capitalismo de la vigilancia y su poder instrumentario se le permite dominar y prosperar, la sociedad se convertirá en colmena. Hay gente dentro y gente afuera que afina los algoritmos, para que la conducta en la colmena fluya como lo prefieren para lograr sus objetivos económicos.
Zuboff menciona la fórmula de Andy Grove que dice: “La alta tecnología funciona el triple de rápido que las empresas normales, y la Administración Pública funciona el triple de lento que las empresas normales, así que nuestro ritmo es nueve veces mayor que el del Estado.”
Y ¿a quién venden los datos que recolectan?. Venden certeza en mercados de Marketing. Estamos a la venta en un mercado humano de futuros. Así como hay futuros de trigo o de acero, ahora hay futuros humanos que están generando muchas ganancias para esas compañías. Hay una lucha desigual, miles, millones de personas con preparación técnica de excelencia, formados en las mejores universidades trabajan en las empresas tecnológicas, controladas por gobiernos que no tienen la infraestructura adecuada.
La concentración y el poder, en manos de pocas compañías es antidemocrática.
Pensemos que los celulares “hacen todo”, son móviles, hay personas que están pendientes de ellos todo el tiempo, ofrecen un software que no es como era antes una radio o un televisor (que estaba en el living) y eso ya, le fijaba un límite. Los adolescentes quieren ser reconocidos y tienen el temor a perderse algo, eso los hace muy vulnerables, y manipulables. No hay que olvidarse que Facebook fue inventado por jóvenes universitarios con esa mentalidad.
Primero necesitan muchos datos (Economía de escala), segundo necesitan variedad de datos (Economías de alcance). Y luego está la Economía en Acción, con premios y castigos en tiempo real, señales subliminales. Las dinámicas competitivas de estas economías que tienen éxito, que socavan la autonomía humana, nos quita libertad, lo que se llama derecho al tiempo futuro. Sin autonomía, sin el derecho de decidir, sobre los límites de nuestra experiencia: quién sabe de nosotros, que se sabe de nosotros y como se usa esa información. Esos son derechos de los ciudadanos en democracia. Facebook llegará a conocer todos los libros, todas las películas, todas las canciones que usted, lector de estas líneas, haya consumido en su vida, larga o corta. La información de la que dispone la empresa informática en el futuro servirá para deducir a qué bar irá usted cuando llegue a una ciudad extraña, un bar en el que el camarero ya tendrá preparada su bebida favorita. Ello lo pronostica el creador y director ejecutivo de Facebook, Mark Zuckerberg, una de las personas más ricas del mundo, que la fundó en 2004.
No es para alarmarnos en extremo, es para tener conocimiento que nuestras decisiones no son tan independientes como creemos. Necesitamos leyes, nuevas instituciones democráticas, nuevas cartas de derechos, necesitamos que se protejan nuestras experiencias. Necesitamos estar alertas, no aceptar cualquier contrato que nos pongan enfrente, prohibir incentivos financieros que impulsen esta lógica económica que favorece la concentración.
José Luis Stella
Licenciado en Economía.
