Por Shoshana Zuboff/ The New York Times
La Dra. Zuboff, profesora emérita de la Harvard Business School, es la autora de “La era del capitalismo de vigilancia”.
Hace dos décadas, el gobierno estadounidense dejó abierta la puerta principal de la democracia a las incipientes empresas de Internet de California, con una acogedora chimenea encendida como bienvenida. En los años que siguieron, floreció una sociedad de la vigilancia en esas habitaciones, una visión social nacida de las necesidades distintas pero recíprocas de las agencias de inteligencia públicas y las empresas privadas de Internet, ambas hechizadas por un sueño de conciencia total de la información. Veinte años después, el fuego saltó a la pantalla y el 6 de enero amenazó con incendiar la casa de la democracia.
He pasado exactamente 42 años estudiando el auge de lo digital como fuerza económica que impulsa nuestra transformación en una civilización de la información. Durante las últimas dos décadas, he observado las consecuencias de esta sorprendente fraternidad político-económica a medida que esas empresas jóvenes se transformaron en imperios de vigilancia impulsados por arquitecturas globales de monitoreo, análisis, focalización y predicción del comportamiento que he llamado capitalismo de vigilancia.
Sobre la base de sus capacidades de vigilancia y por el bien de sus ganancias, los nuevos imperios diseñaron un golpe epistémico fundamentalmente antidemocrático marcado por concentraciones sin precedentes de conocimiento sobre nosotros y el poder insondable que unos pocos acumulan con tal conocimiento.
En una civilización de la información, las sociedades se definen por cuestiones de conocimiento: cómo se distribuye, la autoridad que gobierna su distribución y el poder que protege a esa autoridad. ¿Quién sabe? ¿Quién decide quién sabe? ¿Quién decide quién decide quién sabe?
Los capitalistas de la vigilancia ahora tienen las respuestas a cada pregunta, aunque nunca los elegimos para gobernar. Esta es la esencia del golpe epistémico. Reclaman la autoridad para decidir qué sabe quién, se atribuyen los derechos de propiedad sobre nuestra información personal y tienen el poder de controlar los sistemas e infraestructuras críticos de información.
Las horribles profundidades del intento de golpe político de Donald Trump se suman a la ola de este golpe en la sombra, perseguido durante las últimas dos décadas por los medios de comunicación antisociales que una vez recibimos como agentes de liberación. El día de la inauguración, el presidente Biden dijo que “la democracia ha prevalecido” y prometió restaurar el valor de la verdad en el lugar que le corresponde en la sociedad democrática. Sin embargo, la democracia y la verdad permanecen bajo el más alto nivel de amenaza hasta que derrotemos este otro golpe ejecutado por el capitalismo de vigilancia.
El golpe epistémico se desarrolla en cuatro etapas.
El primero es la apropiación de los derechos epistémicos, que sienta las bases de todo lo que sigue. El capitalismo de la vigilancia se origina en el descubrimiento de que las empresas pueden reclamar la vida de las personas como materia prima gratuita para la extracción de datos de comportamiento, que luego declaran su propiedad privada.
La segunda etapa está marcada por un fuerte aumento de la desigualdad epistémica , definida como la diferencia entre lo que puedo saber y lo que se puede saber sobre mí.
La tercera etapa, que estamos viviendo ahora, introduce el caos epistémico causado por la amplificación algorítmica con fines de lucro, la diseminación y la microtargeting (microfocalización) de información corrupta, gran parte de ella producida por esquemas coordinados de desinformación. Sus efectos se sienten en el mundo real, donde fragmentan la realidad compartida, envenenan el discurso social, paralizan la política democrática y en ocasiones instigan la violencia y la muerte.
En la cuarta etapa, se institucionaliza el dominio epistémico, superando la gobernanza democrática con la gobernanza computacional por el capital de vigilancia privado. Las máquinas saben y los sistemas deciden, dirigidos y sostenidos por la autoridad ilegítima y el poder antidemocrático del capital de vigilancia privado. Cada etapa se basa en la anterior. El caos epistémico prepara el terreno para el dominio epistémico al debilitar a la sociedad democrática, todo muy claro en la insurrección en el Capitolio de Estados Unidos.
Vivimos en el siglo digital durante los años de formación de la civilización de la información. Nuestro tiempo es comparable a la era temprana de la industrialización, cuando los propietarios tenían todo el poder, sus derechos de propiedad privilegiados por encima de cualquier otra consideración. La intolerable verdad de nuestra condición actual es que Estados Unidos y la mayoría de las otras democracias liberales , hasta ahora, han cedido la propiedad y el funcionamiento de todo lo digital a la economía política del capital de vigilancia privado, que ahora compite con la democracia sobre los derechos y principios fundamentales que definirá nuestro orden social en este siglo.
El año pasado de miseria pandémica y autocracia trumpista magnificó los efectos del golpe epistémico, revelando el potencial asesino de los medios de comunicación antisociales mucho antes del 6 de enero. ¿El creciente reconocimiento de este otro golpe y sus amenazas a las sociedades democráticas finalmente nos obligará a considerar la verdad incómoda que se ha vislumbrado en las últimas dos décadas? Podemos tener democracia, o podemos tener una sociedad de vigilancia, pero no podemos tener ambas. Una sociedad de vigilancia democrática es una imposibilidad existencial y política. No se equivoque: esta es la lucha por el alma de nuestra civilización de la información.
Bienvenidos a la tercera década.
La excepción de la vigilancia
La tragedia pública del 11 de septiembre cambió drásticamente el enfoque en Washington de los debates sobre la legislación federal de privacidad a una manía por la conciencia total de la información, convirtiendo las prácticas innovadoras de vigilancia de Silicon Valley en objetos de gran interés.
Como observó Jack Balkin, profesor de la Facultad de Derecho de Yale , la comunidad de inteligencia tendría que “depender de la empresa privada para recopilar y generar información para ella”, con el fin de ir más allá de las limitaciones constitucionales, legales o regulatorias, controversias que son centrales hoy. Para 2013, el director de tecnología de la CIA describió que la misión de la agencia era “recopilar todo y conservarlo para siempre”, reconociendo a las empresas de Internet, incluidas Google, Facebook, YouTube, Twitter y Fitbit y empresas de telecomunicaciones, por hacerlo posible. Las raíces revolucionarias del capitalismo de la vigilancia están plantadas en esta doctrina política no escrita del excepcionalismo de la vigilancia, que pasa por alto la supervisión democrática y esencialmente otorga a las nuevas compañías de Internet una licencia para robar la experiencia humana y convertirla en datos de propiedad.
Los jóvenes empresarios sin ningún mandato democrático obtuvieron una ganancia inesperada de información infinita y un poder inexplicable. Los fundadores de Google, Larry Page y Sergey Brin, ejercieron un control absoluto sobre la producción, organización y presentación de la información mundial.
Mark Zuckerberg de Facebook ha tenido un control absoluto sobre lo que se convertiría en un medio principal de comunicación global y consumo de noticias, junto con toda la información oculta en sus redes. La membresía del grupo creció y una creciente población de usuarios globales procedió sin darse cuenta de lo que acababa de suceder.
La licencia para robar tuvo un precio, vinculando a los ejecutivos al patrocinio continuo de los funcionarios electos y reguladores, así como a la ignorancia sostenida, o al menos a la resignación aprendida, de los usuarios. La doctrina era, después de todo, una doctrina política, y su defensa requeriría un futuro de maniobras políticas, apaciguamiento, compromiso e inversión.
Google abrió el camino con lo que se convertiría en una de las máquinas de cabildeo más ricas del mundo. En 2018, casi la mitad del Senado recibió contribuciones de Facebook, Google y Amazon, y las empresas continúan estableciendo récords de gastos .
Más importante aún, el excepcionalismo de la vigilancia ha significado que Estados Unidos y muchas otras democracias liberales eligieron la vigilancia sobre la democracia como el principio rector del orden social. Con esta pérdida, los gobiernos democráticos paralizaron su capacidad para mantener la confianza de su pueblo, intensificando la justificación de la vigilancia.
La economía y la política del caos epistémico
Para comprender la economía del caos epistémico, es importante saber que las operaciones del capitalismo de vigilancia no tienen un interés formal en los hechos. Todos los datos son bienvenidos como equivalentes, aunque no todos son iguales. Las operaciones de extracción proceden con la disciplina del cíclope, consumiendo vorazmente todo lo que puede ver y radicalmente indiferente al significado, los hechos y la verdad.
En un memorando filtrado , un ejecutivo de Facebook, Andrew Bosworth, describe este desprecio deliberado por la verdad y el significado: “Conectamos a la gente. Eso puede ser bueno si lo hacen positivo. Quizás alguien encuentre el amor. … Eso puede ser malo si lo hacen negativo. … Quizás alguien muera en un ataque terrorista. … La fea verdad es … cualquier cosa que nos permita conectar a más personas con más frecuencia es * de facto * bueno “.
En otras palabras, pedirle a un extractor de vigilancia que rechace el contenido es como pedirle a una operación de extracción de carbón que deseche contenedores de carbón porque está demasiado sucio. Es por eso que la moderación del contenido es un último recurso, una operación de relaciones públicas en el espíritu de los mensajes de responsabilidad social de ExxonMobil. En el caso de Facebook, la clasificación de datos se lleva a cabo para minimizar el riesgo de que se retire el usuario o para evitar sanciones políticas. Ambos tienen como objetivo aumentar en lugar de disminuir los flujos de datos. El imperativo de la extracción a como dé lugar combinado con la indiferencia, escalan incesantemente, y no les importa las consecuencias.
Me estoy concentrando ahora en Facebook no porque sea el único perpetrador del caos epistémico, sino porque es la empresa de redes sociales más grande y sus consecuencias llegan más lejos.
La economía del capitalismo de vigilancia engendró al cíclope extractivo, convirtiendo a Facebook en un monstruo publicitario y en un campo de muerte para la verdad.
Luego, un señor Trump amoral se convirtió en presidente, exigiendo el derecho a mentir a gran escala. La economía destructiva se fusionó con el paroxismo político y todo se volvió infinitamente peor. Los imperativos económicos del capitalismo de vigilancia convirtieron a Facebook en un polvorín social. El Sr. Zuckerberg simplemente tuvo que retirarse y comprometerse con el papel de espectador.
La investigación interna presentada en 2016 y 2017 demostró vínculos causales entre los mecanismos algorítmicos de orientación de Facebook y el caos epistémico. Un investigador concluyó que los algoritmos eran responsables de la propagación viral de contenido divisivo que ayudó a impulsar el crecimiento de los grupos extremistas alemanes. Las herramientas de recomendación representaron el 64 por ciento de las “uniones de grupos extremistas”, una dinámica que no es exclusiva de Alemania .
El escándalo de Cambridge Analytica en marzo de 2018 atrajo la atención del mundo hacia Facebook de una manera nueva, ofreciendo una ventana para cambios audaces.
El público comenzó a comprender que el negocio de publicidad política de Facebook es una forma de alquilar el conjunto de capacidades de la compañía para micro-segmentar a los usuarios, manipularlos y sembrar el caos epistémico, girando toda la máquina solo unos pocos grados desde los objetivos comerciales a los políticos.
La compañía lanzó algunas iniciativas modestas, prometiendo más transparencia, un sistema más robusto de verificadores de hechos de terceros y una política para limitar el “comportamiento coordinado no auténtico”, pero a pesar de todo, Zuckerberg cedió a las demandas de Trump de que no haya restricciones y dio acceso al torrente sanguíneo de información global.
El Sr. Zuckerberg rechazó las propuestas internas de cambios operativos que reducirían el caos epistémico. Una lista blanca política identificó a más de 100.000 funcionarios y candidatos cuyas cuentas estaban exentas de verificación de datos, a pesar de que las investigaciones internas muestran que los usuarios tienden a creer en información falsa compartida por políticos. En septiembre de 2019, la compañía dijo que la publicidad política no estaría sujeta a verificación de hechos.
Para aplacar a sus críticos en 2018, Zuckerberg encargó una auditoría de derechos civiles dirigida por Laura Murphy, exdirectora de la oficina legislativa de Washington de la ACLU. El informe publicado en 2020 es un cri du coeur expresado en un río de palabras que dan testimonio de esperanzas frustradas: “descorazonado”, “frustrado”, “enojado”, “consternado”, “temeroso”, “desgarrador”.
El informe es consistente con una ruptura casi completa de la fe del público estadounidense en la Big Tech.
Cuando se le preguntó cómo se adaptaría Facebook a un cambio político hacia una posible administración de Biden, un portavoz de la compañía, Nick Clegg, respondió: “Nos adaptaremos al entorno en el que estamos operando”. Y así fue. El 7 de enero, un día después de que quedó claro que los demócratas controlarían el Senado, Facebook anunció que bloquearía indefinidamente la cuenta de Trump.
Debemos creer que los efectos destructivos del caos epistémico son el costo inevitable de los preciados derechos a la libertad de expresión. No. Así como los niveles catastróficos de dióxido de carbono en la atmósfera terrestre son la consecuencia de la quema de combustibles fósiles, el caos epistémico es una consecuencia de las operaciones comerciales fundamentales del capitalismo de vigilancia, agravado por las obligaciones políticas y puesto en marcha por un sueño de 20 años de información total que se convirtió en una pesadilla. Luego llegó la plaga a Estados Unidos, convirtiendo la conflagración antisocial de los medios de comunicación en un incendio forestal.
El caos epistémico se encuentra con un microorganismo misterioso
Ya en febrero de 2020, la Organización Mundial de la Salud informó sobre una “infodemia” de la Covid-19, con mitos y rumores que se difundieron en las redes sociales. En marzo, investigadores del MD Anderson Cancer Center de la Universidad de Texas concluyeron que la información médica errónea relacionada con el coronavirus se estaba “propagando a un ritmo alarmante en las redes sociales”, poniendo en peligro la seguridad pública.
The Washington Post informó a finales de marzo que con casi el 50 por ciento del contenido de las noticias de Facebook relacionado con Covid-19, un número muy pequeño de “usuarios influyentes” impulsaba los hábitos de lectura y las fuentes de una gran cantidad de usuarios.
Un estudio publicado en abril por el Instituto Reuters confirmó que políticos de alto nivel, celebridades y otras figuras públicas prominentes produjeron el 20 por ciento de la información errónea en su muestra, pero atrajeron el 69 por ciento de las interacciones en las redes sociales en su muestra.
Un estudio publicado en mayo por el Instituto de Diálogo Estratégico de Gran Bretaña identificó un grupo central de 34 sitios web de extrema derecha que difunden desinformación de Covid o están vinculados a centros de desinformación de salud establecidos que ahora se centran en Covid-19. De enero a abril de 2020, las publicaciones públicas de Facebook con enlaces a estos sitios web obtuvieron 80 millones de interacciones, mientras que las publicaciones con enlaces al sitio web de la OMS recibieron 6,2 millones de interacciones y los Centros para el Control y la Prevención de Enfermedades recibieron 6,4 millones.
Un estudio de Avaaz publicado en agosto expuso 82 sitios web que difunden información errónea de Covid y alcanzaron un pico de casi 500 millones de visitas en Facebook en abril. El contenido de los 10 sitios web más populares atrajo alrededor de 300 millones de visitas en Facebook, en comparación con 70 millones de 10 instituciones de salud líderes. Los modestos esfuerzos de moderación de contenido de Facebook no fueron rival para sus propios sistemas de máquinas diseñados para el caos epistémico.
En octubre, un informe del Centro Nacional de Preparación para Desastres de la Universidad de Columbia estimó el número de muertes evitables por Covid-19. Más de 217.000 estadounidenses habían muerto. Trágicamente, el análisis concluyó que al menos 130.000 de esas muertes podrían haberse evitado. De las cuatro razones clave citadas, los detalles de cada una, incluida la “falta de mandato de máscara” y “engañar al público”, reflejan la orgía del caos epistémico desatado sobre las hijas e hijos de Estados Unidos.
Este es el mundo en el que floreció un microorganismo misterioso y mortal. Recurrimos a Facebook en busca de información. En cambio, encontramos estrategias letales de caos epistémico con fines de lucro.
Terrorismo epistémico
En 1966, Peter Berger y Thomas Luckmann escribieron un libro breve de importancia fundamental, “La construcción social de la realidad”. Su observación central es que la “vida cotidiana” que experimentamos como “realidad” la construimos activa y perpetuamente. Este milagro continuo del orden social se basa en el “conocimiento del sentido común”, que es “el conocimiento que compartimos con los demás en las rutinas normales y evidentes de la vida cotidiana”.
Piense en el tráfico: no hay suficientes agentes de policía en el mundo para garantizar que todos los automóviles se detengan en cada semáforo en rojo, pero no todas las intersecciones desencadenan una negociación o una pelea. Eso es porque en sociedades ordenadas todos sabemos que las luces rojas tienen la autoridad para hacernos detener y las luces verdes están autorizadas para dejarnos ir. Este sentido común significa que todos actuamos de acuerdo con lo que todos sabemos, mientras confiamos en que los demás también lo harán. No solo estamos obedeciendo las leyes; estamos creando orden juntos. Nuestra recompensa es vivir en un mundo en el que la mayoría de las veces llegamos a donde vamos y volvemos a casa de manera segura porque podemos confiar en el sentido común de los demás. Ninguna sociedad es viable sin ella.
“Todas las sociedades son construcciones frente al caos”, escriben Berger y Luckmann. Dado que las normas son resúmenes de nuestro sentido común, la violación de normas es la esencia del terrorismo, aterradora porque repudia las certezas sociales más profundas.
“La violación de las normas crea una audiencia atenta más allá del objetivo del terror”, escriben Alex P. Schmid y Albert J. Jongman en “Political Terrorism”, un texto ampliamente citado sobre el tema. Todos experimentan la conmoción, la desorientación y el miedo. La legitimidad y la continuidad de nuestras instituciones son esenciales porque nos protegen del caos al formalizar nuestro sentido común.
Las muertes de reyes y las transferencias pacíficas del poder en las democracias son momentos críticos que aumentan la vulnerabilidad de la sociedad. Las normas y leyes que guían estas coyunturas se tratan correctamente con la máxima gravedad. Trump y sus aliados procesaron una campaña de desinformación de fraude electoral que finalmente se tradujo en violencia. Apuntó directamente al punto de máxima vulnerabilidad institucional de la democracia estadounidense y sus normas más fundamentales. Como tal, califica como una forma de terrorismo epistémico, una expresión extrema del caos epistémico. La determinación de Zuckerberg de prestar su máquina económica a la causa lo convierte en cómplice de este asalto.
Como el béisbol, la realidad cotidiana es una aventura que comienza y termina en la base de operaciones, donde estamos a salvo. Ninguna sociedad puede vigilar todo el tiempo, y menos una sociedad democrática. Una sociedad sana se basa en un consenso sobre qué es una desviación y qué es normal. Nos aventuramos fuera de la norma, pero conocemos la diferencia entre el campo y el hogar, la realidad de la vida cotidiana. Sin eso, como hemos experimentado ahora, las cosas se desmoronan. ¿Demócratas bebiendo sangre? ¿Seguro Por qué no? ¿Hidroxicloroquina para Covid-19? ¡Justo por aquí! ¿Irrumpir en el Capitolio y convertir al señor Trump en dictador? ¡Sí, lo tenemos!
La sociedad se renueva a medida que evoluciona el sentido común. Esto requiere instituciones de discurso social confiables, transparentes y respetuosas, especialmente cuando no estamos de acuerdo. En cambio, nos enfrentamos a lo contrario, casi 20 años en un mundo dominado por una institución político-económica que opera como una máquina del caos a sueldo, en la que la violación de normas es clave para los ingresos.
Los hombres que ya no son jóvenes de las redes sociales defienden sus máquinas del caos con una interpretación retorcida de los derechos de la Primera Enmienda.
Las redes sociales no son una plaza pública, sino privada, gobernada por las operaciones de las máquinas y sus imperativos económicos, incapaces y desinteresados de distinguir la verdad de las mentiras o la renovación de la destrucción.
Para muchos que consideran la libertad de expresión como un derecho sagrado, la opinión disidente del juez Oliver Wendell Holmes en 1919 en Abrams v. Estados Unidos es una piedra de toque. “El bien final deseado se alcanza mejor mediante el libre comercio de ideas”, escribió. “La mejor prueba de la verdad es el poder del pensamiento para ser aceptado en la competencia del mercado”. La información corrupta que domina la plaza privada no sube a lo más alto de una competencia libre y justa de ideas. Gana en un juego amañado. Ninguna democracia puede sobrevivir a este juego.
Nuestra susceptibilidad a la destrucción del sentido común refleja una joven civilización de la información que aún no ha encontrado su base en la democracia. A menos que interrumpamos la vigilancia económica y revoquemos la licencia para robar que legitima sus operaciones antisociales, el otro golpe seguirá fortaleciéndose y produciendo nuevas crisis. ¿Qué se debe hacer ahora?
Tres principios para el tercer decenio
Comencemos con un experimento mental: Imagine un siglo XX sin leyes federales que regulen el trabajo infantil o establezcan estándares para los salarios, las horas y la seguridad de los trabajadores; ningún derecho de los trabajadores a afiliarse a un sindicato, hacer huelga o negociar colectivamente; sin derechos del consumidor; y ninguna institución gubernamental para supervisar las leyes y políticas destinadas a hacer que el siglo industrial sea seguro para la democracia. En su lugar, se dejó que cada empresa decidiera por sí misma qué derechos reconocería, qué políticas y prácticas emplearía y cómo se distribuirían sus beneficios. Afortunadamente, esos derechos, leyes e instituciones sí existieron, inventados por personas durante décadas en todas las democracias del mundo. Por importantes que sigan siendo esos extraordinarios inventos, no nos protegen del golpe epistémico y sus efectos antidemocráticos.
El déficit refleja un patrón más amplio: Estados Unidos y las demás democracias liberales del mundo hasta ahora no han logrado construir una visión política coherente de un siglo digital que promueva los valores, principios y gobierno democráticos. Mientras que los chinos han diseñado y desplegado tecnologías digitales para promover su sistema de gobierno autoritario, Occidente se ha mantenido comprometido y ambivalente.
Este fracaso ha dejado un vacío donde debería estar la democracia, y el resultado peligroso ha sido una deriva de dos décadas hacia sistemas privados de vigilancia y control de comportamiento fuera de las limitaciones de la gobernabilidad democrática. Este es el camino hacia la etapa final del golpe epistémico.
El resultado es que nuestras democracias marchan desnudas hacia la tercera década sin las nuevas cartas de derechos, marcos legales y formas institucionales necesarias para asegurar un futuro digital compatible con las aspiraciones de una sociedad democrática.
Todavía estamos en los primeros días de una civilización de la información. La tercera década es nuestra oportunidad de igualar el ingenio y la determinación de nuestros antepasados del siglo XX al sentar las bases de un siglo digital democrático.
La democracia está bajo el tipo de asedio que solo la democracia puede acabar. Si queremos derrotar al golpe epistémico, la democracia debe ser la protagonista.
Ofrezco tres principios que pueden ayudar a guiar estos comienzos:
El estado de derecho democrático
Lo digital debe vivir en la casa de la democracia, no como un pirómano, sino como un miembro de la familia, sujeto y prosperando en sus leyes y valores. El gigante dormido de la democracia finalmente se mueve, con importantes iniciativas legislativas y legales en curso en América y Europa. En los Estados Unidos, cinco proyectos de ley integrales , 15 proyectos de ley relacionados y una propuesta legislativa importante , cada uno con un significado material para el capitalismo de vigilancia, se presentaron en el Congreso desde 2019 hasta mediados de 2020. Los californianos dieron la bienvenida a la legislación histórica sobre privacidad . En 2020, el Subcomité de Derecho Antimonopolio, Comercial y Administrativo del Congreso emitió un análisis de gran alcance del caso antimonopolio contra los gigantes tecnológicos. En octubre, el Departamento de Justicia, junto con 11 estados, inició una demanda federal antimonopolio contra Google por abuso de su monopolio de búsqueda en línea. En diciembre, la Comisión Federal de Comercio presentó una demanda histórica contra Facebook por acciones anticompetitivas, junto con una demanda de 48 fiscales generales. Estos fueron seguidos rápidamente por una demanda iniciada por 38 fiscales generales que desafiaba el motor de búsqueda central de Google como un medio anticompetitivo para bloquear a los rivales y privilegiar sus propios servicios.
Los argumentos antimonopolio son importantes por dos razones: indican que la democracia está nuevamente en movimiento y legitiman una mayor atención regulatoria a las empresas designadas como dominantes del mercado. Pero cuando se trata de derrotar al golpe epistémico, el paradigma antimonopolio se queda corto. Este es el por qué.
El giro hacia el antimonopolio recuerda las prácticas anticompetitivas y las concentraciones de poder económico en los monopolios de la Edad Dorada.
Como explicó Tim Wu, un campeón antimonopolio, en The Times, “La estrategia de Facebook fue similar a la de John D. Rockefeller en Standard Oil durante la década de 1880. Ambas empresas examinaron el horizonte del mercado en busca de competidores potenciales y luego los compraron o los enterraron “. Añadió que “fue precisamente este modelo de negocio el que el Congreso prohibió en 1890” con la Sherman Antitrust Act.
Es cierto que Facebook, Google y Amazon, entre otros, son capitalistas despiadados, así como capitalistas de vigilancia despiadados, pero el enfoque exclusivo en su poder monopólico al estilo Standard Oil plantea dos problemas. Primero, el antimonopolio no tuvo tanto éxito, incluso en los términos de sus fiscales de finales del siglo XIX y principios del XX y su objetivo de poner fin a las concentraciones injustas de poder económico en la industria petrolera. En 1911, una decisión de la Corte Suprema dividió a Standard Oil en 34 empresas de la industria de combustibles fósiles. El valor combinado de las empresas resultó mayor que el original. El más grande de los 34 tenía todas las ventajas de la infraestructura y escala de la Standard Oil y rápidamente avanzó hacia fusiones y adquisiciones, convirtiéndose en imperios de combustibles fósiles por derecho propio, incluidos Exxon y Mobil (que se convirtió en ExxonMobil), Amoco y Chevron.
Un segundo y mucho más importante problema con las leyes antimonopolio es que, si bien puede ser importante abordar las prácticas anticompetitivas en empresas despiadadas, no es suficiente para abordar los daños del capitalismo de vigilancia, como tampoco la decisión de 1911 abordó los daños de la producción de combustibles fósiles y consumo. En lugar de evaluar Facebook, Amazon o Google a través de la lente del siglo XIX, deberíamos reinterpretar el caso de Standard Oil desde la perspectiva de nuestro siglo.
Otro experimento mental: imagina que la sociedad estadounidense de 1911 entendiera la ciencia del cambio climático. La decisión de disolución de la corte habría abordado las prácticas anticompetitivas de Standard Oil ignorando el caso mucho más trascendente: que la extracción, refinación, venta y uso de combustibles fósiles destruiría el planeta. Si los juristas y legisladores de esa época hubieran ignorado estos hechos, habríamos considerado sus acciones como una mancha en la historia de Estados Unidos.
De hecho, la decisión del tribunal ignoró las amenazas mucho más urgentes a los trabajadores y consumidores estadounidenses. Un historiador de la ley estadounidense, Lawrence Friedman, describe la Ley Sherman Antimonopolio como “una especie de fraude” que logró poco más que satisfacer “necesidades políticas”. Explica que el Congreso “tenía que responder al llamado a la acción – alguna acción, cualquier acción – contra los fideicomisos” y el acto fue su respuesta. Entonces, como ahora, la gente quería un asesino gigante.
Recurrieron a la ley como la única fuerza que podía corregir el equilibrio de poder. Pero los legisladores tardaron décadas en abordar finalmente las fuentes reales de daño codificando nuevos derechos para trabajadores y consumidores. La Ley Nacional de Relaciones Laborales, que garantizaba el derecho a sindicalizarse y regulaba las acciones de los empleadores, no se promulgó hasta 1935, 45 años después de la Ley Sherman Antimonopolio. No tenemos 45 años, o 20 o 10, para demorarnos antes de abordar los daños reales del golpe epistémico y sus causas.
Puede haber sólidas razones antimonopolio para romper los grandes imperios tecnológicos, pero dividir a Facebook o cualquiera de los otros en los equivalentes capitalistas de vigilancia de Exxon, Chevron y Mobil no nos protegería de los peligros claros y presentes del capitalismo de vigilancia. Nuestro tiempo exige más.
Nuevas condiciones convocan nuevos derechos
Los nuevos derechos legales se cristalizan en respuesta a las cambiantes condiciones de vida. El compromiso del juez Louis Brandeis con los derechos de privacidad, por ejemplo, fue estimulado por la difusión de la fotografía y su capacidad para invadir y robar lo que se consideraba privado.
Una civilización de la información democrática no puede progresar sin nuevas cartas de derechos epistémicos que protejan a los ciudadanos de la invasión y el robo a gran escala obligados por la economía de la vigilancia. Durante la mayor parte de la era moderna, los ciudadanos de las sociedades democráticas han considerado la experiencia de una persona como inseparable del individuo, inalienable. De ello se desprende que el derecho a conocer la propia experiencia se ha considerado elemental, unido a cada uno de nosotros como una sombra. Cada uno de nosotros decide si se comparte nuestra experiencia y cómo, con quién y con qué propósito.
Escribiendo en 1967, el juez William Douglas argumentó que los autores de la Declaración de Derechos creían que “el individuo debería tener la libertad de seleccionar por sí mismo el momento y las circunstancias en las que compartirá sus secretos con otros y decidirá el alcance de ese intercambio”. Esa “libertad de elegir” es el derecho epistémico elemental de conocernos a nosotros mismos, la causa de la que fluye toda privacidad.
Por ejemplo, como portador natural de tales derechos, no le doy al sistema de reconocimiento facial de Amazon el derecho a conocer y explotar mi miedo a la focalización y las predicciones de comportamiento que benefician los objetivos comerciales de otros. No es simplemente que mis sentimientos no estén en venta, es que mis sentimientos no se pueden vender porque son inalienables. No le doy a Amazon mi miedo, pero me lo quitan de todos modos, y mi miedo es solo otro dato en los billones de dólares que recibieron las máquinas ese día.
Nuestros derechos epistémicos elementales no están codificados en la ley porque nunca habían estado bajo una amenaza sistemática, como tampoco tenemos leyes para proteger nuestro derecho a levantarnos, sentarnos o bostezar.
Pero los capitalistas de la vigilancia han declarado su derecho a conocer nuestras vidas. Así amanece una nueva era, fundada y protegida por la doctrina no escrita del excepcionalismo de la vigilancia. Ahora, el derecho que antes se daba por sentado a saber y decidir quién sabe de nosotros debe estar codificado en la ley y protegido por instituciones democráticas, si es que va a existir.
Los daños sin precedentes exigen soluciones sin precedentes
Así como las nuevas condiciones de vida revelan la necesidad de nuevos derechos, los daños del golpe epistémico requieren soluciones diseñadas específicamente. Así es como el derecho evoluciona, crece y se adapta de una era a otra.
Cuando se trata de las nuevas condiciones impuestas por el capitalismo de la vigilancia, la mayoría de las discusiones sobre leyes y regulaciones se enfocan en los argumentos sobre los datos, incluida su privacidad, accesibilidad, transparencia y portabilidad, o en esquemas para comprar nuestro consentimiento con pagos (mínimos) por datos. En la última milla de Internet es donde discutimos sobre la moderación del contenido y el filtro burbuja, donde los legisladores y los ciudadanos golpean a los ejecutivos recalcitrantes.
Pero en la última milla de Internet es donde las empresas quieren que estemos, tan absortos en los detalles del contrato de propiedad que olvidamos el problema real, que es que su reclamo de propiedad en sí es ilegítimo.
¿Qué soluciones sin precedentes pueden abordar los daños sin precedentes del golpe epistémico? Primero, ir a la primera milla donde se ejecutan las operaciones comerciales para la recolección de datos. En esa primera milla, la licencia para robar obra sus implacables milagros, empleando estrategias de vigilancia para extraer la experiencia humana (mi miedo, su conversación del desayuno, su paseo por el parque) y convertirla en el oro de los suministros de datos patentados. Necesitamos marcos legales que interrumpan y prohíban la extracción masiva de la experiencia humana. Las leyes que detienen la recopilación de datos terminarían con las cadenas de suministro ilegítimas del capitalismo de vigilancia. Los algoritmos que recomiendan se enfocan en la micro segmentación y manipulan. Los millones de predicciones de comportamiento generadas cada segundo, no pueden existir sin los billones de puntos de datos que reciben cada día.
Luego, necesitamos leyes que vinculen la recopilación de datos con los derechos fundamentales y el uso de datos con el servicio público, abordando las necesidades genuinas de las personas y comunidades. Los datos ya no sería el medio para una guerra de información contra millones de incautos.
En tercer lugar, interrumpir los incentivos financieros que recompensan la economía de la vigilancia. Podemos prohibir las prácticas comerciales que exigen una recopilación de datos rapaz. Las sociedades democráticas han prohibido los mercados que comercian con órganos humanos y bebés. Los mercados que comercian con seres humanos están prohibidos.
Estos principios ya están dando forma a la acción democrática. La Comisión Federal de Comercio inició un estudio de las empresas de redes sociales y de transmisión de video una semana después de presentar su caso contra Facebook y dijo que tenía la intención de “levantar el capó” de las operaciones internas “para estudiar cuidadosamente sus motores”. Una declaración de tres comisionados apuntó a las empresas de tecnología “capaces de vigilar y monetizar … nuestras vidas personales”, y agregó que “demasiadas cosas sobre la industria siguen siendo peligrosamente opacas”.
Las propuestas legislativas innovadoras en la Unión Europea y Gran Bretaña, si se aprueban, comenzarán a institucionalizar los tres principios. El marco de la UE afirmaría la gobernanza democrática sobre las cajas negras de operaciones internas de las plataformas más grandes, incluida la autoridad de auditoría y ejecución integral. Los derechos fundamentales y el estado de derecho ya no se evaporarían en la ciberfrontera, ya que los legisladores insisten en “un entorno en línea seguro, predecible y confiable”. En Gran Bretaña, el Proyecto de Ley de Daños en Línea establecería un “deber para el cuidado” legal que haría responsables a las empresas de tecnología de los daños públicos e incluiría nuevas autoridades y poderes de ejecución.
Dos sentencias a menudo atribuidas al juez Brandeis aparecen en el impresionante informe antimonopolio del subcomité del Congreso. “Debemos hacer nuestra elección. Podemos tener democracia, o podemos tener riqueza concentrada en manos de unos pocos, pero no podemos tener ambas”. La declaración tan relevante para la época de Brandeis sigue siendo un comentario mordaz sobre el viejo capitalismo que conocemos, pero ignora el nuevo capitalismo que nos conoce. A menos que la democracia revoque la licencia para robar y desafíe la economía fundamental y las operaciones de vigilancia comercial, el golpe epistémico debilitará y eventualmente transformará la democracia misma. Debemos hacer nuestra elección. Podemos tener democracia, o podemos tener una sociedad de vigilancia, pero no podemos tener ambas. Tenemos que construir una civilización de la información democrática y no hay tiempo que perder.
