domingo, febrero 25, 2024
InicioA fondoDilemas y retos de nuestra era digital

Dilemas y retos de nuestra era digital

“El verdadero problema de la humanidad es el siguiente:
tenemos emociones paleolíticas, instituciones medievales
y tecnología de dioses” Edward O. Wilson

El desarrollo evolutivo que configuró los cerebros de los seres humanos es un proceso lento que nos ha dado capacidades asombrosas, pero también una racionalidad limitada, con numerosos sesgos cognitivos y emocionales. La tecnología que hemos sido capaces de desarrollar avanza a un ritmo muy superior a la adaptación evolutiva y nos ha vuelto crecientemente capaces de manipular los resortes de la mente humana para diferentes fines. Gran parte de las instituciones creadas desde la Modernidad están basadas en concepciones liberales sobre la importancia del individuo, su autonomía y su responsabilidad: el cliente tiene razón, el votante sabe lo que le conviene, hay que confiar en los sentimientos y en el corazón de cada uno, etc. Sin embargo, permitir que la tecnología actual haga ingeniería inversa de nuestras capacidades y explote las debilidades para beneficiarse de un modelo económico concreto pone en riesgo múltiples aspectos de nuestras vidas. Crear modelos predictivos cada vez mejores que puedan modificar la conducta con mayor efectividad mientras nos sitúan en burbujas informativas aisladas, anula la autonomía de los individuos, las bases de la democracia y somete todo el sistema social a los intereses económicos de una minoría de la población.

Dilemas y retos de nuestra era digitalEn efecto, algunos de los principales problemas de nuestra época tienen como hilo conductor la arquitectura de las redes digitales, tanto desde el punto de vista colectivo (posverdad, manipulación comercial, polarización social…) como en relación a la salud mental de los individuos (adicciones, aislamiento, ansiedad, depresión…). Estos problemas han existido antes de la era digital, pero las redes sociales los potencian redirigiendo a las personas hacia comportamientos que van en su propio perjuicio, si bien bajo la premisa de que el individuo es formalmente libre para dejar de usarlas. El fomento de las adicciones, el riesgo financiero, el aumento de suicidios y de trastornos mentales, nos llevan a plantear cuestiones fundamentales con respecto a la comunicación, las nuevas tecnologías y la democracia: ¿existe algún hilo común que conecte estos problemas pese a su aparente disparidad?, ¿en qué medida los algoritmos que rigen los flujos de información tienen efectos peligrosos?, ¿de quién es la responsabilidad sobre estos problemas?, ¿existen medidas que quepa exigir ética o legalmente en el diseño de las plataformas online?

Capitalismo de la vigilancia

El acceso a las plataformas digitales se ofrece a coste cero a los miles de millones de personas que las utilizan de forma regular. Sin embargo, son negocios tan gigantescos que el valor de mercado de esas empresas supera al PIB de países enteros. Hasta 5 de ellas se encuentran entre las 25 economías más grandes del mundo: Apple (8ª), Microsoft (10ª), Amazon (15ª), Alphabet (16ª) y Facebook (22ª). Para llegar a ese enorme tamaño, estas compañías necesitan escala (gran número de usuarios) y compromiso (engagement, también de los usuarios), dos factores que son muy valiosos para los anunciantes. A diferencia de los anuncios en medios de comunicación tradicionales (prensa, radio o televisión), se basan en datos personalizados de cada cliente, crean perfiles predictivos, y así segmentan la publicidad de forma personalizada.

El aumento de conexiones e interacciones entre usuarios genera un incentivo psicológico que produce un efecto multiplicador. Por eso, las plataformas utilizan mecanismos que suponen una suerte de «dopaje social», bombardeando con sugerencias de amistad y aplicando mecanismos de seducción sobre los usuarios, aunque permiten que éstos desactiven muchos de ellos, si así lo desean, a través de los menús de opciones más o menos accesibles. Así se traspasa al usuario la carga de la responsabilidad, pero, simultáneamente, las aplicaciones tienen a miles de ingenieros y psicólogos recogiendo los datos de los usuarios, analizando las respuestas del sistema nervioso, etc., para diseñar y perfeccionar los algoritmos. Mediante sistemas de procesamiento masivo de información, los datos de las personas se suman y relacionan con los de cientos de millones de usuarios por todo el planeta para lanzar ofertas y hacer los reclamos que resulten más atractivos y vendibles. Pero a la vez se espera que el usuario sea el responsable y autolimite su uso.

Las plataformas utilizan mecanismos
que suponen una suerte de
«dopaje social»

Se trata de un modelo económico que Shosana Zuboff bautizó como capitalismo de la vigilancia, un sistema en el que la principal fuente de riqueza y poder proviene de los nuevos medios de acumulación de información y modificación conductual, que ya no ponen el foco en la propiedad privada (tierra, fábricas, capital, etc.) del capitalismo más tradicional. Para esta autora, «el capitalismo de la vigilancia es una fuerza sin escrúpulos impulsada por unos novedosos imperativos económicos que ignoran las normas sociales y anulan los derechos elementales asociados a la autonomía individual que tan imprescindibles resultan para que las sociedades democráticas sean posibles»$[1].

El hashtag es el mensaje

Un lugar común en teoría de la comunicación, acuñado por McLuhan, es que «el medio es el mensaje». Esta idea sostiene que el medio influye en el mensaje de manera que los códigos comunicativos que funcionan en una novela no se corresponden necesariamente con los que funcionan en el cine o en la radio. El canal por el que discurre un mensaje tiene un peso fundamental en el contenido y la recepción del mismo. En nuestro caso, el análisis de la influencia de ciertos hashtags de Twitter en la construcción de una realidad alternativa permite plantear que «el hashtag es el mensaje». Mensajes que tienen gran alcance porque sustituyen las formas de verificación tradicionales con una auténtica cámara de eco: los mismos mensajes se van a repetir una y otra vez con disonancias mínimas. Un usuario lee el hashtag, da “like”, escribe su propio mensaje, retuitea otro, etc., y, de esta forma, los receptores se vuelven a su vez emisores, reforzando su confianza en el mensaje del hashtag. Incluso cuando se afirman mentiras tales como que la Tierra es plana, Finlandia no existe, las vacunas son malas o existe un genocidio sistemático contra los blancos en Occidente.

Un lugar común en teoría de
la comunicación, acuñado por
McLuhan, es que «el medio es el
mensaje»

Lo llamativo no es que los seres humanos puedan creer ficciones totalmente separadas de la realidad, esto ha ocurrido en todas las épocas y, a menudo, con consecuencias históricamente catastróficas. Sin embargo, en otros tiempos, los que llevaban a cabo el control de las narrativas tenían que desplegar un dominio casi absoluto de los discursos generales de la sociedad para poder persuadir de su mensaje a la mayoría. Censura, propaganda, creación de medios afines, represión, violencia, etc., se volvían imprescindibles para lograr el gobierno de los discursos. Ahora, en cambio, la propia estructura de las redes sociales permite lo mismo en un entorno de pluralidad mediática.

Noticias falsas y posverdad

¿Por qué engañan las fake news (noticias falsas)? ¿Por qué los individuos caen sistemáticamente en ellas? ¿Por qué pasa la gente más horas de las debidas en redes sociales, incluso si sabe que ello le causa problemas? Para responder a estas cuestiones, hay que comprender un punto fundamental: aunque las grandes empresas tecnológicas justifican sus prácticas utilizando la antropología de la economía clásica que encumbra las capacidades racionales del ser humano, luego, en la práctica, explotan sus debilidades mediante todos los recursos de diseño posibles. De entrada, se considera que los seres humanos somos racionales y libres, por lo que las adicciones, la pobreza, el paro o el crimen serían producto de decisiones libres. Es posible que haya algunos males asociados a ciertas prácticas, pero los errores que cometen los individuos provienen de una carencia de información, racionalidad o autocontrol. De ser así, el mal uso de las plataformas on line basadas en la economía de la atención debería ser algo residual.

Algunos autores consideran que el panorama no es preocupante. Por ejemplo, para Yuval N. Harari, autor de Sapiens, la propaganda y la desinformación no son ninguna novedad: «Si esta es la era de la posverdad, ¿cuándo tuvo lugar la era dorada de la verdad? […] En realidad, los seres humanos siempre han vivido en la era de la posverdad»$[2]. Lo que ha cambiado es la forma en que las falsedades se difunden y llegan a la gente. Ahora vivimos en una época en la que cualquiera dispone de los medios para poner en circulación una noticia, sin la maquinaria que requiere una radio, un periódico o una televisión. Con estar conectados a internet, en cuestión de minutos, podemos elaborar y compartir con infinidad de personas cualquier material.

Pero resulta que muchas personas, instituciones y empresas aprovechan la capacidad que brinda internet para crear historias falsas o manipuladas con la intención de engañar a una audiencia y obtener beneficios personales, políticos o económicos. Medios de expresión modernos, como Twitter o Facebook, plantean un escenario de igualdad epistemológica donde la viralidad es más importante que la verdad y la argumentación. Lee McIntyre destaca que lo nuevo de la posverdad, frente a la mentira de toda la vida, es que lo que lo que te cuentan no se plantea como una idea concreta o una aportación más sobre la que tú puedas opinar, sino como algo objetivo en sí mismo. La realidad está esencialmente politizada, ideologizada y no cabe razonamiento sobre ella$[3]. En definitiva, las grandes plataformas tecnológicas hacen exactamente lo que están diseñadas para hacer. No existen para buscar la verdad, generar un debate político cívico, defender los intereses de sus usuarios o someter a los poderes a una adecuada rendición de cuentas, si bien a veces pueden conseguir estas cosas como un subproducto.Un lugar común en teoría de la comunicación, acuñado por McLuhan, es que «el medio es el mensaje»

La posverdad es el fin de los paradigmas de la Ilustración, la renuncia a la conquista de lo universal por la racionalidad humana, de modo que solo quedan las perspectivas de cada cual. La red funciona como ese espacio en el que hemos desterrado todo concepto de verdad, en el que cada cual tiene «su verdad» y es válida porque la dice, donde no se piden cuentas sobre los hechos, sino que las opiniones se validan y fundamentan principalmente en base a sentimientos, lealtades y sesgos previos. Tal como advertía Hannah Arendt adelantándose a su tiempo, “el sujeto ideal de la dominación totalitaria no es el nazi convencido o el comunista convencido, sino las personas para quienes ya no existen la distinción entre el hecho y la ficción (es decir, la realidad empírica) y la distinción entre lo verdadero y lo falso (es decir, las normas del pensamiento)”[4].

Reflexiones finales

La tecnología no es algo que tenga entidad en sí misma. Forma parte y depende de las relaciones sociales, económicas, y culturales de su contexto histórico. Por eso, no existe inevitabilidad tecnológica y se podrían y deberían modificar las condiciones de base que dan lugar a una concreta aplicación que, como hemos visto, tiene unos efectos muy nocivos para los seres humanos. En particular, en un contexto de economía capitalista de mercado, las empresas tienden a desarrollar tecnologías que responden de manera eficaz a su búsqueda de beneficios económicos.

Si es cierto que poseemos una
tecnología casi divina, deberíamos
diseñar las políticas que sean
precisas para controlarla

La propuesta políticamente correcta para abordar el problema es que la solución debería venir desde el ámbito de la responsabilidad de las propias empresas, a través de la herramienta de la Responsabilidad Social de las Empresas (RSE). Esta es la línea del Pacto Mundial (ONU, 2000) y del Libro Verde (CEE, 2001), que se publican en un contexto de globalización, que combina la desregulación de los mercados y las transacciones financieras, la mejora de los transportes y las comunicaciones y un mundo en el que pasamos de economías locales o internacionales mediadas por los estados-nación a economías de escala global. El Plan de Recuperación, Transición y Resiliencia, elaborado por el gobierno de España para canalizar los fondos europeos que persiguen reparar los daños provocados por la covid-19, incluye como uno de sus objetivos impulsar la transformación digital del mundo empresarial, lo que parece inscribirse para Gessamí Forner en esa misma política: «la premisa es que la digitalización permite un trabajo más eficaz. Pero la pregunta de fondo es: ¿eficaz para quién? ¿Trabajadores, receptores de ese trabajo, la sociedad, grandes corporaciones?»$[5].

REFLEXIONES FINALES La tecnología no es algo que tenga entidad en sí misma.

En el escenario actual, el discurso público que prevalece es que la relación contractual entre los usuarios y las empresas tecnológicas es de igualdad. El usuario accede a los servicios y con ello otorga ciertos derechos sobre sus datos a la empresa para que los utilice como considere (en conformidad con la ley). Sin embargo, el uso principal que hacen estas empresas con esa información, como hemos visto, es crear perfiles sobre los usuarios que luego venden a empresas para vender mejor sus productos. Así las cosas, nos podemos preguntar si se podría obligar a las plataformas a actuar solo en beneficio de sus usuarios estableciendo para ellos unos principios éticos de forma similar a como se hace con abogados, médicos o sacerdotes. Si éstos están sometidos a deberes fiduciarios, ¿no cabría cuestionar esa asimetría, exponencialmente mayor, como base para una regulación que dificulte al máximo la explotación de las debilidades de los usuarios? Se trata de un reto político en toda regla pues mientras no se consiga regular que la asimetría entre redes y usuarios sea ilegal o conlleve grandes repercusiones fiscales, las compañías tendrán un enorme incentivo económico para hacerlo y, todavía más, una obligación hacia sus accionistas que, al final, son los que mandan. Hasta ahora, los gigantes tecnológicos exceden la jurisdicción de los estados y se muestran renuentes a tomar las medidas necesarias cuando éstas afectan directamente a sus fuentes de ingresos.

Es necesario insistir en que el dominio actual de las grandes redes tecnológicas no es algo inevitable, sino producto de decisiones de diseño que se podrían transformar mediante una redistribución del poder social, político y económico, apostando por el aumento de la transparencia y desactivando los mecanismos de monitorización y fomento de la adicción de estas plataformas. Habría que lograr un cierto consenso político por parte de quienes valoran la protección y la regulación de los excesos del mercado. Volviendo a la cita inicial, si es cierto que poseemos una tecnología casi divina, deberíamos diseñar las políticas que sean precisas para controlarla y que no sobrepase los límites de nuestras debilidades paleolíticas, poniendo en riesgo las fortalezas alcanzadas.

[1] Zuboff, Sh., La era del capitalismo de la vigilancia, Paidós, 2020, p. 23.

[2] Harari, Y.N., 21 lecciones para el siglo XXI, Debate, 2018, pág. 257.

[3] McIntyre, L., Post-truch, MIT Press, 2018.

[4] Arendt, H., Los orígenes del totalitarismo, Taurus, 1998, p.. 379.

[5] Forner, G., «Microsoft o democracia. La objeción de conciencia se convierte en motivo de dimisión», en El Salto 67 (noviembre 2022) p. 14.

Buscador


Para mantener este portal y seguir ofreciendo en abierto gratuitamente su contenido, la revista ÉXODO te agradece sinceramente tu colaboración voluntaria.

Si estás interesado/a en recibir información de la revista Éxodo, ve a: