El libro de James Bridle es una crítica importante a la sociedad de la información
La educación digital es cada vez más necesaria: para movernos por Internet y poder distinguir el tipo de información que se nos presenta, poder confiar y desconfiar de lo que leemos, no caer en fraudes, cuidar de nuestros datos personales y exigir mejores leyes de nuestros políticos.
La nueva edad oscura: la tecnología y el fin del futuro, primer libro de James Bridle (Inglaterra, 1980), escritor y artista visual formado en Ciencias de la Computación, nace con el objetivo de estimular este tipo de educación y parte de la premisa de que cuanto más avanzan las tecnologías menos sabemos cómo ellas realmente funcionan.
Empezar a entenderlas es una manera de cambiar el mundo. Pero ¿cómo piensan las máquinas y qué damos por sentado en nuestra convivencia con ellas?
Puede que la metáfora antropocéntrica moleste a algunos estudiosos y aficionados de las filosofías de la mente, pero el caso es que desde hace mucho tiempo las máquinas toman decisiones por nosotros, estableciendo relaciones muy diferentes de la experiencia humana común. Y más: influencían de manera determinante nuestra manera de actuar.
En la mayoría de las veces no ponemos en duda una decisión generada por una máquina. No obstante, el autor argumenta que estamos en una situación delicada: no conocemos los “modelos de pensamiento” de las máquinas pues son producidos por procesos cognitivos diferentes a los nuestros.
Esta nueva era es “oscura” por la opacidad de los procesos informáticos. Sin embargo, confiamos en ellos ciegamente.
Para ilustrarlo, Bridle pone como ejemplos la evolución de las traducciones automáticas de Google, basadas en grandes cantidades de datos y organizadas por inferencia estadística en lugar del conocimiento de las lenguas; la organización de un almacén de Amazon, en el que los libros están al lado de las sartenes; e incluso las transacciones del mercado financiero, que ocurren en nanosegundos, reaccionan inmediatamente a los titulares y funcionan como si no existieran para muchos de nosotros, en total opacidad.
En la Ilustración, la Edad de las Luces, existía la creencia de que cuanto más información y más experiencia, tendríamos más conocimiento y podríamos hablar con más claridad acerca de la realidad.
Hoy vemos que esta premisa ya no tiene tanto sentido: con gobiernos y empresas incapaces de gestionar la cantidad de datos de que recogen en los servicios creados por ellos mismos, o a través de espionaje, hacen falta más que nunca la ética y el conocimiento humanístico para poder afrontar semejante complejidad y gestionar estos dados que, inevitablemente, serán clasificados y divididos en sesgos culturales subjetivos y paradójicos.
En una entrevista al canal Keen on Democracy, James Bridle dice que siempre ha querido escribir un libro sobre Internet y él mismo se sorprende que de este haya sido el resultado.
Para él, aunque no fuera el libro que le hubiese gustado escribir, esta es una obra necesaria en el momento presente.
Bajo el control algorítmico, las inteligencias artificiales son capaces de generar sus propios productos, en ocasiones desastrosos
La nueva edad oscura, considerado por muchos un libro “asustador”, enfatiza cómo la tecnología se refleja en todos los aspectos de nuestras vidas. La confianza ciega depositada las máquinas puede generar verdaderas disonancias cognitivas. Esto afecta desde cómo manejamos los programas de reconocimiento facial, a qué esperamos de ciertos productos digitales, hasta cómo nos dejamos guiar por el GPS hacia el abismo.
Uno de los ejemplos más llamativos de esta nueva etapa, en la que impera la lógica de las máquinas, es cómo videos generado por inteligencias artificiales combinado con el impulso de los algoritmos en Youtube, pudo hacer que millones de niños y niñas estuvieran expuestos a contenidos violentos.
La plataforma está poblada de videos creados por inteligencias artificiales, con mashups de personajes muy conocidos, en situaciones muy cuestionables y con títulos llenos de “palabras clave”, creados especialmente para los algoritmos y sin sentido para los humanos.
No es casualidad que la famosa frase de McLuhan siga vigente: “el medio es el mensaje”. Bajo el control algorítmico, marcado por la hoja de ruta de las preferencias personales, las inteligencias artificiales son capaces de generar sus propios productos, en ocasiones desastrosos, como el lector podrá comprobar.
Con un repaso histórico a ciertas tecnologías y constataciones tajantes sobre el mundo virtual, James Bridle construye una crítica audaz hacia los nuevos medios y las grandes empresas tecnológicas.
Cómo son concebidos estos nuevos medios influye de manera inherente en nuestra sociedad y las decisiones que tomamos diariamente. Ignorar su funcionamiento y no reivindicar su transparencia solo ahonda las desigualdades y crea el ambiente perfecto para abusos autoritarios.
James Bridle, La nueva edad oscura: la tecnología y el fin del futuro, 2020. Debate. Traducción: Marcos Pérez Sánchez. 320 páginas. 20,80€