Poden destruir la democràcia les grans tecnològiques i la IA generativa?

Actualment, les grans corporacions tecnològiques i els governs han convertit els fenòmens de la “algoritmización” i la “sintetificacion” en la seua principal arma enfront dels reptes i desafiaments de les democràcies modernes.

En primer lloc, els bots socials i polítics, especialment la seua versió generativa, estan colonitzant l'esfera pública –eixe espai de llibertat on la ciutadania se servix del diàleg i la deliberació per a relacionar-se i arribar a acords sobre el sentit d'alguna cosa en la democràcia– i produint dades sintètiques massives que pervertixen i distorsionen tant la realitat social i política com l'opinió pública.

En segon lloc, els polítics virtuals, és a dir, polítics que prometen delegar totes les decisions a algorismes, es postulen com a candidats en els diferents processos electorals (Rússia, Dinamarca, el Japó, Nova Zelanda, els Estats Units, el Regne Unit, etc.) prometent neutralitat, exhaustivitat i justícia enfront dels biaixos de la presa de decisions humanes.

D'altra banda, la “algoresfera política” –espai d'interacció controlat i governat per algorismes on la ciutadania participa en la política–, creada i monopolitzada per grans plataformes digitals com Google, Apple, Microsoft, Amazon, Meta i X, entre altres, s'ha consolidat com a pilar essencial del funcionament de la societat i la democràcia moderna.

Noves patologies i disfuncionalidades

Les grans corporacions governamentals i tecnològiques dissenyen, promouen i difonen algorismes amb l'objectiu de acréixer el seu poder, controlar a la ciutadania, manipular el vot, emmordassar l'opinió pública, polaritzar la realitat social i política, etc..

Estos actors porten dos dècades colonitzant els entorns socials, econòmics i polítics (els carrers, els hospitals, els mercats, els centres educatius, les llars, els mitjans de transport, els cossos de les persones, etc.) amb dispositius tecnològics “algoritmizados”. Les conseqüències d'esta situació es deixen sentir mitjançant un augment exponencial de l'acceleració social, de l'automatització de les injustícies, de la irresponsabilitat política, del despotisme i imperialisme tecnològic i de la hibridació de l'humà i màquina en les relacions socials, entre altres coses.

Referent a l'esfera pública, els processos de “algorimización”, “dataficación” i “sintetificación” que confluïxen en ella produïxen patologies i disfuncionalidades que afecten la bona salut dels sistemes democràtics. El desplaçament de l'esfera pública cap al món digital ha facilitat i potenciat les ingerències de les grans corporacions tecnològiques i els governs en la construcció d'opinió pública. A través de continguts personalitzats, cambres de ressò, filtres bambolla i, sobretot, processos de “sintetificación” de la realitat política i social, els gegants tecnològics produïxen camps de distorsió de la realitat mitjançant continguts sintètics amb un alt poder addictiu i influent sobre la voluntat lliure de la ciutadania. Un clar exemple d'això ha sigut la instrumentalització de la xarxa social X per part del seu propietari, Elon Musk, en favor de Donald Trump en les eleccions presidencials dels Estats Units.

Dels deepfakes als deepsynthetics

Esta situació esta originant un nou fenomen de perversió de l'opinió pública: el deepsynthetic. Es tracta del conjunt de dades sintètiques que, produït per una IA generativa (com GPT o Gemini), pretén influir subliminalment en el comportament de la ciutadania mitjançant un patró ocult en el missatge.

Mentres que l'estratègia dels deepfakes consistix a propagar continguts falsos pràcticament indetectables per a distorsionar la percepció ciutadana sobre la realitat política, social, econòmica o cultural, l'estratègia dels deepsynthetics radica a difondre continguts impactants que, sense necessitat d'ocultar el seu caràcter artificial, són capaços de produir emocions reactives mitjançant un patró intern.

Un exemple de deepsynthetic va ser la imatge All eyes on Rafah. En poques hores, no sols va arrasar en les xarxes socials, convertint-se en el meme més reproduït i amb més “m'agrada” de la història, si no que a més va aconseguir la major quota de mobilització ciutadana a favor del poble palestí des del començament de la guerra.

Dins d'este context destaca també l'espiral del silenci que produïxen les agressives polítiques de vigilància massiva que escanyen els espais de llibertat i ofeguen la crítica. Es tracta de la implantació per part dels estats de multitud de càmeres, sensors i altres tipus d'artefactes de vigilància en l'espai públic i, en alguns casos, també privat i íntim. Un clar exemple d'estes polítiques de vigilància social massiva i les seues conseqüències sobre la ciutadania es pot veure en Sèrbia.

A través d'este desplegament tecnològic, les grans corporacions tecnològiques i els governs exercixen un control sobre la ciutadania cada vegada més ferri i opressor, alentint i impedint la regeneració, desenrotllament i bona salut de les democràcies.

Contra la democràcia sintètica

Enmig d'este context cada vegada més algoritmizado, artificial, sintètic i accelerat de democràcia, amb conseqüències altament negatives per al propi sistema democràtic i la ciutadania, cal conjuminar esforços per a revertir esta deriva i redirigir els processos democràtics amb sentit de justícia i responsabilitat a través de la promoció de la llibertat, la igualtat i la solidaritat.

Per a això, és necessari generar espais de diàleg, discussió i acord sobre la situació actual de les democràcies modernes. Especialment, pel que concerneix la comprensió dels impactes i del canvi estructural que està patint l'esfera pública davant la ràpida i implacable colonització algorítmica i la “sintetificación” dels seus continguts.

Carlos Saura García, Investigador predoctoral en el Departament de Filosofia i Sociologia, Universitat Jaume I i Patrici Calvo, Professor Titular de Filosofia moral, Universitat Jaume I

Este article va ser publicat originalment en The Conversation.