 |
| Imatge falsa de Donald Trump sent arrestat per la policia difosa en xarxes socials. Eliot Higgins (@elliothiggins) |
La difusió de notícies falses en xarxes socials ha tingut un impacte palpable en la realitat, com es va observar en les eleccions presidencials d'EE. UU. del 2016.
La detecció de desinformació, que inclou les notícies falses, és un camp d'investigació que integra disciplines com a ciències de la comunicació, sociologia, anàlisi de dades i informàtica.
L'aprenentatge automàtic o machine learning és una ferramenta essencial per a classificar la informació falsa. Este consistix en l'entrenament de models de xarxes neuronals amb amplis conjunts de dades per a identificar patrons i característiques distintives de les notícies falses i les legítimes.
La carrera armamentística de la intel·ligència artificial
L'aplicació exclusiva de l'aprenentatge automàtic en este context presenta alguns inconvenients. En primer lloc, la constant evolució de les tàctiques emprades pels creadors de notícies falses els impulsa a adaptar-se ràpidament a les noves tecnologies i enfocaments de detecció. En este cicle constant de millora, tots dos costats es veuen embolicats en un bucle infinit.
Imaginem un escenari on els creadors de notícies falses utilitzen algorismes de intel·ligència artificial generativa per a produir contingut cada vegada més sofisticat i convincent. Enfront d'esta amenaça, els models d'aprenentatge automàtic utilitzats per a la detecció de desinformació s'ajusten i milloren per a reconéixer els patrons més recents de creació de deepfakes. No obstant això, esta resposta desencadena una contraadaptación per part dels generadors de notícies falses, els qui refinen les seues estratègies per a evadir les noves mesures de detecció.
Esta dinàmica comporta una competició infinita de millora constant, on tant els generadors de notícies falses com els detectors s'embardissen en una carrera armamentística.
El perill dels falsos positius
A més, els mètodes de detecció basats exclusivament en machine learning presenten un altre inconvenient. Encara que la precisió i l'eficàcia dels models existents són molt elevades, fins i tot una xicoteta quantitat de falsos positius pot tindre repercussions importants.
En l'entorn digital actual, amb milions de continguts generats diàriament, la mínima fracció de falsos positius pot portar a la identificació errònia de grans quantitats d'informació legítima com a desinformació.
La inevitabilitat dels falsos positius pot soscavar la confiança en les ferramentes de detecció de desinformació per part dels usuaris. Per tant, reduir la incidència de falsos positius és una prioritat apressant en el desenvolupament de solucions per a la detecció de desinformació.
Existixen altres tecnologies que puguen ajudar?
El watermarking digital emergix com una ferramenta poderosa en este context. Es tracta d'un conjunt de tècniques que permeten incrustar informació oculta de manera imperceptible en continguts multimèdia i fins i tot en text. Això obri un ventall de possibilitats crucials en la lluita contra la desinformació.
El watermarking es classifica en dos categories principals: robust i fràgil.
Les marques robustes, resistents a modificacions, permeten identificar l'origen o el propietari d'un contingut. Així s'ajuda a legitimar la informació procedent d'agències i mitjans de prestigi. El mecanisme d'extracció de les marques ocultes facilita la identificació de la font en continguts prèviament marcats.
Les marques fràgils i semifrágiles són molt eficaces per a detectar manipulacions fraudulentes. En incrustar-les abans de distribuir el contingut, els detectors poden identificar fàcilment fragments modificats sense tot just falsos positius.
El watermarking digital pot contribuir a combatre la desinformació en tres escenaris clau:
Confirmació de l'origen de notícies legítimes. En integrar marques digitals robustes en continguts de notícies per a validar el seu origen, les agències i els mitjans de comunicació poden beneficiar-se d'una traçabilitat irrefutable. Això descartaria sospites de notícies falses en continguts legítims i enfortiria la confiança en la veracitat de les fonts.
Autenticació de notícies legítimes. Si s'incrusten marques fràgils o semifrágiles en continguts de notícies, els usuaris podrien verificar la legitimitat de la informació rebuda. Esta tecnologia no sols protegiria contra la difusió d'informació falsa, sinó que també capacitaria a la ciutadania per a prendre decisions autònomes i informades sobre la credibilitat de les notícies que reben.
Traçabilitat de notícies falses. Enfront de la proliferació de notícies falses, la traçabilitat implica la inserció de marques traçables en continguts que després s'han identificat com a falsos. Estes marques actuarien com a molles de pa digitals, permetent rastrejar la font de la desinformació fins als seus orígens i desacreditar als creadors d'informació fraudulenta.
Un còctel tecnològic contra la desinformació
La integració de tècniques de watermarking en la detecció de desinformació oferix una estratègia innovadora per a abordar els desafiaments que planteja l'ús exclusiu de l'aprenentatge automàtic.
Una aproximació híbrida que combine watermarking amb machine learning no sols augmenta la precisió de la detecció, sinó que també introduïx consistència i aborda els problemes fonamentals associats a l'ús exclusiu de l'aprenentatge automàtic.
En trencar la dinàmica de la carrera armamentística i reduir el percentatge de falsos positius, l'aplicació integrada de watermarking i aprenentatge automàtic proporciona un enfocament equilibrat i efectiu per a enfrontar els desafiaments complexos de la desinformació en l'era digital.
En un entorn digital saturat d'informació, combatre la desinformació constituïx un desafiament crucial que requerix solucions innovadores. En explorar el potencial del watermarking en combinació amb l'aprenentatge automàtic no sols abordem les limitacions de la carrera armamentística i els falsos positius, sinó que també tracem un camí cap a una defensa més consistent contra la manipulació de la informació.
La capacitat de validar l'autenticitat de les notícies, rastrejar el seu origen i mitigar els riscos d'identificació errònia suggerixen que el futur de la detecció de desinformació residix en la diversificació d'estratègies tecnològiques que oferisquen suport a la ciutadania per a prendre decisions informades.
Davant el desafiament que comporta la desinformació, unir esforços per a enfortir les nostres defenses és essencial. Aprofitant diferents enfocaments, podem forjar un futur on la confiança en la informació prevalga i cada persona siga una defensora activa de la informació rigorosa en la xarxa.
David Megías, Catedràtic de Seguretat i Privacitat de la Informació, UOC - Universitat Oberta de Catalunya
Este article va ser publicat originalment en The Conversation.
Crónica CT
* ho pots llegir perquè som Creative Commons
Cap comentari :