La propagación de desinformación y sesgo en las noticias se ha traducido en un desafío considerable en la historia reciente de la sociedad. Fantasmas modernos como los deepfakes, la interferencia financiera y la explotación de los conflictos sociales han emergido como novedosas armas en manos de particulares y agentes gubernamentales alrededor del globo.
Se define desinformación a la difusión deliberada de información falsa que ha sido protagonista en distorsionar la opinión pública. Simultáneamente, se emplea como táctica de ataque a líderes gubernamentales y está exacerbando la división entre grupos diversos dentro de numerosos países. La desinformación ha llegado a afectar incluso los resultados electorales, demostrando así su potencia. [automatic_youtube_gallery type="search" search="La IA puede luchar contra la desinformación y los sesgos en las noticias" cache="2419200" per_page="1" thumb_excerpt="0" player_description="0"]
Contrariamente a la información errónea que puede surgir de un error auténtico, la desinformación es deliberadamente engañosa e incluye narrativas y hechos manipulados. O sea, es propaganda.
Un estudio realizado en 2019 por la Universidad de Oxford documentó la presencia de campañas de desinformación en 70 países, entre ellos Rusia, China, Vietnam y Guatemala.
La economía digital ha impulsado la proliferación de la desinformación y el sesgo en las noticias. En este sentido, la inteligencia artificial (IA) y las plataformas de redes sociales se han convertido en plataformas principales para su dispersión.
Hemos sido testigos de muchos ejemplos. Las dos últimas elecciones presidenciales en EE. UU., por ejemplo, estuvieron plagadas de desinformación y sesgo. Igualmente, los mercados financieros han sido blanco de manipulaciones mediante información incorrecta y sesgo, y el espacio geopolítico se ha vuelto más volátil. La creación de conflictos sociales bajo información falsa contra seguidores y detractores de causas específicas y la proliferación de noticias falsas es una realidad en casi todos los países.
Nuestra dependencia de las redes sociales y sus algoritmos nos ha hecho enormemente susceptibles a la desinformación y al sesgo y, por lo tanto, presas fáciles de ser manipuladas.
De acuerdo con un ensayo titulado “Los sesgos hacen vulnerables a las personas a la desinformación difundida por las redes sociales”, publicado por The Conversation, un medio de comunicación sin ánimo de lucro, existen tres categorías de sesgos que hacen que las redes sociales sean un hábitat propicio para la desinformación, ya sea intencionada o accidental. Cabe destacar que la mayoría de nuestras noticias provienen de las redes sociales hoy en día.
Estos tres tipos de sesgos son:
- Sesgo en el cerebro: «Los sesgos cognitivos surgen de cómo nuestro cerebro procesa la información que enfrenta a diario».
- Sesgo en la sociedad: “Cuando las personas interactúan directamente con sus iguales, los prejuicios sociales que guían su elección de amigos influyen en la información que ven».
- Sesgo en la máquina: “El tercer tipo de sesgo es generado directamente por los algoritmos utilizados para determinar lo que las personas ven online. Tanto las plataformas de redes sociales como los motores de búsqueda los emplean”.
Esta combinación de sesgos ha dado lugar a un entorno óptimo para que los actores malintencionados utilicen nuestras fuentes de noticias actuales para difundir información falsa. Cabe destacar que el sesgo también es omnipresente fuera de las redes sociales. Los artículos y las noticias periodísticas corren el riesgo de estar sesgados debido a las preferencias del autor o la editorial. Esto no es algo nuevo.
Aplicación de la Inteligencia Artificial en la lucha contra la desinformación y los sesgos
El surgimiento de la inteligencia artificial (IA) ha traído consigo innovadoras herramientas capaces de utilizarse en la lucha contra la desinformación y los sesgos en las noticias.
Por ejemplo, cuando se aplica adecuadamente, la IA puede detectar y erradicar de manera eficiente ciertos contenidos falsos y problemáticos en línea. Empresas como Google, Twitter y Facebook ya utilizan la IA para identificar bots falsos. Y, a menudo, estos bots falsos son utilizados para diseminar información incorrecta y noticias sesgadas.
Considero que se deben desarrollar marcos de IA innovadores para enfrentar este problema y deben optimizarse los ya existentes, ya que muchos han probado ser problemáticos. Estos problemas se vuelven aún más peligrosos cuando surgen conflictos. Por ejemplo, los conflictos militares, como el actual entre Rusia y Ucrania, dan lugar a la difusión acelerada de información incorrecta.
Existen múltiples herramientas basadas en IA en desarrollo. Por ejemplo, NT CONECTAR un desarrollador de tecnología internacional, ha anunciado recientemente el lanzamiento de su aplicación de agregación de noticias, NOOZ.AI. El motor de análisis del lenguaje impulsado por IA tiene como meta aportar transparencia al sesgo polarizador que se encuentra en los medios de comunicación actuales. Busca lograr esto informando a los lectores sobre la influencia de los medios de comunicación antes de que lean un artículo.
«Los escritores o periodistas tienden a oscilar hacia un sesgo en particular, a menudo sin que el lector lo sospeche», señala el comunicado de prensa de la empresa. «Al ser consciente del sesgo histórico del autor y de las fuentes de noticias, los consumidores pueden analizar el artículo con una mentalidad más objetiva y resistir la manipulación para pensar de manera específica acerca de un tema en particular».
La herramienta NOOZ.AI se sustenta en cuatro ejes clave:
- Análisis de opinión: Ayuda a los lectores a determinar la presencia de sentimientos, puntos de vista, creencias o juicios personales en los escritos de un periodista.
- Análisis de los sentimientos: La herramienta utiliza análisis de sentimientos para ayudar a los lectores a evaluar el apoyo u oposición de un escritor al contenido general de las noticias o al tema específico.
- Análisis de propaganda: Puede detectar posible desinformación identificando el uso de hasta 18 posibles técnicas de persuasión.
- Análisis de revisión: Los lectores pueden investigar la evolución de una noticia y su manipulación de la opinión y el sentimiento a lo largo del tiempo.
La aplicación proporciona puntuaciones para cada artículo, con puntuaciones de opinión que van de 0 a 100 y puntuaciones de sentimiento que van de -100 a 100. Además, rastrea todas las ediciones de texto para cada revisión y brinda a los lectores la posibilidad de comparar distintas versiones.
Según Garry Paxinos, CTO de NT CONNECT:
“La información sesgada es una preocupación notable en la sociedad actual. La desinformación es la palabra comúnmente (mal) utilizada. Pero la realidad es que el propio lenguaje puede usarse para manipular y persuadir al lector ocasional. Al analizar el lenguaje de manera objetiva, evitamos el sesgo subjetivo que se encuentra en otros enfoques. En lugar de etiquetar subjetivamente la información errónea, nuestro enfoque es iluminar cómo se puede manipular con titulares, historial de revisiones y texto de artículos exagerados”.