La Inteligencia Artificial al Servicio de la Posverdad

(tiempo de lectura: 9 minutos)

¿La tierra es plana o redonda? ¿los dragones existieron? ¿Elvis Presley era una persona real? ¿Israel bombardeó un hospital y mató a 150 personas en su última incursión a Palestina? Dentro de poco tiempo nada de esto se podrá saber a ciencia cierta.

En The Data West Ward sabemos que un martillo ayuda cuando sabes con qué lado martillar y con qué lado sacar clavos. Mucho se ha hablado de la IA como una herramienta de cambio positivo en el mundo, sin embargo, como cualquier herramienta, esta puede ser utilizada para los fines que sus usuarios decidan, y a mayor versatilidad y capacidades, mayor el potencial para ser usada con fines cuestionables. En LinkedIn no es popular hablar de gobiernos totalitarios, del deep state y los psy ops, del crimen organizado o simplemente de individuos malintencionados dispuestos a darle un mal uso a estas nuevas herramientas. Pero el hecho de que no hablemos de ello no nos va a librar de las consecuencias de todas estas personas e instituciones apalancandose de estas tecnologías para hacer el mundo un lugar peor.

La posverdad ha emergido como un fenómeno donde una realidad objetiva termina cediendo ante las emociones, creencias e intereses particulares. Aunque el término es reciente, el fenómeno como tal no lo es. Practicamente durante toda la historia humana la "verdad" ha sido creada por los ganadores y los poderosos. No se hablaba de ellos porque, sencillamente, esa era la situación y no tenía sentido discutirlo o intentar cambiarlo.

Fue gracias a la llegada de nuevas ideas (o más bien, su redescubrimiento) como el racionalismo, de nuevas tecnologías como la fotografía, y de nuevas profesiones como el periodismo, que las sociedades democráticas modernas pudieron formar puntos de referencia más o menos comúnes para juzgar la verdad, al menos para todos aquellos que estuvieran dispuestos a analizar la evidencia con espíritu crítico. Sin embargo, estas expectativas que teniamos sobre la llegada de una época dorada de raciocinio y verdades objetivas que fueran la base del discurso social y hasta científico se vió minada con la llegada de la edición profesional de imagenes, la manipulación de datos y la decadencia y servilismo del periodismo profesional y el gremio científico.

Y si la verdad ya estaba bastante maltratada antes de que llegaramos al tiempo presente la proliferación de las nuevas tecnologías como la inteligencia artificial generativa (AIG) tienen el potencial de ser el último clavo en el ataúd de la verdad y el comienzo de una nueva época de posverdad absoluta. La IA ha demostrado ser una herramienta poderosa en la creación de contenido falso, especialmente la IA Generativa, que apoyada por el cada vez más bajo costo de la capacidad de procesamiento, puede ya generar en segundos imagenes, audio o videos extremadamente realistas. Estos avances tecnológicos han llevado a la creación de noticias falsas y deepfakes hiperrealistas, que pueden ser indistinguibles de la realidad para una mayoría de personas. Estas nuevas herramientas no solo facilitan la distribución de información, sino que también pueden crear contenido convincente (con mínimo trabajo o conocimientos por parte del usuario que los crea), desde noticias falsas hasta videos de alta calidad, desafiando nuestra capacidad para discernir la realidad en un mundo que nos arroja a la cara cada vez más "información".

Vaya que simplificandolo: Pronto ya no vas a saber a ciencia cierta si a dos cuadras de tu trabajo hubo un ataque terrorista como lo viste en un video que se volvió viral en TikTok, que no sea saliendo a ver con tus propios ojos si efectivamente pasó.

Impacto en la Percepción Pública y la Democracia

Pensemos en lo que todo esto implica en el contexto de la democracia y la opinión pública. Las campañas de desinformación impulsadas por IA pueden influir en las percepciones y decisiones del público, desde opiniones sobre temas sociales hasta elecciones políticas. De nuevo, el fenómeno es tan viejo como la política, pero nunca habia sido tan sencillo como lo será con la llegada de la IAG. Este fenómeno plantea desafíos significativos para la integridad de los sistemas democráticos, donde una toma de decisiones informada es esencial para el adecuado funcionamiento de la sociedad democrática.

Pero no es solamente que el público vaya a ser más fácilmente engañado, es que ya ni siquiera vamos a saber quién hizo qué. La llegada de la IA Generativa hará en los próximos años extremadamente difícil, si no imposible, la tarea de hacer rendir cuentas a los funcionarios públicos. Muy pronto cualquier funcionario podrá encogerse de hombros ante audios o videos de él cometiendo actos ilícitos o de corrupción, diciendo las palabras mágicas: "eso lo han hecho con una IA". Los jueces y sistemas de justicia tendrán cada vez más dificultades para aceptar evidencia digital y dicernir cuál es real y cual es generada mediante algoritmos. Cada nueva campaña política nos veremos inundados de audios, fotos y videos de todos los políticos haciendo toda clase de fechorías: la guerra sucia elevada a la n-ésima potencia.

Pero la posverdad irá más allá de eso.

El fin de la verdad como la conocemos

Del mismo modo que nosotros crecimos en un mundo donde no podíamos decir que algo era verdadero solo porque lo leímos en internet, en el mundo en el que crecerán las nuevas generaciones no se podrá decir que algo es verdadero solo porque lo leímos/escuchamos/vimos, ya no solo en internet, sino basicamente en cualquier otro medio. La modernidad ha hecho extremadamente costeable generar cualquier clase de material audiovisual (ya no solamente digital, sino también físico) para cualquier clase de personas. Ya no tienes que saber leer y escribir para publicar un libro, ni tampoco saber del tema, si la IA ya lo sabe por ti. Estamos llegando rápidamente al punto donde será cuestión de pedirle a una IA que genere cualquier contenido audiovisual sobre cualquier persona o situación, y esta lo hará a un costo prácticamente cero. De ahí a las imprentas, a las redes sociales, al discurso público, a los mensajes privados.

Detengamonos por un momento a pensar en las implicaciones de esto: las siguientes generaciones verán videos de guerras en el extranjero, documentales de dragones, alunizajes, grabaciones del holocausto judío o simplemente personas en una entrevista, y no tendrán manera de saber si lo que están viendo tiene un atisbo de veracidad o si por el contrario todo fue completamente generado por una Inteligencia Artificial. Y si tu respuesta es "claro que vamos a saber, porque para eso seguirá existiendo Reuters, AP o los fact checkers", entonces a tí ya te perdimos hace muchos años (no nos des unfollow).

En cuestión de unas pocas generaciones, vamos a pasar de un mundo donde teniamos el potencial de saberlo todo (gracias a internet), a un mundo donde no podremos tener la seguridad de saber casi nada (una vez que la desinformación inunde internet).

¿Como le vamos a enseñar a nuestros hijos a navegar este nuevo mundo de (des)información ilimitada?

Contramedidas y Ética de la IA

Ante estos desafíos, surgen preguntas cruciales sobre las contramedidas y la ética en el uso de la IA. ¿Será posible desarrollar y aplicar tecnologías de IA éticas y transparentes, así como estrategias para detectar y combatir la información falsa?

Desde este espacio, estamos seguros de que no. El poder será el primero en aprovechar el mal uso de estas herramientas, como lo ha hecho con todas las demás herramientas de las que ha echado mano. Desde luego que los optimistas de LinkedIn llamarán a un concenso global de uso ético de la IA, organizarán simposios y se tomarán fotos en redes sociales. En el mejor de los casos, los políticos del mundo se subirán al tren y querrán ponerse ellos también una estrellita y se hará una pantomima a nivel global para pretender que algo se hizo, similar a la guerra contra las drogas o el cambio climático. En el peor de los casos, los gobiernos aprovecharán el rio revuelto para empujar (mientras nadie los ve) leyes de censura y control de estas herramientas, mientras se permiten a sí mismos toda clase de excepciones a sus propias reglas, en detrimento de sus ciudadanos.

¿Educación pública en alfabetización mediática y digital? ¿equipar a las personas con las habilidades necesarias para navegar en un paisaje mediático cada vez más complejo? Nada de esto se ha hecho hasta ahora, y se seguirá sin hacer precisamente por las mismas razones: una masa de personas incapaces de distinguir la realidad de la ficción es presa fácil de los grupos de control y el aparato de propaganda estatal.

¿Alguna otra idea? Dejala en los comentarios.

¿Hay luz al final del tunel?

En este espacio no somos catastrofistas, pero tampoco miramos ciegamente hacia adelante. Entendemos que cada nueva tecnología, cada nuevo invento, cada nueva idea, eventualmente ha ayudado a hacer a la humanidad un poco más sabia y un poco más civilizada, aunque muchas veces de la manera que menos pensabamos que lo haría.

Tal vez un mundo donde ya no sepamos nada a ciencia cierta juegue a favor de la sociedad. Tal vez la posverdad nos obligue a todos a volvernos más críticos, más desconfiados, más dudosos ante las intenciones de quien nos quiere vender cualquier nueva idea. Tal vez dejemos de concentrarnos en las desgracias que pasan del otro lado del mundo y nos concentremos en lo que ocurre a nuestro alrededor, que es precisamente donde tenemos la capacidad de actuar y generar cambios. Tal vez viajar y conocer otros lugares vuelva a significar algo. Tal vez el honor y la reputación vulevan a ser valiosos, y las personas e instituciones estén dispuestas a no tratar su poder mediatico como un cheque en blanco para decir mentiras o favorecer a los grupos de interés. Tal vez nos volvamos una sociedad que nos obligue como individuos a jugarnos el pellejo por nuestras opiniones. Y tal vez, mientras la IA juegue un papel importante en darle más poder al poder, otras tecnologías se encargarán de minar ese poder y volver a nivelar el juego (vires in numeris).

Conclusión

Pocos están conscientes del enorme impacto que la llegada de nuevas tecnologías como la IA Generativa y el abaratamiento y democratización de las nuevas tecnologías va a traer a la manera como funcionamos como sociedad en términos de qué podemos saber, y cómo es que podemos estar seguros de lo que sabemos. Individuos e instituciones que se preparen para navegar esta nueva era que comienza, podrán protegerse (de la mejor manera que se pueda) de los efectos negativos de esta nueva situación. Aquellos que estén desprevenidos serán presa fácil de esta nueva era de ignorancia y desinformación.

Mariana Lovelace.

Mariana estudió Ciencias de la Computación en la Facultad de Ciencias de la UNAM y entró a The Data West Ward bajo el pseudónimo Lovelace.

Le interesan los temas relacionados a tecnología y feminismo.

Anterior
Anterior

OpenAI, Sam Altman y el Peligro de los Puntos Únicos de Fallo en las Organizaciones