Tecnología, política y ética: la alteración de imágenes que impacta directamente en la democracia

Hace algunas semanas, la candidata presidencial de Chile Vamos, Evelyn Matthei, acusó a sectores del Partido Republicano de alterar videos suyos con inteligencia artificial. Si bien se comprobó que la pieza audiovisual fue ralentizada para hacerla ver falsa, se abrió una caja de pandora respecto de la práctica con las nuevas tecnologías a la mano y un eventual mal uso con fines políticos.

Si bien son los primeros casos en Chile, en otras partes del mundo ya se transformó en una realidad. Donald Trump, junto a Elon Musk, en Estados Unidos recurrió a la misma práctica llamada “deepfake” en las últimas elecciones: difamar a sus contendientes con contenido generado o alterado por inteligencia artificial. Una afectación que no solo impacta en la figura política sino que también tiene sus consecuencias en la democracia.

En diálogo con Radio y Diario Universidad de Chile, Ana María Castillo, co-directora del Núcleo de Inteligencia Artificial, Sociedad, Información y Comunicación, sostuvo que este “es otro ejemplo, entre muchos, que resalta el aumento de la utilización de IA generativa con fines que contaminan el ecosistema informativo”.

En esa línea, apunta a que “hace bastantes años que la alteración de información o imágenes con esta tecnología es parte del problema”. La académica además enfatizó en la arista ética que envuelve al uso de las nuevas tecnologías.

“Mi reflexión se orienta a que las tecnologías, especialmente la IA generativa aumenta capacidades, facilita tareas y aporta amplitud de difusión entre muchas otras cosas, entonces debe ser usada éticamente, pero esto es un supuesto sobre el inicio de lo que le pedimos a la tecnología, no sobre la tecnología en sí misma”, manifestó Castillo.

No obstante, también advirtió que “una segunda capa de ese asunto es pensar cuán éticos son los desarrollos tecnológicos que permiten o facilitan la alteración de información con propósitos maliciosos”.

Consultado por nuestro medio, el diputado Tomás Lagomarsino (IND), impulsor de uno de los proyectos que norma el uso de inteligencia artificial en el país, el cuál se refundió con el presentado por el actual Gobierno, señaló que esta situación nueva en política es también “un problema de la sociedad producto de los avances tecnológicos”.

Tomando este caso de Matthei, pero también otros, explicó que la ley que se discute en el Congreso Nacional busca “regular las deepfakes”. “No desde la perspectiva penal, pero sí desde la perspectiva de como se limita el uso de estas tecnologías, insisto, no exclusivamente en las campañas políticas, porque aquello es uno más en la lista de este problema, sino que se limita respecto a la sociedad en general. En la estafa, en el bullying escolar, entre tantas otras”, aclaró Lagomarsino.

No obstante, en casos específicos de la política y la “guerra sucia” a través de IA, que pueden a su juicio “tomar ribetes bastante inesperados o masividad justamente por esta nueva tecnología”, llamó a robustecer instituciones como el Servicio Electoral.

“Es allí donde uno llama a los mecanismos técnicos en materia electoral, como el Servel, a buscar educar a la ciudadanía. Y que no es solamente un rol hoy día del Servel en materia de campaña, es un rol que tiene que tener el Estado en cuanto a la alfabetización digital y en particular referente a la inteligencia artificial. Cómo alfabetizamos a la población respecto a inteligencia artificial, sus beneficios, pero también sus riesgos y cómo identificarla”, comentó.

Impacto en la democracia

En un período de elecciones, donde los ataques personales se vuelven más intensos y agresivos, en busca de resultados, se vuelve necesaria una reflexión sobre cómo las tecnologías nuevas se utilizan con estos fines y debilitan las democracias.

“Afecta significativamente, las nuevas tecnologías vienen afectando o cambiando la forma en la cual se hace democracia en el mundo hace hartos años. No son fenómenos nuevos, obviamente se ven exacerbados producto de la inteligencia artificial que lleva esto a otro nivel”, expresó Lagomarsino al respecto.

Una visión con la que compartió Ana María Castillo al ser consultada por esto. “Pienso que la personalización de contenidos y la posibilidad de alterar maliciosamente información son dañinas para cualquier democracia que pretenda ser robusta. Aceptar su uso y no cuestionar a medios o representantes políticos que se nutren de información alterada me parece un fallo de sistema preocupante”, indicó.

Discusión legislativa

El diputado Lagomarsino destacó la importancia de avanzar en el proyecto de ley que regula la IA en Chile, ante el rápido avance de estas tecnologías, sin embargo, advirtió que la discusión “no hay que darla apresurada”.

“Chile es el primer país de Latinoamérica en iniciar la discusión de un proyecto de ley de inteligencia artificial, estamos siendo referentes. Pero no por tratar de ser los primeros, vamos a hacer rápida una discusión que requiere su tiempo, su análisis y su meditación”, afirmó el parlamentario.

Lagomarsino defiende que, si bien se debe regular esta materia, el proyecto “debe ser lo suficientemente flexible para no limitar el buen uso de los sistemas de inteligencia artificial y todo el beneficio que puede traer a la humanidad”.

Además, detalló algunos de los inconvenientes al respecto de legislar esta materia. “Tu puedes regularlo en el territorio nacional, pero muchas de estas herramientas o aplicaciones están fuera. Muchos sistemas de inteligencia artificial que son ocupados para desarrollar deepfakes están alojados en servidores de las grandes empresas transnacionales que en inteligencia artificial van a la vanguardia”, explicó el legislador.

No obstante, recalcó que un aspecto que sí debe incluir la nueva ley es, respecto de las deepfakes, el “limitar significativamente el uso de modelos de inteligencia artificial para emular la voz, comportamiento, la imagen de cualquier persona”.

“En cualquier situación, no solamente en candidaturas. Esta es una cuestión que hoy día se releva producto de la coyuntura del caso en particular, pero esto nace a propósito de otras coyunturas y casos que han sucedido en Chile y en el mundo”, cerró Lagomarsino.