Es una de las formas para actuar contra los riesgos que esto tiene. Cuando hablamos de riesgos, no necesariamente nos referimos a que la inteligencia artificial (IA) debería estar prohibida o no existir. Nos referimos a que los beneficios que tiene sean mayores a los riesgos que puede implicar. Entonces, principios éticos entre organizaciones políticas y ciudadanos son una manera de mitigar la desinformación. Hoy se habla sobre la IA como un acelerador de los fenómenos de desinformación que teníamos antes en línea, lo cual hace mucho más difícil saber si es real o no. Una parte tiene que ver con principios éticos, otra es la manera para rastrearla, para que sea más fácil hacer el fact-checking. Teniendo marcas de agua o metadatos.
- En elecciones, los partidos firman el Pacto Ético Electoral del JNE. ¿Es necesario actualizar el uso de IA en esta campaña?
Lo interesante de Perú es que, a partir del 2022, en las Elecciones Regionales y Municipales, uno de los compromisos (número 11) que se hizo fue respecto a la desinformación y el uso ético de la IA, antes de ChatGPT y demás. En la IA hay un antes y un después. Una manera de verlo es la autorregulación y eso es lo que están buscando los pactos éticos. No se está diciendo que no se debe utilizar la IA, sino que tienes que utilizarla con integridad. Lo otro tiene que ver con no utilizarla para la manipulación política.
- De las últimas elecciones que hemos tenido en Latinoamérica, ¿qué casos tienes mapeados del mal uso de IA y que nos den luces sobre a qué tipo de desafíos nos podemos enfrentar en Perú?
Los deepfake. Tiene que ver con la manipulación de audio, video e imágenes, haciendo creer que un candidato o candidata ha hecho algo o nos está diciendo que hagamos algo que no es real. En América Latina lo hemos visto en las elecciones de Brasil, México y Argentina. Hubo virales sobre, por ejemplo, el candidato argentino Sergio Massa vestido como parte del Partido Comunista. Otra del propio Javier Milei vestido de león. Esto es parte de la campaña. Pero en México los deepfake estuvieron muy ligados al acoso político hacia las mujeres, por ejemplo, contra la actual presidenta Claudia Sheinbaum. Si bien en la investigación encontramos más de 40-50 deepfake en Latinoamérica, son los que terminan siendo verificados. En América Latina utilizamos mucho WhatsApp para información política. Esa información, como está encriptada, no necesariamente va a salir de este espacio. El contenido generado por IA no solo tiene que ver con lo que uno hace, sino también cómo genera esta desconfianza sobre todo lo que encuentras en línea. Se habla mucho sobre el ‘dividendo del mentiroso’, que se trata de: si hay la oportunidad de que algo sea falso o que sea generado por IA, entonces todo puede ser generado por IA. Y tienes candidatos o candidatas que dicen: ese audio donde estaba diciendo tal cosa es trucado.
- Porque ahora no solo puedes generar videos, sino también clonar voces con la IA.
Y regresamos a en dónde podemos mitigar el impacto. Por ejemplo, en Estados Unidos, Open AI, la empresa que tiene ChatGPT, generó una serie de políticas respecto a que no se podían hacer ciertas preguntas en ChatGPT que tuvieran que ver con las elecciones. Midjourney, que genera imágenes, también prohibió que se creen imágenes con los candidatos durante las elecciones. Entonces, también hay autorregulación por parte de las compañías. Pero el contexto de una campaña norteamericana o europea es completamente distinto al de Latinoamérica. Tiene mucho sentido que peruanos y peruanas le vayan a preguntar a ChatGPT cómo decidir su voto, cómo buscar información electoral. Ahí la pregunta es si el algoritmo está preparado para poder resolver preguntas sobre política peruana.
- La respuesta sería no. Se tiene evidencia de que estos sistemas desconocen contextos.
Sistemas como ChatGPT están siendo utilizados no solo como asistentes, sino también como una suerte de Google. Algo importante es cómo las instituciones electorales responden a estos retos. En Estados Unidos lo que se hizo fue colaborar con instituciones electorales para dar información confiable. El tema es que esa información tiene que estar puesta de una manera amigable para el usuario. En el caso de Latinoamérica, estas empresas no están creadas aquí. Entonces, lo que se necesita es integrar esfuerzos entre países para generar políticas en conjunto, que es lo que hizo la Unión Europea, para salvaguardar y generar esa necesidad de contextualizar cada proceso electoral. Hay una estrecha relación entre la IA y cómo se manejan las redes sociales.
- En cuanto a la autorregulación, ¿partiría de la misma ciudadanía o de las empresas?
Una suerte de innovación, digamos, regulatoria, es el caso de Brasil. Probablemente, es uno de los países en donde se ha estado trabajando mucho el tema de desinformación e inteligencia artificial, sobre todo por su pasado reciente. El Tribunal Supremo Electoral creó ciertas normativas para poder desincentivar el uso no explícito de inteligencia artificial dentro de la campaña. Lo interesante es que maneja una responsabilidad doble: de la persona que lo subió como de la propia compañía. Está siendo apelado por las propias compañías en las cortes brasileñas.
- En el Perú, ¿cuál es el tramo extra para la regulación electoral respecto a la IA?
Una innovación que se ha hecho en materia de desinformación en Perú tiene que ver con los comités de fact-checking. El 2021, las propias instituciones electorales hicieron fact-checking, que fue muy útil porque hubo muchas acusaciones de fraude. Tenemos la estructura que se puede utilizar para el 2026, para verificar lo realizado con IA. Pero será importante seguir la implementación de la Ley para promover la inteligencia artificial, y utilizarla de manera ética. Un marco regulatorio en donde tienes maneras para promoverla, pero también para mitigar los impactos o qué le vas a exigir a las compañías que cumplan con tal de que puedan operar en nuestro país. Esa es una manera mucho más propositiva respecto a cuáles son nuestros mínimos.
- La campaña va a ser especialmente compleja por la cantidad de partidos y candidatos, ¿qué se podría establecer como buenas prácticas alineadas a este proceso electoral?
Mucho de lo que pasa en temas de IA es que estas compañías tienen dentro de sus sistemas políticas previas. El tema es que la rendición de cuentas sobre cómo se están haciendo o si es que realmente están siendo implementadas todavía no está tan clara. Es necesaria más transparencia sobre cómo están funcionando. Ahí hay una oportunidad para acuerdos de cooperación entre instituciones electorales, entre fact-checkers, sociedad civil. Las instituciones electorales son el primer paso que tenemos para alimentar estos sistemas o redirigirte a las fuentes de información. Las elecciones son importantes para el futuro de un país, deben tener guías muy específicas sobre qué se puede hacer o cómo se pueden evitar los daños que pueden existir en la democracia.
