OpenAI quiere frenar fraude y bulos sobre la inteligencia artificial en procesos electorales

Jueves, 18 de enero de 2024 OpenAI, la empresa creadora de la aplicación ChatGPT, informó de que desarrolla un plan para proporcionar transparencia y mejorar el acceso a la información en el uso de inteligencia artificial (IA) en campañas electorales, que este año se vivirán en más de cincuenta países en cinco continentes, informa la IPS desde San Francisco (EEUU).

Una declaración de la firma tecnológica expuso que «mientras nos preparamos para las elecciones de 2024 en las democracias más grandes del mundo, nuestro enfoque es continuar nuestro trabajo de seguridad de la plataforma, elevando información electoral precisa, aplicando políticas mesuradas y mejorando la transparencia».

«Esperamos y aspiramos a que las personas utilicen nuestras herramientas de forma segura y responsable, y las elecciones no son diferentes», agrega el texto.

En particular «trabajamos para anticipar y prevenir abusos relevantes, como ¨deepfakes¨ (falsificaciones) engañosos, operaciones de influencia a escala o chatbots que se hacen pasar por candidatos», indica la declaración.

Los chatbots son aplicaciones diseñadas para imitar una conversación humana a través de interacciones de texto o voz. Los más modernos utilizan sistemas de IA generativa que son capaces de mantener una conversación con un usuario en lenguaje natural y simular la forma en que un humano se comportaría como interlocutor.

Las medidas fueron apenas esbozadas en el texto de OpenAI, una en el creciente grupo de corporaciones que desarrollan herramientas avanzadas de IA generativa.

«Antes de lanzar nuevos sistemas, los agrupamos, involucramos a los usuarios y socios externos para recibir comentarios y creamos mitigaciones de seguridad para reducir el potencial de daño. Estas herramientas proporcionan una base sólida para nuestro trabajo en torno a la integridad electoral», aseguró OpenAI.

La compañía dijo que «hasta que sepamos más, no permitimos que la gente cree aplicaciones para campañas políticas y lobby».

«Las personas quieren saber y confiar en que están interactuando con una persona, empresa o gobierno real. Por ese motivo, no permitimos que los constructores creen chatbots que pretendan ser personas reales (por ejemplo candidatos) o instituciones (por ejemplo gobierno local)» aseguró su declaración.

Tampoco permitirá «aplicaciones que disuadan a las personas de participar en procesos democráticos, por ejemplo, tergiversando los procesos y las calificaciones de votación (cuándo, dónde o quién es elegible para votar) o que desalienten la votación (por ejemplo, afirmar que un voto no tiene sentido).

«Con nuestros nuevos GPT, los usuarios pueden informarnos sobre posibles infracciones», asegura el texto.

También expuso que »una mayor transparencia en torno a la procedencia de las imágenes (incluida la capacidad de detectar qué herramientas se utilizaron para producir una imagen) puede permitir a los votantes evaluar una imagen con confianza en cómo se creó, y evitar esa clase de falsificaciones.

Pero, en paralelo, el director general de OpenAI, Samuel Altman, en un evento en el Foro Económico Mundial de Davos, Suiza, que a pesar de todas las medidas de seguridad implementadas por su empresa, no se siente tranquilo.

«Creo que es bueno que estemos muy preocupados. Vamos a tener que vigilar esto muy de cerca este año, con un seguimiento muy estricto y un circuito de retroalimentación muy estrecho», expresó.

Altman ha comparecido ante el Congreso de Estados Unidos y allí ha planteado la necesidad de que se adopten legislaciones para regular el empleo de la IA.

El uso de las redes sociales, y demás instrumentos facilitados por internet, para favorecer la desinformación en tiempo de elecciones, alimenta los temores acerca de que ese empleo negativo se magnifique con el uso de la inteligencia artificial.

Este año se efectuarán elecciones en más de medio centenar de países donde viven más de cuatro mil millones de personas.

Las primeras fueron las de Bangladesh, el 7 de enero, en donde la jequesa Hasina Wazed obtuvo un quinto mandato como primera ministra, y de Taiwán, donde el día 13 se eligió como nuevo presidente a Lai Ching-te, del independentista Partido Democrático Progresista.

A lo largo del año se prevén elecciones generales, presidenciales, parlamentarias o regionales en Alemania, Argelia, Australia, Austria, Azerbaiyán, Bélgica, Bielorrusia, Bosnia y Herzegovina, Botsuana, Burkina Faso, Camboya, Canadá, Chad, Corea del Sur, Croacia, Eslovaquia, España y Estados Unidos.

También en Finlandia, Georgia, Ghana, Guinea-Bissau, India, Indonesia, Irán, Islandia, Lituania, Macedonia del Norte, Malí, Mauritania, Mongolia, Mozambique, Namibia, Pakistán, Polonia, Portugal, Reino Unido, Ruanda, Rumania, Rusia, Senegal, Sudán del Sur, Sudáfrica, Turquía y la Unión Europea.

En América Latina están pautadas elecciones en Brasil, Costa Rica, Chile, El Salvador, México, Panamá, República Dominicana y Uruguay, y previstas en Venezuela.

Acerca de La Mar de Onuba 5505 Artículos
Revista onubense de actualidad, cultura y debate, editada por AC LAMDO, entidad sin ánimo de lucro inscrita en el Registro de Asociaciones de Andalucía con el número 4318 de la Sección 1. - Director: Perico Echevarría - © Copyright LAMDO 2017 / ISSN 2603-817X

Sea el primero en desahogarse, comentando

Deje una respuesta

Tu dirección de correo no será publicada.


*


Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.