OpenAI presenta su estrategia de desinformación antes de las elecciones de 2024

Mientras Estados Unidos se prepara para las elecciones presidenciales de 2024, OpenAI comparte su importancia Planes Sobre la lucha contra la información errónea relacionada con las elecciones en todo el mundo, centrándose en promover la transparencia sobre la fuente de la información. Uno de esos aspectos destacados es el uso de criptografía, estandarizada por la Alianza para la Autenticidad y el Origen del Contenido, para cifrar la fuente de las imágenes generadas por DALL-E 3. Esto permitirá que la plataforma detecte mejor las imágenes generadas por IA utilizando un clasificador de fuentes. que Para ayudar a los votantes a evaluar la confiabilidad de cierto contenido.

Este enfoque es similar, si no mejor, al SynthID de DeepMind para imágenes y audio generados por IA, como parte del propio sistema de Google. Estrategia de contenidos electorales Publicado el mes pasado. El generador de imágenes impulsado por IA de Meta también está agregando una marca de agua invisible a su contenido, aunque la compañía aún no ha compartido su disposición para abordar la información errónea relacionada con las elecciones.

OpenAI dice que pronto trabajará con periodistas, investigadores y plataformas para obtener comentarios sobre su clasificador de fuentes. Sobre el mismo tema, los usuarios de ChatGPT comenzarán a ver noticias en tiempo real de todo el mundo con atribuciones y enlaces. También serán dirigidos a CanIVote.orgel recurso oficial en línea sobre la votación en los Estados Unidos, cuando hacen preguntas de procedimiento como dónde votar o cómo votar.

Además, OpenAI está reiterando sus políticas existentes para detener los intentos de suplantación de identidad en forma de deepfakes y chatbots, así como contenido diseñado para distorsionar el proceso de votación o disuadir a las personas de votar. La empresa también prohíbe las aplicaciones diseñadas para campañas políticas y, cuando es necesario, las nuevas funciones de GPT permiten a los usuarios informar posibles infracciones.

OpenAI dice que las lecciones aprendidas de estas primeras medidas, si es que funcionan (y ese es un gran «si»), le ayudarán a implementar estrategias similares en todo el mundo. La compañía tendrá más anuncios relacionados en los próximos meses.