Meta añadirá la etiqueta Meta con IA para identificar los contenidos creados por IA

El 05 de abril de 2024, el gigante de Facebook e Instagram Meta anunció el etiquetado de los medios generados por IA a partir de mayo. La nueva etiqueta «Hecho con IA» de Meta identificará el contenido creado o modificado con IA. Incluirá imágenes, vídeo y audio. Este paso se dará para tranquilizar a los usuarios y a los gobiernos sobre los riesgos de los deepfakes. Esta política surge como respuesta a las críticas de la junta de supervisión de Meta, responsable de revisar la política de moderación de contenidos de Meta.

Los responsables de la moderación de contenidos de Meta afirmaron que la política de IA es demasiado limitada, ya que sólo incluye el vídeo. En 2020, la introducción de una nueva etiqueta de IA marcó un importante punto de inflexión, ya que en aquel momento era poco frecuente encontrar contenidos manipulados por IA. Anteriormente, este tipo de contenidos manipulados adoptaban predominantemente la forma de vídeos. Sin embargo, el panorama ha evolucionado drásticamente desde entonces. Hoy en día, la IA es capaz de generar contenidos manipulados no sólo en formato de vídeo, sino también como fotos y audio.

Meta afirma en una entrada de su blog: «En los últimos cuatro años, y especialmente en el último, se han desarrollado otros tipos de contenidos realistas que produce la IA, como audio y fotos, y esta tecnología está creciendo rápidamente».

Varios gigantes de la tecnología y la IA, como Meta, Google y OpenAI, acordaron cooperar para acabar con los contenidos manipulados que pretenden engañar a los votantes. Utilizarán un estándar común de marcas de agua para etiquetar de forma invisible las imágenes generadas por aplicaciones de IA. Nicolas Gaudemet (Director de Inteligencia Artificial de Onepoint) ha declarado que «identificar los contenidos de IA es mejor que nada, pero seguro que hay agujeros».

El despliegue se producirá en dos fases, con el etiquetado de contenidos generados por IA a partir de mayo de 2024. La eliminación de medios manipulados basada en la antigua política cesará en julio. Sin embargo, cualquier contenido, incluso manipulado con IA, permanecerá a menos que viole otras normas como la incitación al odio o la interferencia electoral. Meta también explicó: «Si determinamos que las imágenes, los vídeos o el audio modificado digitalmente tienen un alto riesgo de defraudar materialmente al público sobre algo importante, podemos añadir una etiqueta más prominente».

En febrero, el consejo pidió a Meta que revisara su enfoque de la manipulación de los medios de comunicación para convencer a los Deepfakes. La advertencia se produjo como respuesta al mal uso de la Inteligencia Artificial para difundir desinformación en las elecciones no solo en Estados Unidos, sino en todo el mundo. La etiqueta «Hecho con IA» se utilizará para el contenido considerado de alto riesgo para engañar al público.

Monika Bickert (Vicepresidenta de Política de Contenidos de Meta) declaró en una entrada de blog: «Estamos de acuerdo en que ofrecer transparencia y un contexto adicional es ahora la mejor manera de abordar estos contenidos. Las etiquetas cubrirán una gama más amplia de contenidos, además de los contenidos manipulados que el Consejo de Supervisión recomendó etiquetar»