Meta Crea Propio Sistema de Deteción de Contenido AI: ¿Necesario?
Meta desarrolla su propio detector de contenido generado por IA para proteger la integridad de la información y ofrecer a usuarios y plataformas una herramienta fiable.
Meta, la gigante de la tecnología, ha presentado su propio sistema de detección de contenido AI llamado Content Seal. Esta herramienta invisible marca imágenes generadas por el modelo de AI recientemente lanzado por la empresa. Sin embargo, hay un problema: Content Seal no parece tan fiable ni accesible como otros sistemas existentes, como SynthID de Google.
En marzo, la Junta de Control de Meta instó a la empresa a emplear herramientas propias para frenar la propagación de contenido de AI generativo engañoso. La empresa respondió en julio con el lanzamiento de los Muse Image y Muse Video, pero el anuncio apenas mencionó el Content Seal.
Para entender lo que es Content Seal, es esencial conocer la idea subyacente. Este sistema utiliza marcas dactiloscópicas invisibles que permiten identificar las imágenes generadas por el modelo de AI de Meta. Las marcas son demasiado pequeñas para ser reconocidas a simple vista y solo pueden ser detectadas mediante software especializado.
Cabe destacar que Content Seal está estrechamente relacionado con el programa Content Seal de Meta, que tiene como objetivo proteger el contenido generado de manera precisa. El programa busca mitigar los esfuerzos de las empresas para engañar a los usuarios y promoviendo una transparencia más alta en la generación de contenido.
💡 Opinión iaPasión
En iaPasión, creemos que Meta debería haber aprovechado la oportunidad de utilizar el establecido SynthID de Google. Content Seal no parece una herramienta innovadora ni confiable para detener la propagación de contenido falso generado por AI. Sin embargo, es consciente que el Content Seal es parte del esfuerzo más amplio de Meta para mantener su plataforma libre de contenido engañoso.