OpenAI, una de las fuerzas centrales en el mundo del contenido generado por IA, está trabajando en una nueva herramienta (verificador de imágenes) para ayudar a los usuarios a detectar imágenes sintéticas.
Durante una entrevista en la conferencia Tech Live del Wall Street Journal , la directora de tecnología de la compañía, Mira Murati, reveló que la empresa está probando actualmente un programa diseñado para identificar imágenes DALL-E, afirmando que es «99% confiable».
Uno de los criterios es garantizar que la herramienta no haga que los usuarios “se sientan monitoreados”, señaló Murati.
Si bien OpenAI está a la vanguardia de este esfuerzo, no es el primero. Herramientas como AI or Not existen desde hace un tiempo para ayudar a las personas a distinguir las imágenes generadas por IA de las reales. Sin embargo, ninguna herramienta puede pretender ser a prueba de balas. En el caso de AI or Not, recientemente clasificó erróneamente una imagen de la guerra entre Israel y Hamas que resultó ser una fotografía real, informa PetaPixel .
La organización no ha proporcionado un cronograma específico para el lanzamiento de su nueva herramienta (verificador de imágenes), pero representa un paso importante para abordar los desafíos que plantean las imágenes generadas por IA en el panorama digital actual.
¿Pueden las herramientas de detección de IA ser 100% precisas?
Vale la pena señalar que las herramientas de detección de imágenes con IA no son nuevas en el mercado. El más popular probablemente sea AI or Not , pero no es inconfundible. Como informó recientemente PetaPixel [tema sensible], esta herramienta marcó una foto de la guerra entre Israel y Hamas como generada por IA. Sin embargo, un experto confirmó que, en realidad, se trataba de una foto real. Parece que la gente no sólo utiliza imágenes generadas por IA para difundir noticias falsas, sino que también utiliza detectores de IA para desacreditar los horrores de la guerra.
Por ahora, no existe ninguna herramienta de detección de IA que sea 100% precisa. Aún así, al menos pueden ayudarte a descubrir si los Gigantes de Kandahar o las personas que patean caimanes son reales. En cuanto a historias más serias, confíe en su sentido común y no crea todo lo que vea.
