¿Deberíamos conformarnos con un mundo en el que sea imposible distinguir el contenido generado por inteligencia artificial (IA) de los producidos por humanos? La pregunta es cada día más candente: los textos engañosos han proliferado desde el lanzamiento, en noviembre de 2022, del robot conversacional ChatGPT, y las fotos engañosas como la del Papa con una chaqueta blanca se multiplicarán con el auge de software como Midjourney. .
En respuesta, algunos están buscando formas de hacer que este contenido sintético sea detectable. El desafío es complejo, pero de actualidad: el martes 23 de mayo, el gigante del software Microsoft anunció soluciones en este sentido y el ministro de Economía francés, Bruno Le Maire, planteó el tema en París con Sam Altman, director ejecutivo de OpenAI, el creador de ChatGPT.
» [Rendre détectables les contenus créés avec l’IA] ayudaría a combatir las trampas en la universidad, o la generación masiva de propaganda y desinformación con el objetivo de, por ejemplo, inundar los blogs con comentarios a favor de la invasión de Ucrania”, A argumentó, en una conferenciaen noviembre de 2022Scott Aaronson, el investigador responsable de trabajar en esta cuestión en OpenAI.
“Mantener las distinciones es un imperativo ético por razones relacionadas con los usos de la IA, en la educación, la salud o el derecho, pero también, a nivel filosófico, para delimitar qué es la responsabilidad humana y qué la hacen las máquinas, agrega Alexei Grinbaum, miembro del Comité Piloto Nacional de Ética Digital y autor de palabras de maquinas (Humenciencias, 192 páginas, 17,90 euros).
Herramientas integradas o externas
Con esto en mente, Microsoft ha anunciado la integración de un “marca de agua criptográfica invisible” (O filigrana) en las imágenes creadas por su software Designer y Bing Image Creator: consultando el progreso de una foto o video –es decir, la información adjunta a este archivo–, «el usuario podrá ver que fue creado con una IA», explica el grupo.
Disponible » en los próximos meses «, esta indicación de la » origen » de contenido se basa en un estándar llamado C2PA. Esto también ha sido integrado por Adobe en la herramienta de edición de imágenes AI disponible en su famoso software Photoshop. OpenAI también está estudiando técnicas de marca de agua para Dall E 2, su software para generar imágenes a partir de una descripción de texto. Y su competidor Midjourney ha adoptado un sistema de perfeccionamiento creado por IPTC, un organismo de estándares de la industria de los medios.
Te queda el 61,93% de este artículo por leer. Lo siguiente es solo para suscriptores.
