Anthropic ha cambiado las reglas del juego de la IA, a partir de ahora la inteligencia de Claude llevará incorporada una marca de agua invisible para el usuario a simple vista, pero diseñada para ser detectada mediante herramientas específicas que permitan identificar su procedencia. La decisión ha llegado después de que la compañía se adhiriera al Código de Buenas Prácticas sobre la Transparencia del Contenido Generado por IA, vinculado al artículo 50 de la Ley de Inteligencia Artificial de la Unión Europea. A pesar de que el origen de la medida está relacionado con la normativa comunitaria, la compañía no limitará el cambio solo a los usuarios europeos, de hecho, prevé implantarlo de manera global en todos los países en los que Claude está disponible. «Varios estados de Estados Unidos —entre ellos California, Connecticut y Oregón— han aprobado o están implementando sus propios requisitos para el etiquetado de contenidos de IA, y estamos viendo marcos similares en Corea del Sur y Vietnam», aporta Anthropic a este diario. Pero, será la única inteligencia que cambie su funcionamiento, Google y OpenAI han asumido compromisos para implementar el etiquetado de contenidos, además de las 190 organizaciones que han firmado el código y se han comprometido a implementar sus requisitos. Según la página oficial de la IA, el texto generado contendrá marcas de agua incrustadas, y los archivos generados, como PNG, JPG, o SVG, incluirán metadatos de procedencia firmados digitalmente donde sea compatible. «Cuando Claude genera un tipo de archivo compatible, como .png, .jpg o .svg, incorpora metadatos de procedencia firmados mediante el estándar abierto C2PA, utilizado en todo el sector. La etiqueta indica que el archivo ha sido procesado por Claude y permite comprobar si ha sido manipulado posteriormente», explica un portavoz de la entidad. En el caso de Claude , Anthropic explica que los modelos compatibles incorporarán una marca de agua integrada en el propio texto, sin alterar «el significado, la calidad o la legibilidad» de las respuestas. Al formar parte del texto, la señal puede acompañarlo cuando se copia y pega e incluso, según la compañía, «puede sobrevivir a algunas modificaciones». La tecnología estadounidense, igualmente, asegura estar trabajando para que «los usuarios y otros terceros puedan detectar las marcas de agua integradas» y los metadatos de procedencia. Para ello, tienen previsto lanzar una herramienta de detección de texto para que los usuarios puedan hacer más este tipo de comprobaciones por sí mismos. También explica que las marcas se aplicarán a los contenidos generados por los modelos compatibles, por lo que estarán presentes independientemente del producto de Claude desde el que se haya generado el texto. Entre ellos Claude API, Claude Code, Claude Cowork y Claude Tag. Incluso desde otras plataformas como AWS, Google Cloud o Microsoft Foundry y, cuando corresponda, el acceso a sus modelos a través de plataformas de terceros. El sistema supone un nuevo paso en el intento de identificar el origen de los contenidos generados mediante inteligencia artificial, pero la propia empresa advierte de que la presencia o la ausencia de la señal no debe interpretarse como una prueba definitiva sobre el creador de un contenido, es decir, que no aparezca la marca no significa que necesariamente haya sido escrito por una persona. Ahí mismo, se encuentra una de las principales limitaciones. La señal puede aguantar pequeños cambios, pero no es imborrable. Si un usuario edita considerablemente el contenido, lo parafrasea, lo traduce o lo mezcla con otros textos, la huella puede terminar desapareciendo . Lo mismo ocurrirá si el fragmento es demasiado corto o cuando procede de una versión del modelo anterior a la introducción del sistema. Su uso, de hecho, es especialmente relevante en ámbitos como la educación, la investigación o los medios de comunicación, donde la necesidad de acreditar el origen de un contenido ha ganado importancia conforme se iban desarrollando inteligencias artificiales. «Es difícil identificar los textos generados por inteligencia artificial, y esto proporciona a las personas mejores herramientas para su identificación», argumenta Anthropic. La carrera por identificar lo que está detrás de los contenidos, no empieza ahora. Ya en 2023, investigadores de la Universidad de Stanford desarrollaron DetectGPT. La diferencia es que, mientras aquellos sistemas trataban de descubrir las huellas que la IA dejaba involuntariamente al escribir, Anthropic pretende ahora que sea el propio modelo el que deje conscientemente su rastro.
