La nueva política obliga a Anthropic a cumplir con la normativa de la UE denominada «Código de Buenas Prácticas sobre Transparencia del Contenido Generado por IA». Este código establece normas para marcar y detectar contenido generado y manipulado por IA.
Este martes se intensificó la reacción negativa ante el plan de Anthropic de comenzar a incluir una marca de agua invisible en los textos e imágenes generados por el modelo de IA Claude, a medida que los usuarios protestaban contra la idea de que el uso de la IA fuera detectable en su trabajo.
Datos clave
- La nueva política , que adapta a Anthropic a la normativa de la Unión Europea, se anunció el martes e incluirá marcas de agua integradas en los contenidos multimedia creados por Claude.
- Los textos generados por Claude llevarán una marca de agua invisible que “viajará con el texto cuando se copie y pegue en otro lugar”, y otros archivos que cree la IA, incluidas las imágenes, ahora incluirán metadatos firmados digitalmente.
- Aún está por verse cómo se verá esto en la práctica: Anthropic afirma que publicará más información sobre cómo reconocer las marcas de agua y advierte que no serán infalibles: las marcas de agua de texto pueden borrarse si el texto se edita en exceso y los metadatos de un archivo podrían desaparecer si cambia el formato del archivo, se toma una captura de pantalla o por otros medios.
- La nueva política, de la que los usuarios no podrán eximirse, se aplicará a todos los modelos y productos de Claude en todo el mundo, incluidos Claude Code y Claude Cowork.
- El plan recibió una rápida reacción negativa en X y Reddit, donde los usuarios lo calificaron de ” tontería ” y ” sumamente problemático “, y declararon el fin de “la era de la escritura por IA indemostrable”.
- La mayoría de las quejas procedían de personas que afirmaban usar Claude únicamente para corregir textos que habían escrito por su cuenta, y de programadores, que decían que les preocupaba que añadir una firma criptográfica a un código “degradara el resultado”.
CITA CRUCIAL
«Había dejado de usar Grammarly y me había pasado a Claude para la corrección de textos porque funciona mejor», publicó Erick Erickson, presentador de radio y bloguero, en X. «Pero ahora mis escritos tendrán una marca de agua que indica que Claude los corrigió. Esto es ridículo».
TANGENTE
El anuncio de la nueva política desató un debate en línea sobre quién debería recibir el crédito por el trabajo generado por IA: ¿la máquina que lo creó o la persona que le dio las instrucciones? Un usuario de Reddit inició una discusión acalorada al afirmar que los usuarios humanos deberían recibir el crédito por el contenido generado por el modelo de IA, no la máquina: “Yo di las instrucciones, el contexto, las decisiones e innumerables refinamientos, Claude fue la herramienta”, dijo . Los comentaristas que no estaban de acuerdo dijeron que la marca de agua no es Claude “reclamando el crédito, es reconocer que el contenido fue creado por IA”. Otros argumentaron que no dar crédito a la IA es poco ético: “Claude creó el trabajo y TODO lo que hiciste fue dar instrucciones. Si tu supervisor vino y te dio instrucciones para un proyecto y una vez que lo completaste, luego procedió a tomar el 100% del crédito, podrías estar comprensiblemente molesto. ¿Por qué? Porque todo lo que hizo tu supervisor fue dar instrucciones y tú aplicaste tu conocimiento y experiencia e hiciste la codificación”, escribió un comentarista .
Antecedentes clave
La nueva política obliga a Anthropic a cumplir con la normativa de la UE denominada «Código de Buenas Prácticas sobre Transparencia del Contenido Generado por IA». Este código establece normas para marcar y detectar contenido generado y manipulado por IA, así como para etiquetar deepfakes y otros textos generados o alterados por IA. A finales de julio, casi 200 empresas habían firmado el código y se habían comprometido a cumplirlo, entre ellas Anthropic, Meta, Microsoft y OpenAI. Google lleva aplicando marcas de agua a sus imágenes generadas por IA desde 2023 y, posteriormente, ha extendido esta práctica a texto, audio y vídeo. OpenAI también utiliza marcas de agua invisibles para las imágenes.
DATO SORPRENDENTE
OpenAI lleva tiempo contando con la tecnología para añadir marcas de agua a los textos generados por modelos como ChatGPT, pero ha optado por no publicarla. Según el Wall Street Journal, el debate interno sobre su implementación lleva años en marcha, pero los argumentos sobre los falsos positivos, la elusión de medidas de seguridad y la preocupación de que pueda llevar a los usuarios a optar por la competencia han prevalecido, por ahora.