Marca el que genera la teva IA abans de desembre

Nota. Aquest post és una guia tècnica, no aconsellament legal. La classificació concreta del vostre sistema (si sou proveïdor, si s'aplica alguna exempció) mereix una revisió amb el vostre equip legal. El que sí que podem fer des d'enginyeria és tenir el sistema preparat i l'evidència documentada.

1. Què exigeix l'article 50, en quatre obligacions

• El període transitori només cobreix el marcatge del 50(2). L'AI Omnibus (Reglament (UE) 2026/1744) va donar marge fins al 2 de desembre únicament als sistemes generatius que ja eren al mercat abans del 2 d'agost, i només per al marcatge i la detecció. Si el vostre xatbot és en part interactiu i en part generatiu, l'avís de "estàs parlant amb una IA" ja hauria de ser-hi des d'agost.
• No s'ha de marcar retroactivament el contingut generat abans del 2 d'agost. Però si un text generat abans es publica després, sí que hi entra.
• Les multes per incomplir les obligacions de transparència poden arribar a 15 milions d'euros o al 3% de la facturació mundial anual, amb criteris de proporcionalitat per a pimes. La supervisió és sobretot de les autoritats nacionals de vigilància del mercat; l'Oficina d'IA només actua en casos concrets, com ara quan el mateix proveïdor ofereix el model d'ús general i el sistema construït sobre aquest.

2. "Però si jo només crido una API": per què probablement ets proveïdor

1. No n'hi ha prou amb suposar que el teu proveïdor marca. Els proveïdors de models d'ús general només estan animats a marcar a nivell de model, no obligats. Cal comprovar-ho, per model i per canal.
2. El teu pipeline pot esborrar la marca encara que el model la posi. Ho veiem a la secció 4.
3. Necessites evidència: quina tècnica fas servir, per què, com ho has verificat. Les Directrius i les anàlisis jurídiques insisteixen a documentar l'elecció tècnica, perquè aquest raonament és la teva prova.

3. Què queda fora (i què no tant)

• Seqüències curtes de números, símbols o lletres: paraules sueltes, peus d'imatge, text alternatiu, etiquetes d'interfície.
• Codi font, inclosos SQL, infraestructura com a codi, YAML o configuracions JSON, i els comentaris que formen part del codi.
• Sortides màquina a màquina que cap persona arriba a veure, com la comunicació entre agents.
• Fluxos tancats de producció (per exemple, en cinema o videojocs), tret de la sortida final.

1. La sortida és estrictament tècnica (dissenys d'enginyeria, instruccions tècniques, documentació interna de processos...).
2. Només la veu un grup limitat i predefinit de professionals dins de les organitzacions del proveïdor i del responsable del desplegament.
3. No està pensada per sortir de l'empresa, amb salvaguardes que ho impedeixin (aïllament, control d'accés per rols).

4. Com marcar, per tipus de contingut

4.1 Text: la marca viu en el mostreig

• OpenAI va anunciar el 5 d'octubre la seva marca d'aigua de text (textGrain). A l'API està desactivada per defecte: cal activar-la a la configuració de l'organització (Data controls > Text provenance) o del projecte, i triar els models. Si no heu tocat res, les vostres sortides de l'API d'OpenAI probablement no porten marca.
• Anthropic aplica la marca a nivell de model, en totes les seves superfícies i regions, per als models compatibles, i l'està afegint a models anteriors al 2 d'agost. Cal comprovar a la seva taula si el model concret que feu servir està cobert, inclòs el canal (API directa o núvol).
• Google: al fòrum oficial de desenvolupadors, Google ha confirmat que el text de l'API de Gemini porta SynthID, després d'haver dit inicialment el contrari. Mentre no sigui a la documentació, ho tractaríem com una cosa a confirmar per escrit amb el proveïdor.

from transformers import AutoModelForCausalLM, AutoTokenizer, SynthIDTextWatermarkingConfig

tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, padding_side="left")
model = AutoModelForCausalLM.from_pretrained(MODEL_ID)

# Les claus són un secret: es carregen d'un gestor de secrets, mai del repositori.
watermarking_config = SynthIDTextWatermarkingConfig(
    keys=load_watermark_keys(),   # llista d'enters, una per profunditat
    ngram_len=5,
)

inputs = tokenizer([prompt], return_tensors="pt", padding=True)
out = model.generate(
    **inputs,
    watermarking_config=watermarking_config,
    do_sample=True,               # la marca actua sobre el mostreig
    max_new_tokens=512,
)

• Amb una taxa objectiu de falsos positius de l'1%, va detectar la marca al voltant del 80% dels passatges de 200 tokens i al voltant del 95% dels de 400, en contingut com psicologia; en matemàtiques, molt menys.
• Substituir per sinònims el 10% de les paraules d'un passatge de 400 tokens va baixar la detecció d'alrededor del 92% al 66%; substituir el 25%, al 17%.
• En la seva prova amb les 24 llengües oficials de la UE, el castellà va ser la que millor detecció va donar (69%) abans d'ajustar la intensitat de la marca.

4.2 La trampa és al vostre pipeline, no al model

• Un segon model que "reescriu" o "polir" la resposta. Si aquest model no marca (un model petit autoallotjat per abaratir, per exemple), la sortida final no porta marca, encara que el primer sí que la posés.
• Traducció automàtica posterior amb un altre sistema.
• Plantilles que trossegen i recomponen text generat en fragments curts.
• Optimitzadors d'imatge i CDNs que redimensionen, converteixen a WebP o AVIF i eliminen metadades per defecte.

4.3 Imatges, àudio i vídeo: metadades signades més marca d'aigua

1. Metadades signades i amb segell de temps, de manera segura i a prova de manipulació. L'estàndard de facto és C2PA (Content Credentials).
2. Una marca d'aigua imperceptible en el propi contingut, que sobrevisqui quan les metadades es perden (captures de pantalla, conversions). C2PA permet enllaçar totes dues, de manera que la marca d'aigua ajudi a recuperar les credencials si s'eliminen.

from c2pa import Builder, C2paBuilderIntent, C2paDigitalSourceType

# El signer fa servir el vostre certificat de signatura, idealment desat en un KMS/HSM.
with Builder({}) as builder:
    builder.set_intent(
        C2paBuilderIntent.CREATE,
        C2paDigitalSourceType.TRAINED_ALGORITHMIC_MEDIA,  # "generat per IA"
    )
    with open("generated.jpg", "rb") as source, open("signed.jpg", "wb") as dest:
        builder.sign(signer, "image/jpeg", source, dest)

#!/usr/bin/env sh
# check-c2pa-survives.sh: genera una imatge de prova, la passa pel mateix
# pipeline que a producció (resize, conversió, CDN) i comprova que el
# manifest C2PA segueix allà. Adapteu la sortida a la vostra versió de c2patool.
set -eu
./scripts/generate-test-image.sh > /tmp/in.jpg
./scripts/run-image-pipeline.sh /tmp/in.jpg /tmp/out.webp
if ! c2patool /tmp/out.webp > /tmp/manifest.json 2>/dev/null; then
  echo "FALLADA: la imatge processada ja no té manifest C2PA" >&2
  exit 1
fi
grep -q "trainedAlgorithmicMedia" /tmp/manifest.json \
  || { echo "FALLADA: el manifest no declara contingut generat per IA" >&2; exit 1; }

5. Detectable no és el mateix que marcat

• El proveïdor ha d'oferir una solució de detecció, en principi gratuïta, allotjada a la UE o executable en local, i conforme al RGPD.
• Els proveïdors amb menys d'un milió d'usuaris mensuals la detecció dels quals tingui costos operatius importants poden cobrar una tarifa raonable quan un mateix usuari supera un volum raonable de consultes. Autoritats, mitjans, verificadors i investigadors sempre tenen accés lliure.
• Abans del 2 de febrer de 2027, la detecció de marques d'aigua ha de ser interoperable entre proveïdors (per exemple, mitjançant una API estàndard, un "senyal" llegible que indiqui quin detector fer servir, o un detector compartit).

6. La capa de procedència: com ho muntaríem

from dataclasses import dataclass
from enum import Enum

class Modality(Enum):
    TEXT = "text"
    IMAGE = "image"
    AUDIO = "audio"
    VIDEO = "video"
    CODE = "code"

@dataclass(frozen=True)
class GeneratedOutput:
    modality: Modality
    token_count: int | None
    audience: str              # "public", "customer", "internal_restricted", "machine"
    produced_by: str           # model i versió exactes
    upstream_marks: set[str]   # p. ex. {"provider_text_watermark", "c2pa"}

def marking_plan(out: GeneratedOutput) -> dict:
    """Decideix quines marques exigeix la política i deixa el motiu registrat."""
    if out.modality is Modality.CODE:
        return {"required": [], "reason": "codi font: fora de l'art. 50(2)"}
    if out.audience == "machine":
        return {"required": [], "reason": "màquina a màquina, sense exposició humana"}
    if out.audience == "internal_restricted":
        # L'exempció B2B exigeix les tres condicions de l'apartat 87.
        # No la decideix el codi: la valida legal i es configura per sistema.
        return {"required": [], "reason": "exempció B2B validada (ref. ADR-xxx)"}
    if out.modality is Modality.TEXT:
        if (out.token_count or 0) <= 200:
            return {"required": [], "reason": "text curt (≤200 tokens), sense marca d'aigua obligatòria"}
        return {"required": ["text_watermark"], "reason": "text lliure >200 tokens"}
    # Imatge, àudio i vídeo: dues capes.
    return {"required": ["c2pa_signed", "invisible_watermark"], "reason": "mitjà sintètic"}

def enforce(out: GeneratedOutput) -> None:
    plan = marking_plan(out)
    missing = set(plan["required"]) - normalize(out.upstream_marks)
    audit_log(output=out, plan=plan, missing=missing)
    if missing:
        apply_or_block(out, missing)   # marcar aquí o no publicar

• Inventari per model i per canal. produced_by i upstream_marks surten d'una taula mantinguda a mà i verificada: quins models marquen, des de quan, amb quina tècnica, i quin canal (API directa, Bedrock, Vertex, Azure). Aquesta taula és la vostra evidència, i s'assembla molt a l'inventari (AIBOM) del qual parlem al post anterior d'aquesta sèrie, sobre gateways de LLM.
• Les excepcions es configuren, no es dedueixen. El codi no hauria de decidir que una cosa és "B2B": aquesta classificació es valida un cop, es documenta i s'aplica per sistema.
• El gateway és un bon lloc per a això. Si ja centralitzeu les trucades a models en un gateway, és el punt natural per fixar quins models poden servir contingut de cara al públic i comprovar que tenen el marcatge activat.

7. No oblideu l'avís del 50(1)

• Mostreu-lo a la primera pantalla del xat, no als termes d'ús.
• Que també l'anunciïn els canals sense interfície visual: veu, WhatsApp, email.
• Reviseu els avatars i agents amb nom propi i to humà. Són justament els casos en què "és obvi" deixa de ser obvi.

8. Cinc errors que veiem venir

1. Donar per fet que el proveïdor marca. A OpenAI, per exemple, està desactivat per defecte a l'API.
2. Comprovar en desenvolupament i no en producció. El model, la regió o el canal de núvol canvien, i la cobertura del marcatge també.
3. Trencar la marca en un pas intermedi: reescriptura amb un altre model, traducció, optimització d'imatges.
4. Oferir l'exempció B2B per defecte a un producte que acaba enviant contingut a tercers.
5. No deixar rastre. Si arriba un requeriment, la pregunta serà quina tècnica feu servir, per què i com ho vau comprovar. Sense un registre, aquesta resposta no existeix.

Checklist: article 50 abans del 2 de desembre

• [ ] Tenim la llista de sistemes que generen text, imatge, àudio o vídeo per a persones a la UE, amb la seva data de posada al mercat (abans o després del 2 d'agost de 2026).
• [ ] Per a cadascun sabem si som proveïdor, responsable del desplegament o tots dos, i està validat amb legal.
• [ ] Les excepcions (codi, màquina a màquina, B2B de l'apartat 87) estan documentades per sistema, amb les seves tres condicions quan s'aplica la B2B.

• [ ] Existeix una taula verificada de quins models i canals marquen el text i com; a OpenAI, la marca d'aigua de text està activada a l'organització o el projecte per als models que fem servir.
• [ ] El text lliure de més de 200 tokens que arriba a usuaris surt marcat, inclòs el que passa per passos de reescriptura o traducció.
• [ ] Les imatges, l'àudio i el vídeo porten dues capes: metadades C2PA signades i una marca d'aigua imperceptible.
• [ ] Un test de CI comprova que les marques sobreviuen al pipeline real (resize, conversió, CDN).
• [ ] Les claus de marca d'aigua i els certificats de signatura C2PA estan en un gestor de secrets, amb rotació i accés mínim.
• [ ] Els termes d'ús prohibeixen eliminar les marques.

• [ ] Sabem com es detecta el contingut de cada sistema i qui pot accedir al detector; hem sol·licitat accés quan depenem del d'un proveïdor.
• [ ] Tenim un pla per a la interoperabilitat de la detecció abans del 2 de febrer de 2027.

• [ ] Els xatbots, agents i avatars avisen que són IA a l'inici de la primera interacció, a tots els canals.
• [ ] Si publiquem deepfakes o text d'interès públic sense revisió editorial, porten una etiqueta visible o audible.

• [ ] Cada decisió de marcatge queda registrada (sistema, model, tècnica, motiu), i hi ha un document que explica per què vam triar aquestes tècniques.

Conclusió