DigitaLegal

Sabeu quin contingut s'ha d'etiquetar com a generat o modificat amb IA? Us ho explico amb les icones de la UE que si bé (aquestes) són opcionals, els requisits d'etiquetatge no ho són i apliquen a deepfakes i a text publicat sobre assumptes d’interès públic (que és com dir gairebé tot), tal com estableix l'article 50 del Reglament d’Intel·ligència Artificial o AI Act. L'ús d'aquestes icones no estableix el compliment legal per si mateix però les icones tenen com a objectiu ajudar les persones físiques exposades a aquest contingut a reconèixer, de manera clara i distingible, que el contingut ha estat generat o manipulat artificialment. Aquesta obligació fomenta la confiança pública, redueix el risc de desinformació i la visualització i lectura informades part part de les persones davant de tot tipus de contingut. 1⃣ La primera icona és la més bàsica i serveix per determinar simplement si s’ha fet servir IA (basic icon): Quan la IA participava en la creació de contingut de deep fake (imatge, àudio, vídeo) o text publicat, o quan s’afegeixen capes addicionals d’informació/interacció a sobre del contingut original gràcies a l’ús de la IA (subtítols generats, un xat interactiu o etiquetes descriptives afegides per IA). Alguns exemples: Un vídeo deepfake d’un actor que llegeix un discurs, amb la etiqueta en pantalla: “Veus generades amb IA”, acompanyada de la icona bàsica; un pòdcast on la IA clona la veu del presentador per llegir un anunci publicitari, però el guió l’ha escrit una persona; una fotografia real d’un paisatge a la qual s’afegeixen núvols o efectes de llum generats per IA, amb retocs finals d’una o més persones; un article d’opinió on la IA suggereix paràgrafs o frases, però l’autor els revisa, els modifica i els aprova abans de publicar. 2⃣ La segona icona fa referència a contingut totalment generat amb IA (fully AI-Generated): Quan tot el contingut de deep fake (imatge, àudio, vídeo) o text és generat completament per IA sense elements creats per humans ni control editorial humà (a part de les indicacions). Alguns exemples: Un vídeo deepfake d’un polític donant un discurs sobre un esdeveniment fictici que mai no ha passat, creat completament amb IA; una cançó sencera composta per IA, amb lletra, melodia i veus sintètiques, sense cap intervenció musical humana; una obra d’art digital generada amb eines d’IA generativa sense retocs ni modificacions posteriors; un resum automàtic de notícies generat per IA i publicat tal qual, sense revisió prèvia per part d’un periodista o editor. 3⃣ La tercera icona fa referència a una modificació parcial amb IA (partially AI-Modified): Parcialment modificat amb IA: Quan ja existia, el contingut creat per humans es modificava parcialment amb IA que el convertia en un deep fake o text sobre assumptes d'interès públic. Alguns exemples: Un intercanvi de cares en una fotografia autèntica d’un míting i on la IA s’utilitza per substituir la cara d’un assistent per la d’un candidat polític; fotografies reals d’un apartament buit i on la IA s’utilitza per afegir-hi mobiliari virtual per mostrar diferents estils de decoració i ajudar en la venda immobiliària; un vídeo autèntic d’una roda de premsa on la IA s’utilitza per canviar l’àudio i per traduir-lo a un altre idioma i, també, sincronitza el moviment dels llavis amb la nova veu; un text escrit per un periodista que després utilitza la IA per fer-lo més breu, adaptat a xarxes socials o a un públic més jove, però mantenint el sentit original i la informació clau. Però on s'han de posar? Doncs la icona ha de ser clarament visible i distingible en el moment de la primera exposició. D'altra banda, s'ha de col·locar on no hi hagi elements superposats i integrar directament al text publicat o al deepfake, excepte en el cas d'obres creatives i/o tret que hi hagi alternatives equivalents disponibles (com ara una superposició d'interfície d'usuari). La icona també ha de ser visible quan es torni a compartir o es descarregui el contingut. Aquestes obligacions de transparència són aplicables a partir del 2 d'agost de 2026 i tenen com a objectiu el marcatge i la detecció de contingut generat per IA i a l'etiquetatge de deepfakes i certes publicacions generades o modificades amb IA. Més informació a: digital-strategy.ec.europa.e… I si us cal suport en aquest tema o en d'altres relacionats amb la IA podeu informar-vos a través dels nostres serveis OEIAC a: oeiac.cat/

📢 Sabíeu que les noves obligacions de transparència de la UE en matèria d'IA entren en vigor aquest dissabte 2 d'agost? Recordeu que si sou proveïdors o desplegadors d'un sistema d'IA a la UE, no podeu oblidar que les obligacions de transparència de l'article 50 del Reglament d'Intel·ligència Artificial o AI Act són aplicables a partir del 2 d'agost de 2026. Val a dir que aquestes obligacions afecten els sistemes d'IA que presenten riscos específics de transparència. En aquest sentit, la Comissió Europea ha publicat unes directrius oficials per ajudar-vos a complir-les, oferint consells pràctics per a una aplicació coherent i proporcionada. Aquí teniu les FAQ sobre aquestes obligacions de transparència: digital-strategy.ec.europa.e… Com us podem ajudar? Des de l'Observatori d'Ètica en Intel·ligència Artificial de Catalunya (OEIAC) us podem ajudar a navegar-les de forma pràctica i, a més, oferim els Models PIO (Principis, Indicadors i Observables) com una eina pionera d'autoavaluació que també us ajudarà a aterrar gran part d'aquestes obligacions d'una forma senzilla. Recordeu que els Models PIO són una eina d'accés lliure! Més informació al nostre portal OEIAC: oeiac.cat/

Als EUA, una sentència permet comprar llibres de tot tipus per palets, tallar-los, escanejar-los i triturar-los. La lògica? Si destruïxes l'original, la còpia digital el substitueix (fair use o ús legítim). El problema? Doncs que, paradoxalment, aquesta sentència recompensa destruir i castiga preservar les còpies originals dels llibres. Com s'origina aquesta situació? A partir de la sentència del jutge William Alsup al cas Bartz v. Anthropic que, el 23 de juny del 2025, va declarar que als EUA entrenar una IA amb llibres és "fair use" per ser transformador. Per tant, comprar llibres físics, tallar-los, escanejar-los i destruir els originals també ho és perquè considera que l'escaneig és una mera substitució de l'original que no es distribueix externament. Això sí, la sentència estableix que descarregar llibres piratejats per crear una biblioteca interna permanent i d'ús general no és "fair use". I aquest darrer motiu és el que fa que Anthropic acabi pagant 1.500 milions de dòlars en aquest cas però, també, suposa el canvi d'estratègia interna d'Anthropic (passa de piratejar LibGen a escanejar i triturar milions de llibres físics per entrenar la seva IA generativa). Aquesta pràctica és legal a Europa? D'entrada cal dir que no tenim el mateix concepte de "fair use" i que l'anomenada excepció de mineria de text (TDM) és del tipus *opt-out*, o sigui, que l'autor pot vetar-ho (això no vol dir que els autors estiguin al cas i ho facin, és clar). Val a dir, a més, que a països com Alemanya, només es permet escanejar per a recerca però no pas per a finalitats comercials (escanejar llibres per entrenar una IA comercial és una infracció directa). El problema és que, sí bé la regulació europea no ho permet, la compra massiva de llibres s'està donant igualment per portar a terme aquesta pràctica iniciada per Anthropic en una jurisdicció no europea (als EUA o Panamà). Les conseqüència més negativa de tot plegat no tan sols és la destrucció d'una quantitat abismal de llibres (centenars de milions i creixent), també ho és el fet que hi ha destrucció de llibres que són l'últim exemplar, llibres rars, de poca tirada o bé d'una història local o escrits en una llengua minoritària. Tot amb l'objectiu d'entrenar models d'IA generativa amb finalitats comercials i, és clar, amb un objectiu ben clar i és que el seu accés només sigui possible a través d'una consulta de chatbot. Després hi ha qui quedà sorprès que hi hagi un nombre creixent de persones que quan senten la paraula IA generativa estarrufin el nas i pensin en Alexandria v2.

Quan utilitzeu qualsevol LLM o chatbot que no s'executi al vostre propi ordinador, heu de donar per fet que tot el que escriviu, pengeu o envieu és recopilat, emmagatzemat i analitzat. Això inclou, de manera molt especial, les dades personals. Cada cop que introduïu un nom, una adreça electrònica, un número d'identificació, una fotografia, un document amb dades de salut o qualsevol informació que pugui identificar una persona, esteu lliurant i compartint aquesta informació a un sistema que pot retenir-la indefinidament. I compte amb les fotografies! No només contenen la imatge en si, sinó que incorporen metadades com ara la data, l'hora, les coordenades GPS i el dispositiu utilitzat, que també es poden extreure i emmagatzemar, a més de dades biomètriques si surten persones. Tècnicament, aquestes dades poden acabar en els conjunts d'entrenament dels models, de manera que el que avui lliureu i compartiu pot ser reproduït o inferit en futures interaccions amb la IA, fins i tot per altres usuaris. Cal tenir en compte que cada consulta, cada arxiu adjunt i cada conversa es registra als servidors dels proveïdors, i les empreses tenen polítiques de retenció de la informació obtinguda a través de la interacció amb els usuaris que poden allargar-se durant mesos o anys. En molts casos, aquestes interaccions s'utilitzen per entrenar les noves versions dels models, la qual cosa significa que allò que compartiu pot acabar formant part del coneixement intern de la IA i que, és clar, que va molt més enllà de la personalització dels serveis. Per això, cal ser especialment rigorosos amb les dades personals: noms complets, adreces, números d'expedient, fotografies, identificadors o matrícules, informes personals, currículums i qualsevol dada que pugui vincular-se a una persona física. Si una eina no s'executa localment al nostre equip o dins d'un entorn privat i controlat, hem de tractar-la com un espai públic. Fins i tot en entorns privats, hem de ser conscients que la seguretat no depèn només de la ubicació i, entre altres, cal avaluar si les dades es xifren en trànsit, si els accessos estan autentificats, o si el proveïdor té compromisos contractuals que impedeixin l'ús de les dades per a finalitats diferents de les previstes. En definitiva, si no tenim clar si l'eina és segura, encara que sigui local o dins d'un entorn privat i controlat, la nostra resposta ha de ser de màxima precaució i no utilitzar-la per compartir aquest tipus de dades. Per això, la millor pràctica és ben senzilla: per a dades internes i/o personals no feu servir LLMs o chatbos, i si ho feu, que siguin locals i aprovats en termes de seguretat i privacitat després d'una avaluació rigorosa. Feu servir el nostres Models PIO per saber-ne més sobre aquests i altres temes relacionats 👉 oeiac.cat/