Desde el 2 de agosto comenzaron a aplicarse en la Unión Europea las obligaciones de transparencia del AI Act para contenidos generados o manipulados mediante inteligencia artificial. La intención es que esos contenidos puedan ser identificados mediante señales legibles por máquina y que, en casos específicos, como los deepfakes, exista además un etiquetado visible.
La noticia indica que si una máquina genera un contenido, debe dejar una huella. De lo que surge la pregunta: ¿qué significa realmente esa huella?
Anthropic, creadora de Claude, anunció que sus nuevos modelos incorporan marcas de agua invisibles en los textos generados y metadatos de procedencia en determinados archivos. La propia compañía reconoce que encontrar una marca no demuestra necesariamente quién creó el contenido. Claude puede intervenir para corregir, traducir, resumir o reorganizar un texto originalmente escrito por una persona. Y tampoco la ausencia de una marca demuestra que la inteligencia artificial no haya intervenido: la edición, paráfrasis o traducción pueden hacer que la señal desaparezca.
La tecnología ya comenzó a implementarse, pero su detección por terceros todavía está en desarrollo: no existe aún un detector universal que permita a un profesor o editor certificar que un texto fue generado por IA.
Por ejemplo: un estudiante puede escribir un ensayo y utilizar IA para corregir su redacción, mientras otro puede pedirle que escriba el ensayo completo y entregarlo como propio. En ambos casos hubo intervención de inteligencia artificial, pero los procesos no son equivalentes.
Una marca puede detectar una intervención tecnológica; no necesariamente puede determinar la autoría.
Me preocupa, entonces, que estamos construyendo herramientas cada vez más sofisticadas para detectar inteligencia artificial en un momento en el que todavía tenemos dificultades para comprender qué significa utilizarla.
Por su parte, OpenAI está trabajando en sistemas de procedencia digital como C2PA, una perspectiva que resulta interesante porque no busca únicamente establecer si algo es “humano” o “artificial”, sino aportar información sobre el origen y la historia de un contenido. La propia compañía reconoce que ninguna técnica de procedencia es infalible y que las señales pueden desaparecer.
De ahí surgen preguntas más útiles: ¿qué herramienta intervino?, ¿en qué momento?, ¿qué produjo?, ¿qué modificó la persona y quién responde por el resultado? No solamente: ¿esto lo hizo una IA?
Recordando a Umberto Eco y Apocalípticos e integrados, frente a los nuevos medios Eco identificaba dos posiciones extremas: quienes veían principalmente una amenaza y quienes los asumían como una oportunidad casi sin reservas.
Con la inteligencia artificial estamos repitiendo la discusión. Los apocalípticos anuncian el final del pensamiento y la creatividad. Los integrados celebran cada nueva herramienta como progreso inevitable.
Pero necesitamos algo más que esos dos extremos. Es necesario reconocer los usos irresponsables de la IA y, al mismo tiempo, evitar convertir la herramienta en una categoría moral. En un contexto donde todavía existen tantos prejuicios frente a su uso y donde la alfabetización digital no avanza al mismo ritmo que la tecnología, una marca creada para informar podría terminar convirtiéndose en una marca de vergüenza: una señal que no diga qué hizo la inteligencia artificial, sino que haga sospechar de quien la utilizó. La transparencia es necesaria, pero no debería convertirse en sospecha, ni mucho menos en estigma.
Nos vemos en la red (0)
No hay comentarios:
Publicar un comentario