OpenAI implementará en las próximas semanas una marca de agua invisible en los textos y códigos generados por ChatGPT y Codex para los usuarios de la Unión Europea. La medida responde a los parámetros de transparencia exigidos por la nueva Ley de Inteligencia Artificial del bloque y se ejecuta a través de textGrain, un algoritmo criptográfico que inyecta una señal estadística rastreable directamente en las decisiones de selección de vocabulario del modelo de lenguaje.
La arquitectura de la señal estadística El método de textGrain descarta las marcas visuales o los metadatos tradicionales en favor de una alteración matemática. El sistema manipula sutilmente la probabilidad algorítmica de que el modelo elija un término sobre otro durante la generación de la respuesta. Esta variación crea un patrón estadístico subyacente, imperceptible para la lectura humana, que un software de detección específico analiza para confirmar la procedencia sintética del contenido.
La integración de esta tecnología se ejecutará mediante un despliegue gradual. Para los desarrolladores globales que utilicen la interfaz de programación de aplicaciones (API), la función de rastreo permanecerá desactivada por defecto, permitiendo su activación manual solo en modelos específicos según los requerimientos de cada proyecto.
Vulnerabilidades en textos cortos y lenguaje técnico La identificación de contenido sintético se enfrenta a barreras matemáticas operativas. Los textos breves o las líneas de código informático presentan una superficie de marcaje limitada, ya que el modelo dispone de un margen matemático mucho menor para alterar la selección de palabras sin comprometer la precisión de la instrucción técnica o la coherencia sintáctica.
Debido a estas limitaciones en su fase inicial, el acceso a la herramienta de escaneo y detección se mantendrá cerrado al público general. OpenAI ha habilitado un proceso de revisión exclusivo para investigadores y organizaciones tecnológicas acreditadas, quienes se encargarán de evaluar la precisión del algoritmo en entornos reales.
Eficacia de detección frente a la edición humana Las evaluaciones de laboratorio indican que textGrain iguala o supera la precisión de otros métodos de escaneo actuales, como SynthID, bajo condiciones inalteradas. La estabilidad del sistema, no obstante, decae ante la manipulación externa del texto una vez generado. Según los registros divulgados por OpenAI, sustituir el 25 % de las palabras originales por sinónimos reduce la capacidad de detección del 92 % al 17 % en fragmentos de 400 tokens, manteniendo un margen de error donde los escáneres pueden reportar falsos positivos al identificar marcas estadísticas inexistentes o generar falsos negativos al ignorar señales presentes.
#OpenAI #ChatGPT #InteligenciaArtificial #Tecnologia #textGrain #Innovacion #UnionEuropea #Zonaovni
