APUNTE.COM.DO- REDACCION INTERNACIONAL.-  La Unión Europea ya tiene en vigor sus normas de transparencia para los sistemas de inteligencia artificial (IA), que imponen a estas tecnologías la obligación de informar a los usuarios cuando están tratando con una máquina o cuando el contenido que visualizan ha sido manipulado.

Bruselas otorgó además nuevas facultades a la Oficina de Inteligencia Artificial de la Comisión Europea para supervisar los modelos de IA generativa y sancionarlos con multas en caso de incumplimiento.

Sin embargo, las disposiciones contemplan varias excepciones que postergan la aplicación obligatoria en ciertos supuestos. A continuación, los puntos esenciales.

1. Requisitos de transparencia inmediatos

Compañías como OpenAI (creadora de ChatGPT), Google (con Gemini) y Anthropic (responsable de Claude) deben diseñar sus sistemas para que los usuarios sepan que están interactuando con una máquina. La obligación alcanza también a los desarrolladores de IA utilizada en servicios públicos, en la atención al cliente de las empresas o en la gestión de denuncias de fraude.

Quienes empleen IA para el reconocimiento de emociones o la categorización biométrica deberán notificar a los ciudadanos cuando sean analizados con estas herramientas, salvo en los casos permitidos por la ley para prevenir o perseguir delitos.

2. Requisitos y prohibiciones en diciembre

A partir del 2 de diciembre, los sistemas de IA tendrán que integrar marcas de agua en los textos, fotografías, videos y audios que hayan sido alterados, de modo que los ciudadanos identifiquen fácilmente su origen artificial. No obstante, sistemas como ChatGPT, Gemini o Claude, así como las redes sociales con herramientas de IA, no serán legalmente responsables del contenido generado por los usuarios; serán estos quienes deban informar de su manipulación. Quedan excluidos los contenidos de ficción, artísticos o satíricos.

Desde hoy mismo se aplica una excepción: todo contenido generado con IA que muestre información de interés general, como la relacionada con procesos electorales, judiciales, salud pública u otros acontecimientos sujetos a debate público, debe llevar la advertencia, salvo que una persona lo haya supervisado previamente.

También desde el 2 de diciembre se prohíbe la creación de imágenes sexualizadas con IA sin el consentimiento de las personas afectadas. Este veto fue pactado tras el escándalo por las imágenes generadas con Grok, la herramienta de la red social X, que tendrá hasta finales de año para adoptar medidas de protección adecuadas.

3. Amenazas

Desde el 2 de agosto, la Oficina de IA de la Comisión Europea puede exigir a empresas como Anthropic el acceso a modelos como Mythos para evaluar los riesgos de los sistemas de alto riesgo. Fuentes comunitarias no han querido detallar sus próximos pasos en un caso así por «razones obvias».

Persiste la incertidumbre sobre la capacidad real de la Comisión para analizar modelos de alto riesgo y acceder a ellos si el Gobierno de Estados Unidos vuelve a restringir su acceso a ciudadanos extranjeros, como hizo temporalmente a mediados de junio. Bruselas negocia actualmente con Anthropic las condiciones para que la Agencia de Ciberseguridad de la UE (ENISA) evalúe Mythos sin comprometer las infraestructuras esenciales europeas ni el acceso a información sensible.

4. Multas

La Comisión Europea podrá imponer multas de 15 millones de euros o hasta el 3 % de la facturación anual global de la empresa infractora (la cifra más alta) a los sistemas de IA generativa que incumplan estas obligaciones. Si son las instituciones o agencias de la UE las que violan sus deberes de transparencia, la sanción ascenderá hasta 750.000 euros.