La UE acuerda la primera ley de inteligencia artificial en el mundo.

Los negociadores del Parlamento Europeo y del Consejo lograron el viernes pasado, tras 35h de negociaciones, cerrar un acuerdo para fijar las primeras reglas con respecto al uso de la Inteligencia Artificial.

Se pretende con este acuerdo, fijar los estándares de seguridad y de derechos fundamentales, para evitar que la IA se use con fines represivos, manipulativos o discriminatorios. Este acuerdo, crea 4 categorías basadas en el riesgo de la inteligencia artificial, te detallamos las características principales ¡No te lo pierdas!

Categorías de riesgo de la IA: Acuerdo para su regulación.

Se han establecido 4 categorías basadas en el riesgo y son las siguientes:

1.-Vigilancia en tiempo real: Ha sido uno de los puntos más sensibles de las negociaciones y se ha llegado a las siguientes conclusiones, se podrán usar con previa autorización judicial para prevenir amenazas terroristas y también, para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas o explotación sexual.

2.-Sistemas prohibidos: Prohíbe todos los sistemas de categorización biométrica por creencias políticas, religiosas, raza u orientación sexual.

No se podrán usar sistemas que puntúen a las personas en función de su comportamiento o características personales.

Tampoco, se podrán usar sistemas para expandir o crear bases de datos faciales y en los centros de trabajo o escolares, estarán prohibidos estos sistemas que pueden reconocer emociones.

3.-ChatGPT y la inteligencia artificial generativa: Otro de los puntos más tensos ha sido la regulación de los sistemas en los que, se basa ChatGPT, será necesario que cumplan unos criterios mínimos de transparencia. Habrá que especificar si un texto, canción o fotografía ha sido generada a través de la IA.

4.-Respeto de los derechos fundamentales: El reglamento permitirá o prohibirá el uso de la IA, en función del riesgo que genera para las personas y solo, se podrán usar si se demuestra que respetan los derechos fundamentales.

Además, en esta larga reunión, se habló de la creación de la Oficina Europea de Inteligencia Artificial que estará compuesta por científicos y organizaciones de la sociedad civil.

Se espera que entré en vigor en 2026, su implementación será por fases y la Oficia Europea de IA, se espera que esté lista, en menos tiempo de lo que imaginamos.

Saltarse las pautas establecidas de la norma, podrá salir muy caro a las compañías, con multas de entre 7,5 millones de Euros o el 1.5% del volumen de negocio, aunque esto último, está aún por determinar.

Derechos de autor e Inteligencia Artificial.

Uno de los puntos más discutibles y al que dedicaron muchas de las horas que duró la reunión fue, los derechos de autor, un tema ya polémico y del que se lleva mucho tiempo hablando y discutiendo.

La ley establece que los sistemas GPAI y modelos en los que se basan, tendrán que cumplir los requisitos de transparencia, propuestos por el Parlamento. Esto, supondrá tener que elaborar documentación técnica, cumplir con la normativa de la UE sobre los derechos de autor y la difusión de resúmenes detallados sobre el contenido usado en la formación.

Lo cierto es que, aún queda mucho por hacer y terminar de definir con respecto al uso de la inteligencia artificial, pero sin lugar a dudas, esta primera reunión y este acuerdo, ha sido un primer paso de gran importancia para todos los usuarios de la IA generativa. Ahora, habrá que esperar a comprobar, cómo se terminan de definir y regular todos los aspectos detallados anteriormente.

La impresión para todos los que llevamos tiempo usando la IA, es que, esta reunión y primer acuerdo llegan un poco tarde y con prisas, tras comprobar, el ritmo al que avanza la IA y la creación de distintas aplicaciones y herramientas. Como se suele decir, van un poco tarde y ahora, habrá que darse prisa e intentar regular todo lo antes posible.

Os iremos informando al respecto y contando más detalles en el Blog de Nubulus ¡Nos vemos en la próxima entrada del Blog!