Si hay algo que siempre se les ha achacado a los legisladores, en general, es el hecho de que, no pocas veces, regulan tarde y mal sobre todo en materias relacionadas con las nuevas tecnologías. Ya sea por falta de previsión, por intereses políticos o por un desconocimiento del alcance de las nuevas tecnologías o avances de estas nos hemos encontrado con efectos y consecuencias no deseadas.

Cuando se produce el boom de Internet a finales de los 90 y principios de los 2000 ya vimos cómo, al margen de los beneficios que traía este avance, también traía otros peligros por una regulación pobre al respecto (fraudes, acceso a la pornografía de los menores, etc.) Y ahora mismo está ocurriendo algo parecido con los smartphones, las redes sociales, etc.

Pero la Unión Europea no quiere que le pase lo mismo con la Inteligencia Artificial, y por ello ha decidido tomar cartas en el asunto acordando una primera ley que tratará de regular y poner límites al uso de esta tecnología. Cabe destacar que esta ley no es del todo nueva, ya que desde 2021 se venía gestando una propuesta regulatoria al respecto, pero la irrupción de ChatGPT y otros desarrollos similares han puesto sobre la mesa los grandes beneficios que la IA puede traer al mundo, pero también muchos temores sobre el uso que se pueda hacer de la misma.

Clasificación de sistemas de inteligencia artificial según su riesgo

Esta ley ha recibido el nombre de Artificial Intelligence Act y aunque todavía estamos ante un texto provisional (se prevé que el año 2026 entrará en vigor), la idea es que algunas de sus partes puedan estar operativas cuanto antes.

Uno de los puntos fuertes de la ley es la clasificación de sistemas de inteligencia artificial según su riesgo quedando establecidas así:

• Riesgo mínimo: se refiere a los algoritmos de recomendación o los filtros antispam. El Parlamento Europeo ha incluido aquí a la gran mayoría de las IA, ya que se considera que respetan la seguridad y derechos de los ciudadanos.
• Riesgo alto: sistemas de IA que deberán utilizar sólo datos de alta calidad para entrenar sus modelos y protocolos de mitigación de riesgos con una documentación detallada y precisa sobre cómo se utilizará la información recogida de los usuarios.
• Riesgo específico contra la transparencia: Este rango afecta directamente a los chatbots y las herramientas de IA generativa. Lo más destacado es que todo el contenido que genere la inteligencia artificial se tendrá que etiquetar así y advertir a los usuarios de su procedencia.
• Riesgo inaceptable: La UE prohíbe terminantemente estos sistemas de IA, ya que se considera que son un riesgo directo para los derechos y la seguridad de sus ciudadanos. Se ataca directamente toda IA destinada a la manipulación personal y que limite el libre albedrío, donde entraría el reconocimiento de emociones en el trabajo. Gobiernos y empresas tampoco podrán utilizar la inteligencia artificial para controlar el comportamiento de sus trabajadores o ciudadanos.

En cualquier caso, y con independencia de las distintas normas regulatorias que durante los próximos años saldrán al respecto, la clave estará en la correcta vigilancia que se haga del uso de la IA, no solo por las empresas o administraciones públicas, sino por aquellas personas u organizaciones que busquen hacer un uso delictivo de la misma. Y sabemos que las habrá.



Para saber más:

20Minutos

El Economista

Channel Partnert