Claves de la nueva Ley de Inteligencia Artificial de la UE

Olga Agea
20 de julio de 2023
Claves de la nueva Ley de Inteligencia Artificial de la UE

La Ley de Inteligencia Artificial está cada vez más cerca. El pasado 14 de junio el Parlamento Europeo dio luz verde al proyecto de dicha Ley.

Ahora, habrá que esperar a que comiencen las negociaciones en el Consejo para que la Ley de Inteligencia Artificial se convierta en una realidad.

Esta Ley de Inteligencia Artificial nace en el seno de la UE con el fin de regular los usos de la IA y prevenir a los estados miembros de los riesgos que supone.

A la espera de la publicación, analizamos las principales claves de la nueva Ley de Inteligencia Artificial de la UE.

Banner Firmafy

¿Qué es la Inteligencia Artificial y cómo planea la UE regularla?

¿Alguna vez has tenido una conversación con un chatbot? ¿Sueles desbloquear tu dispositivo móvil a través de tu huella dactilar o con tu cara? ¡Estos ejemplos hacen uso de la Inteligencia Artificial!

A lo largo del día usamos la Inteligencia Artificial más veces de las que realmente somos conscientes.

Para que lo entiendas mejor, la Inteligencia Artificial consiste en la habilidad de realizar las mismas acciones y adquirir similares capacidades a las de los seres humanos, como son la creatividad, el razonamiento y la capacidad de planear.

A través de la Inteligencia Artificial una máquina recibe datos, los procesa, detecta un conflicto y responde de forma autónoma ante él.

Digamos que la Inteligencia Artificial es un conjunto de tecnologías de rápida evolución que permite generar beneficios económicos y sociales en todas las actividades laborales.

La Inteligencia Artificial tiene muchas ventajas, entre ellas: facilita el trabajo diario de los trabajadores en una empresa, permite automatizar parte de las acciones y fomenta la productividad.

Además, proporciona resultados positivos desde el punto de vista social y medioambiental.

Existen aplicaciones de Inteligencia Artificial para todo tipo de fines, por ejemplo, a través de la IA se puede monitorizar si realmente un trabajador está prestando sus servicios en remoto.

El problema es que al recopilar grandes cantidades de datos y de información, la IA entraña ciertos riesgos para los que hay que aplicar restricciones y garantizar la privacidad.

Por eso, desde la UE están trabajando en una Ley de Inteligencia Artificial.

Aún se trata de una propuesta y habrá que esperar hasta que finalicen las negociaciones en Bruselas.

Ya en el año 2021 se publicó la propuesta del Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial y se modifican determinados actos legislativos de la Unión.

A través de esta Ley de Inteligencia Artificial, la UE propone clasificar las distintas herramientas de IA según el riesgo que supongan para los usuarios.

Más abajo, analizamos qué puntos clave se incluyeron en la propuesta de la Ley de Inteligencia Artificial.

 

¿Qué tipos de inteligencia artificial existen?

Existen varios tipos de Inteligencia Artificial, entre ellos destacan:

  • La Inteligencia Artificial o aprendizaje automático. Consiste en la capacidad de un software de aprender por cuenta propia. Un ejemplo de ello, serían los asistentes virtuales.
  • El aprendizaje profundo. Es un tipo de IA más completo que procesa datos e información al mismo tiempo. Tiene gran conexión con el Big Data. Por ejemplo, el aprendizaje profundo se usa en las apps de reconocimiento facial.
  • IA basada en reglas. Destaca por usar reglas lógicas para tomar decisiones y resolver problemas.
  • Aprendizaje automático o machine learning. Consiste en otorgar acciones a máquinas que pueden aprender de los datos sin ser programadas explícitamente.
  • Redes neuronales. Son modelos computacionales que se inspiran en el cerebro humano e intentan imitar la función de las neuronas.
  • Robótica. Hace referencia a la IA utilizada para controlar robots.
  • Sistema experto. Este tipo de IA pretende  imitar a un humano con dominio de una materia concreta.

 

¿Cuáles son los mayores riesgos de la Inteligencia Artificial?

La Inteligencia Artificial presenta ciertos riesgos, como son el sesgo de datos si se trata de información histórica, fallos técnicos y errores que causen problemas o su uso para fines malintencionados, como la ciberdelincuencia o vigilancia masiva.

Para evitar estos problemas, desde la UE están trabajando en la creación de una Ley de Inteligencia Artificial:

 

Estas son las claves de la nueva Ley de Inteligencia Artificial de la UE

Los principales objetivos de la propuesta de la nueva Ley de Inteligencia Artificial de la UE son:

  • Garantizar que los sistemas de IA introducidos y usados en el mercado de la UE sean seguros y respeten la legislación vigente en materia de derechos fundamentales y valores de la Unión.
  • Garantizar la seguridad jurídica para facilitar la inversión e innovación en IA.
  • Mejorar la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y los requisitos de seguridad aplicables a los sistemas de IA.
  • Facilitar el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de las aplicaciones de IA y evitar la fragmentación del mercado.

La propuesta de la Ley de Inteligencia Artificial pretende establecer los requisitos necesarios para subsanar los riesgos y problemas vinculados a la IA.

 

Transparencia según la Ley de Inteligencia Artificial

La propuesta de la Ley de Inteligencia Artificial incluye un apartado dedicado a transparencia e indica que los sistemas de IA de alto riesgo se desarrollarán de un modo que garantice que funcionan con un nivel de transparencia suficiente.

Además, los sistemas de Inteligencia Artificial deberán reducir al mínimo los riegos para la salud, la seguridad o los derechos fundamentales.

 

Ciberseguridad

Los sistemas de IA de alto riesgo deberán ser resistentes a fallos, errores e incoherencias. Para lograrlo deberán realizarse copias de seguridad o planes de prevención contra fallos.

 

Obligaciones de los proveedores de sistemas de Inteligencia Artificial

Los proveedores de sistemas de IA de alto riesgo deberán:

  • Elaborar la documentación técnica del sistema de IA de alto riesgo.
  • Conservar los archivos de registro que sus sistemas de IA de alto riesgo generen automáticamente cuando estén bajo su control.
  • Asegurar que los sistemas de IA de alto riesgo sean sometidos al procedimiento de evaluación de la conformidad oportuno antes de su introducción en el mercado o puesta en servicio.
  • Adoptar las medidas correctoras necesarias.
  • Informar a las autoridades nacionales competentes del Estado miembro donde hayan comercializado o puesto en servicio el sistema de IA y, en su caso, al organismo notificado de los casos de no conformidad y de las medidas correctoras adoptadas.

 

¿Cuáles son los niveles de riesgo según la Ley de Inteligencia Artificial?

La propuesta de la Ley de Inteligencia Artificial de la UE incluye cuatro niveles según el riesgo que puede suponer el uso de herramientas de IA: prohibidos, riesgo alto, riesgo medio y riesgo mínimo.

El nivel superior (prohibidos) incluye los usos de la Inteligencia Artificial que presenten un riesgo inaceptable para la seguridad.

Serán inaceptables usos de la IA que sean contrarios a los Derechos Fundamentales de la UE. No se podrán usar herramientas de IA que presenten vulnerabilidades motivadas por factores como la edad o discapacidad física.

Tampoco podrán comercializarse herramientas de IA que fomenten un trabajo desfavorable o que tengan técnicas que puedan ser perjudiciales para la salud psicológica de las personas.

Estarán prohibidos, además, sistemas de IA que intenten manipular el comportamiento de las personas.

El segundo nivel integra los usos de Inteligencia Artificial que sean de alto riesgo y que deban someterse a una evaluación de conformidad para minimizar los riesgos y para mantener los registros de transparencia y precisión.

Para su comercialización todos los sistemas de alto riesgo deberán ser evaluados. Y, además, tendrán que evaluarse constantemente durante su ciclo de vida.

El tercer nivel se compone por los usos de riesgo limitado. En este caso, solo existirán obligaciones de transparencia.

Por ejemplo, los chatbots que se usan en la IA. Es importante que los usuarios que estén tratando con un chatbot tengan constancia de ello.

El cuarto nivel incluye usos de Inteligencia Artificial de riesgo mínimo. No van a estar sujetos a ningún tipo de obligación aunque es recomendable que se adopten códigos de conducta voluntarios.

 

¿Tendrá la Ley de Inteligencia Artificial beneficios en los procesos de selección?

Asimismo, hay que destacar una importante cuestión que está surgiendo en las últimas semanas: ¿tendrá la Ley de Inteligencia Artificial ventajas para cribar candidatos en los procesos de selección?

Tal y como recoge una propuesta de directiva cuyo fin es adaptar el mundo contractual a la IA, ésta podría ser útil para realizar cribas en los procesos de selección.

La Inteligencia Artificial podría desempeñar un papel muy importante para las personas trabajadoras de recursos humanos facilitando los procesos de selección de personal y contratación.

La IA podría usarse para analizar de forma automática currículums y seleccionar los que se ajustasen realmente a los requisitos de la actividad laboral.

También podría evaluar las habilidades y las competencias de los candidatos e incluso realizar entrevistas virtuales mediante chatbots y sistemas de procesamiento de lenguaje natural.

Asimismo, la Inteligencia Artificial podría usarse para monitorear y seleccionar qué alumnos y alumnas acceden a la Universidad o a qué usuarios se les puede conceder una financiación determinada.

 

¿La Ley de Inteligencia Artificial va a regular el uso de ChatGPT?

Están surgiendo diferentes controversias en torno al uso de ChatGPT, tras haberse prohibido durante unas semanas su utilización en Italia.

La Ley de Inteligencia Artificial propone que las herramientas de IA generativa, como es ChatGPT, tengan que cumplir con los requisitos de transparencia específicos para aceptar su uso.

ChatGPT tendrá prohibido generar contenido ilegal y deberá detallar la procedencia de los datos usados para tener constancia de si están protegidos por derechos de autor.

 

¿A quiénes será de aplicación la Ley de Inteligencia Artificial de la UE?

La Ley de Inteligencia Artificial de la UE será aplicable a todos los usos de la IA que afecten a ciudadanos de la UE, con independencia de dónde provenga o de quién sea el proveedor.

Esto es con el fin de equiparar la Ley de Inteligencia Artificial a otras leyes como son la nueva Ley de Mercados Digitales o DSA.

 

¿El reconocimiento facial será una realidad en la Unión Europea?

Uno de los temas más polémicos ante la creación de la Ley de Inteligencia Artificial es el hecho del reconocimiento facial.

Algunos legisladores consideran que es crucial incluir el reconocimiento facial en la legislación.

Pero, existen ciertas reticencias en cuanto al reconocimiento facial, debido a preocupaciones relacionadas con la privacidad y con el uso indebido de datos personales.

En cuanto a la identificación biométrica en tiempo real, se está estudiando su permisión para los cuerpos policiales.

 

¿Cuándo podría entrar en vigor la nueva Ley de Inteligencia Artificial de la UE?

La propuesta del Reglamento de Inteligencia Artificial se espera que entre en vigor a principios del año 2024.

Es fundamental trabajar en esta legislación, ya que la Inteligencia Artificial puede ayudar a las empresas a minimizar el riesgo.

Por eso, es muy importante que desde la UE analicen los riesgos y establezcan un marco que regule este ámbito pronto.

Todo apunta a que la Ley de Inteligencia Artificial podría convertirse en un «estándar» y un modelo a seguir a nivel mundial, como ya sucedió con el Reglamento General de Protección de Datos (que entró en vigor en 2018).

¿Conocías la propuesta de Ley de Inteligencia Artificial de la UE? No olvides dejar un comentario más abajo, ¡nos encanta leerte!

Banner Firmafy

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *