...y el impacto de la Ley de IA de la Unión Europea sobre el uso de la inteligencia artificial. Las nuevas normas sobre el uso de la inteligencia artificial (Ley de IA) aprobadas recientemente por todos los Estados miembros de la UE tienen por objeto proteger los derechos fundamentales, la democracia y el Estado de Derecho frente a los sistemas de IA de alto riesgo. Al mismo tiempo, pretenden impulsar la innovación en este ámbito.
La normativa establece determinadas obligaciones para los sistemas de IA, en función de los riesgos y efectos potenciales. Habrá aplicaciones prohibidas. Entre ellas están las que amenazan los derechos de los ciudadanos, por ejemplo la categorización biométrica basada en características sensibles y la lectura no selectiva de imágenes faciales de internet. También se prohibirán en el futuro los sistemas de reconocimiento de emociones, incluso en el lugar de trabajo. También se prevén ciertas obligaciones para otros sistemas de IA de alto riesgo. Los sistemas de IA que se utilizan en los ámbitos de las infraestructuras críticas, la educación o el empleo se clasifican como de alto riesgo. También se consideran de alto riesgo los sistemas de IA para servicios, como la sanidad o la banca. Estos sistemas deben evaluar y minimizar los riesgos, mantener registros de uso, ser transparentes y precisos y estar supervisados por humanos. Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, entre ellos el cumplimiento de la legislación de la UE sobre derechos de autor y la publicación de resúmenes detallados de los contenidos utilizados para el entrenamiento. La nueva normativa también prevé el fomento de la innovación y el apoyo específico a las pequeñas y medianas empresas. Deben crearse laboratorios reales en los Estados miembros y las pruebas deben realizarse en condiciones reales. Las pequeñas y medianas empresas y las empresas de nueva creación deberán tener acceso a estos laboratorios para poder desarrollar y entrenar sistemas de IA innovadores antes de lanzarlos al mercado. Una vez adoptado formalmente por el Consejo, el reglamento entrará en vigor 20 días después de su publicación en el Diario Oficial de la UE.
Desarrollo y aclaración de la Ley de IA
Las primeras reacciones al Reglamento han procedido, entre otros, de la empresa suiza Spitch AG, proveedora de IA conversacional a clientes empresariales dentro de la UE. Spitch estima que la Ley de IA tendrá un impacto predominantemente positivo en el uso de sistemas de IA y recomienda que las empresas y las autoridades examinen sus propias aplicaciones de IA con arreglo a los nuevos aspectos de riesgo de la normativa de la UE y realicen los ajustes necesarios. Spitch también asume que las aplicaciones de IA tendrán que ser reexaminadas "de vez en cuando" en el futuro para garantizar que cumplen los requisitos legales, ya que es probable que la Ley de IA siga siendo desarrollada y aclarada por los organismos europeos de normalización. La empresa considera que ninguno de los ámbitos de aplicación típicos actuales de los sistemas de diálogo de voz y texto basados en IA (IA conversacional) en la atención al cliente entra per se dentro de las categorías de riesgo establecidas. Sin embargo, los chatbots, los análisis de voz o las bases de datos de conocimientos podrían entrar en las categorías de "riesgo limitado" o "riesgo mínimo".
Para la mayoría de los ámbitos de aplicación de la IA conversacional, se espera que los requisitos adicionales tengan que cumplirse en un plazo de entre 12 y 36 meses tras la entrada en vigor de la Ley de IA en mayo de 2024. Los proveedores de sistemas de IA deben garantizar ahora el cumplimiento de este plazo.
