El uso de la inteligencia artificial en la Unión Europea (UE) estará regulado por la Ley de Inteligencia Artificial, la primera ley integral sobre IA del mundo.
Como parte de su estrategia digital, la UE quiere regular la inteligencia artificial (IA) para garantizar mejores condiciones de desarrollo y uso de esta tecnología innovadora. La IA puede aportar muchos beneficios, como lo son una mejor asistencia sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible.
En abril de 2021, la Comisión propuso el primer marco regulador de la UE para la IA. Propone que los sistemas de IA que puedan utilizarse en distintas aplicaciones se analicen y clasifiquen según el riesgo que supongan para los usuarios. Los distintos niveles de peligro implicarán una mayor o menor regulación. Una vez aprobadas, serán las primeras normas del mundo sobre IA.
Legislación sobre IA del Parlamento Europeo
Los eurodiputados han tratado de garantizar que los sistemas de Inteligencia Artificial estén supervisados por personas, sean aún más seguros, transparentes, trazables, no discriminatorios y respetuosos no solo con los derechos humanos, sino también con el medio ambiente, poniendo siempre a las personas en el centro de la regulación. De igual forma, han abordado la definición de los sistemas de inteligencia artificial, al objeto de contar con una definición uniforme de IA diseñada para ser tecnológicamente neutra.
Ley de IA: normas diferentes para niveles diferentes de riesgo
La nueva normativa establece obligaciones para proveedores y usuarios en función del nivel de riesgo de la IA. Aunque muchos sistemas de IA plantean un riesgo mínimo, es necesario evaluarlos todos.
Riesgo inaceptable
Los sistemas de IA de riesgo inaceptable son los que se consideran una amenaza para las personas y serán prohibidos. Incluyen:
- - Manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños
- - Puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales
- - Sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial.
Aunque existen algunas excepciones a esta calificación. Por ejemplo, los sistemas de identificación biométrica a distancia "a posteriori", en los que la identificación se produce tras un retraso significativo, se permitirán para perseguir delitos graves y sólo cuando haya previa aprobación judicial.
Alto riesgo
Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y se dividirán en dos categorías.
- 1- Los sistemas de IA que se utilicen en productos sujetos a la legislación de la UE sobre seguridad de los productos. Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores.
- 2- Los sistemas de IA pertenecientes a ocho ámbitos específicos que deberán registrarse en una base de datos de la UE:
- - Identificación biométrica y categorización de personas físicas
- - Gestión y explotación de infraestructuras críticas.
- - Educación y formación profesional.
- - Empleo, gestión de trabajadores y acceso al autoempleo.
- - Acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas.
- - Aplicación de la ley.
- - Gestión de la migración, el asilo y el control de fronteras.
- - Asistencia en la interpretación jurídica y aplicación de la ley.
Todos los sistemas de IA de alto riesgo serán evaluados antes de su comercialización y a lo largo de su ciclo de vida.
IA generativa
La IA generativa, como ChatGPT, tendrá que cumplir requisitos de transparencia:
- - Revelar que el contenido ha sido generado por IA.
- - Diseñar el modelo para evitar que genere contenidos ilegales.
- - Publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento.
Riesgo limitado
Los sistemas de IA de riesgo limitado deben cumplir unos requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con conocimiento de causa. Tras interactuar con las aplicaciones, el usuario puede decidir si desea seguir utilizándolas. Los usuarios deben ser conscientes de cuándo están interactuando con la IA. Esto incluye los sistemas de IA que generan o manipulan contenidos de imagen, audio o vídeo
Derecho de los ciudadanos a interponer reclamaciones relativas a los sistemas de Inteligencia Artificial (IA)
La ley fortalecerá y consolidará el derecho de los ciudadanos a interponer reclamaciones relativas a los sistemas de Inteligencia Artificial (IA), así como a obtener aclaraciones detalladas y comprensibles acerca de las resoluciones adoptadas por sistemas de IA de alto riesgo que tengan un impacto sustancial en sus derechos fundamentales.
Próximos hitos de la nueva ley Europea de Inteligencia Artificial (IA)
El 14 de junio de 2023, marcó un hito significativo en la evolución de la regulación de la Inteligencia Artificial (IA) a nivel europeo, con la adopción por parte de los eurodiputados de su postura negociadora en relación a la nueva legislación sobre IA. Este paso allana el camino para la siguiente fase del proceso legislativo, que involucrará intensas deliberaciones y negociaciones en el seno del Consejo de la Unión Europea, contando con la participación activa de los Estados miembros.
El objetivo primordial de estas conversaciones es lograr la cristalización de un consenso robusto y bien fundamentado sobre la forma definitiva que adoptará la nueva ley, aspirando a culminar este proceso de armonización y estandarización legislativa antes de que finalice el año 2023.
La nueva Ley de Inteligencia Artificial de la UE y su impacto en el CRM
Desde la asistencia sanitaria hasta la gestión de relaciones con el cliente (CRM), la IA está revolucionando la forma en que interactuamos y hacemos negocios. Sin embargo, este rápido avance tecnológico ha planteado la necesidad de una regulación clara y concisa. La Unión Europea (UE) ha dado un paso al frente, introduciendo la primera Ley de Inteligencia Artificial, una legislación pionera destinada a garantizar un uso seguro y ético de la IA. En este artículo, hemos profundizado en los detalles de esta nueva ley, ahora exploraremos su impacto en las soluciones CRM y descubriremos cómo Natureh, una empresa española líder en tecnología de software, está preparada para este nuevo capítulo en la era digital.
Las soluciones CRM son una parte integral de muchas empresas, proporcionando herramientas esenciales para la gestión de las relaciones con los clientes. Con la integración de la IA, estas soluciones se han vuelto aún más potentes. Sin embargo, la nueva Ley de Inteligencia Artificial plantea interrogantes sobre cómo se deben gestionar y regular estas soluciones.
Soluciones CRM Salesforce by Natureh basadas en inteligencia artificial
En el actual entorno, la relevancia del criterio legal en los negocios es crucial, enfrentándose a desafíos regulatorios crecientes y a la necesidad de brindar servicios más eficientes mediante modelos operacionales de excelencia.
Natureh, como líder proveedor de soluciones CRM con IA, está a la vanguardia, asegurando que sus productos cumplan con la nueva legislación y que lideren el camino en ética y transparencia. Priorizando lo esencial, optimizando recursos y promoviendo la transformación digital para satisfacer las demandas específicas de cada organización. Así, ofrecemos apoyo a nuestros clientes a través de:
- - Soluciones CRM Cloud que focaliza al equipo en aportar valor al negocio.
- - Automatización y mejora de procesos y operativas.
- - Optimización de recursos con soluciones CRM.
- - Redefinición de servicios y productos con perspectiva legal y ética.
- - Acceso a recursos y profesionales según la demanda.
- - Herramientas y modelos para un adecuado cumplimiento normativo.
- - Promoción de la innovación a través de soluciones flexibles
Las soluciones CRM Salesforce con IA de Natureh están diseñadas para cumplir con la normativa vigente y facilitar la automatización, adaptándose a diversas estructuras y necesidades gracias a su flexibilidad.
¡Solicite demo sin compromiso!
