Las empresas «subestiman el riesgo» tras la entrada en vigor de las primeras disposiciones de la Ley de IA de la UE

La UE 🇪🇺 Prohíbe Sistemas de IA de Alto Riesgo: ¿Cómo Afecta al Cumplimiento Normativo?

El 2 de febrero, finalmente, entró en vigor en toda la Unión Europea la prohibición de los sistemas de inteligencia artificial (IA) considerados de riesgo «inaceptable». En este sentido, esta medida representa un paso crucial que marca el inicio de la aplicación de la Ley de IA de la UE. Este marco regulatorio, por lo tanto, ha sido diseñado con el propósito de proteger los derechos fundamentales y, además, garantizar un desarrollo ético de la tecnología.

¿Qué sistemas de IA están prohibidos?

La normativa prohíbe explícitamente aquellas tecnologías que podrían causar daños significativos a los consumidores y socavar los derechos humanos. Entre los sistemas de IA vetados se incluyen:

• Aquellos que exploten a personas vulnerables.
• Sistemas que utilicen engaño, manipulación o técnicas subliminales.
• Modelos de puntuación social para uso público o privado.
• Uso de datos biométricos en tiempo real o con fines de categorización.
• Reconocimiento de emociones en el entorno laboral.
• Extracción masiva de imágenes faciales de internet o cámaras de vigilancia para la creación o ampliación de bases de datos.
• Ciertos tipos de perfiles predictivos de riesgo.

Sanciones y cumplimiento

Las empresas que incumplan la normativa podrían enfrentarse a sanciones severas. A partir del 2 de agosto, las multas podrán alcanzar los 35 millones de euros o hasta el 7% de la facturación anual mundial, dependiendo de cuál sea el monto mayor. Hasta esa fecha, las organizaciones tienen la oportunidad de ajustar sus prácticas y garantizar su conformidad con la ley.

Implicaciones para el Criminal Compliance

Por esta razón, para los departamentos de cumplimiento normativo, esta nueva regulación representa un reto significativo. En primer lugar, las empresas deben evaluar detalladamente el uso de IA en sus operaciones, con el fin de identificar posibles riesgos y, en consecuencia, adaptar sus políticas de cumplimiento para evitar infracciones. Además, la implementación de auditorías internas y la revisión constante de prácticas de recopilación y tratamiento de datos serán esenciales para evitar sanciones.

En este contexto, con el avance de la regulación en IA, el cumplimiento normativo se posiciona cada vez más como un elemento clave para garantizar tanto la legalidad como la ética en el uso de estas tecnologías. Por ello, resulta imprescindible mantenerse actualizado con las disposiciones de la Ley de IA de la UE, ya que esto será fundamental para mitigar riesgos y, al mismo tiempo, asegurar el cumplimiento en este nuevo escenario regulatorio.

Tomado y adaptado de: https://www.complianceweek.com/regulatory-policy/experts-companies-underestimate-risk-as-first-provisions-of-eu-ai-act-come-into-force/35879.article