La Inteligencia Artificial tiene más restricciones en Europa desde ya: estas son las nuevas restricciones a herramientas IA
Ayer 2 de febrero de 2025 entraron en vigor las prohibiciones de la Ley de IA de sistemas de inteligencia artificial que se consideran de riesgo en la Unión Europea. Concretamente hay riesgo contra "los derechos fundamentales y la seguridad de las personas". Y aquí vamos a conocer qué herramientas se ven afectadas por la nueva regulación. Desde ya encontramos ilegales los sistemas de inteligencia artificial que conllevan un "riesgo inaceptable", incluidas algunas herramientas de vigilancia predictiva, sistemas de puntuación social e identificación biométrica que categorizan a las personas por raza, orientación sexual y religión. En Genbeta La inteligencia artificial contribuye a la desigualdad social: hay IA para pobres e IA, muchísimo más potente, para ricos Incumplir esas prohibiciones de la Ley de IA (conocida como AI Act en inglés) lleva a graves consecuencias. Como recoge Maldita, el 2 de agosto de 2025, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), encargada del cumplimiento de la Ley de IA en España, deberá asumir la potestad sancionadora. Multas de hasta 35 millones Quienes usen los sistemas prohibidos se enfrentan a multas de hasta 35 millones de euros o de hasta el 7% de su facturación total anual mundial. No hay información específica de ChatGPT o de otros similares (a pesar de las pasadas polémicas), como el último en el mercado llegado de China, DeepSeek, aunque mucho se ha hablado de estos sistemas y sus riesgos potenciales. Sobre chatbots, lo que explica la ley es que "los sistemas de IA pueden utilizarse para ofrecer motores de búsqueda en línea, en particular en la medida en que un sistema de IA, como un chatbot en línea, efectúe búsquedas, en principio, en todos los sitios web, incorpore a continuación los resultados a sus conocimientos existentes y utilice los conocimientos actualizados para generar una única información de salida que combine diferentes fuentes de información. En Genbeta Multa de 220.000€ a una empresa de Alicante por hacer fichar a su plantilla con biometría. Tardaron demasiado en cambiar el sistema De todos modos, ya hay regulación que marca límites al respecto. La Ley de Inteligencia Artificial (AIA) es una norma acordada por los organismos de la Unión Europea buscando establecer un marco legal común para la inteligencia artificial en la UE. Esta ley, propuesta inicialmente en abril de 2021, aunque no se implementará antes de 2026. En Europa las herramientas de IA de OpenAI ya han vivido ciertas restricciones en sitios como Italia, amparadas, de hecho, por la legislación del Reglamento General de Protección de Datos. En Europa existe una distinción legal entre los datos de dominio público y los de libre uso gracias a la ley GDRP. También tenemos en junio de 2023 cuando la Eurocámara dio luz verde al Reglamento de Inteligencia Artificial y recogimos en Genbeta las claves de la legislación, entre otros. En marzo de 2024 la UE aprobó una pionera ley de IA que contempla "riesgos inaceptables" para nuestra seguridad. El Instituto para la Digitalización Democrática resume la nueva reglamentación como que se prohíben usos subliminales como la puntuación social que se lleva a cabo en China; el reconocimiento de emociones en el trabajo o en espacios educativos; o la clasificación biométrica en espacios públicos tipo con cámaras de vigilancia. Un resumen a los sistemas prohibidos Concretamente, se prohíbe El artículo 5 del capítulo II de la ley prohíbe la introducción en el mercado, puesta en servicio y la utilización de los sistemas de IA con características como estas que veremos aquí. Para ver la información completa de la ley al respecto, puedes entrar en este enlace. Por un lado, la introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que "se sirva de técnicas subliminales que trasciendan la conciencia de una persona o de técnicas deliberadamente manipuladoras o engañosas" con el objetivo o el efecto de alterar de manera sustancial el comportamiento de una persona o un colectivo de personas, mermando de manera apreciable su capacidad para tomar una decisión informada. Es decir, las IA que usen información totalmente engañosa. En Genbeta Nuevo golpe de OpenAI a la Unión Europea: la mejor inteligencia artificial del año no llega a España Por otro lado, las IA que explote alguna de las vulnerabilidades de una persona física o un determinado colectivo de personas derivadas de su edad o discapacidad, o de una situación social o económica específica, con la finalidad o el efecto de alterar de manera sustancial el comportamiento de dicha persona. Como ejemplifican desde Maldita, si una IA usa análisis de datos para crear anuncios altamente personalizados que aprovechen información sensible de un colectivo.
Ayer 2 de febrero de 2025 entraron en vigor las prohibiciones de la Ley de IA de sistemas de inteligencia artificial que se consideran de riesgo en la Unión Europea. Concretamente hay riesgo contra "los derechos fundamentales y la seguridad de las personas". Y aquí vamos a conocer qué herramientas se ven afectadas por la nueva regulación.
Desde ya encontramos ilegales los sistemas de inteligencia artificial que conllevan un "riesgo inaceptable", incluidas algunas herramientas de vigilancia predictiva, sistemas de puntuación social e identificación biométrica que categorizan a las personas por raza, orientación sexual y religión.
Incumplir esas prohibiciones de la Ley de IA (conocida como AI Act en inglés) lleva a graves consecuencias. Como recoge Maldita, el 2 de agosto de 2025, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), encargada del cumplimiento de la Ley de IA en España, deberá asumir la potestad sancionadora.
Multas de hasta 35 millones
Quienes usen los sistemas prohibidos se enfrentan a multas de hasta 35 millones de euros o de hasta el 7% de su facturación total anual mundial. No hay información específica de ChatGPT o de otros similares (a pesar de las pasadas polémicas), como el último en el mercado llegado de China, DeepSeek, aunque mucho se ha hablado de estos sistemas y sus riesgos potenciales.
Sobre chatbots, lo que explica la ley es que "los sistemas de IA pueden utilizarse para ofrecer motores de búsqueda en línea, en particular en la medida en que un sistema de IA, como un chatbot en línea, efectúe búsquedas, en principio, en todos los sitios web, incorpore a continuación los resultados a sus conocimientos existentes y utilice los conocimientos actualizados para generar una única información de salida que combine diferentes fuentes de información.
De todos modos, ya hay regulación que marca límites al respecto. La Ley de Inteligencia Artificial (AIA) es una norma acordada por los organismos de la Unión Europea buscando establecer un marco legal común para la inteligencia artificial en la UE. Esta ley, propuesta inicialmente en abril de 2021, aunque no se implementará antes de 2026.
En Europa las herramientas de IA de OpenAI ya han vivido ciertas restricciones en sitios como Italia, amparadas, de hecho, por la legislación del Reglamento General de Protección de Datos. En Europa existe una distinción legal entre los datos de dominio público y los de libre uso gracias a la ley GDRP. También tenemos en junio de 2023 cuando la Eurocámara dio luz verde al Reglamento de Inteligencia Artificial y recogimos en Genbeta las claves de la legislación, entre otros. En marzo de 2024 la UE aprobó una pionera ley de IA que contempla "riesgos inaceptables" para nuestra seguridad.
El Instituto para la Digitalización Democrática resume la nueva reglamentación como que se prohíben usos subliminales como la puntuación social que se lleva a cabo en China; el reconocimiento de emociones en el trabajo o en espacios educativos; o la clasificación biométrica en espacios públicos tipo con cámaras de vigilancia.
Un resumen a los sistemas prohibidos
Concretamente, se prohíbe El artículo 5 del capítulo II de la ley prohíbe la introducción en el mercado, puesta en servicio y la utilización de los sistemas de IA con características como estas que veremos aquí. Para ver la información completa de la ley al respecto, puedes entrar en este enlace.
Por un lado, la introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que "se sirva de técnicas subliminales que trasciendan la conciencia de una persona o de técnicas deliberadamente manipuladoras o engañosas" con el objetivo o el efecto de alterar de manera sustancial el comportamiento de una persona o un colectivo de personas, mermando de manera apreciable su capacidad para tomar una decisión informada. Es decir, las IA que usen información totalmente engañosa.
Por otro lado, las IA que explote alguna de las vulnerabilidades de una persona física o un determinado colectivo de personas derivadas de su edad o discapacidad, o de una situación social o económica específica, con la finalidad o el efecto de alterar de manera sustancial el comportamiento de dicha persona. Como ejemplifican desde Maldita, si una IA usa análisis de datos para crear anuncios altamente personalizados que aprovechen información sensible de un colectivo.
En tercer lugar, las IA que evalúan o clasifican a personas físicas o a colectivos de personas durante un período determinado de tiempo atendiendo a su comportamiento social y si luego esas informaciones provocan un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos de personas.
Los sistemas de IA que hagan evaluaciones de riesgos de personas físicas con el fin de valorar o predecir el riesgo de que una persona cometa un delito basándose únicamente en la elaboración del perfil de una sola persona física.
También las inteligencias artificiales que creen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión.
Otra prohibición es usar la inteligencia artificial para "inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos" aunque hay una excepción: cuando el sistema de IA esté destinado a ser instalado en el mercado por motivos médicos o de seguridad.
Otro asunto de importancia es la biometría: es ilegal la introducción en el mercado o el uso de sistemas de categorización biométrica que clasifiquen individualmente a las personas físicas sobre la base de sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual. Cabe decir que esta prohibición no incluye el etiquetado o filtrado de conjuntos de datos biométricos adquiridos lícitamente.
Imagen | Foto de Christian Lue en Unsplash
En Genbeta | Los mejores cursos gratis para aprender a usar ChatGPT desde cero hasta ingeniería de prompts
-
La noticia
La Inteligencia Artificial tiene más restricciones en Europa desde ya: estas son las nuevas restricciones a herramientas IA
fue publicada originalmente en
Genbeta
por
Bárbara Bécares
.
