La Comisión Europea ha presentado una propuesta en relación con la tecnología que estará en el centro de nuestro futuro inminente.
El pasado miércoles 21 de abril, la Comisión Europea presentó una propuesta, caracterizada por ser compleja y ambiciosa al mismo tiempo, para regular el uso de sistemas de inteligencia artificial (IA), con el objetivo de indicar los usos permitidos y prohibidos para proteger la privacidad y otros derechos de los ciudadanos europeos. La propuesta era bastante esperada ya que se considera el proyecto más ambicioso hasta ahora llevado a cabo para la regulación de un sector en plena expansión y con contornos aún difuminados. Para su entrada en vigor, el nuevo reglamento deberá ser discutido y votado por el Parlamento Europeo y los estados miembros, un proceso que tardará algunos años en completarse.
La propuesta presentada por la Comisión Europea incluye:
· un marco legal sobre IA;
· un nuevo plan coordinado con los Estados miembros para garantizar la seguridad y los derechos fundamentales de las personas y las empresas;
· un reglamento sobre máquinas.
El marco regulador europeo de la IA
El marco regulatorio se centra en la confiabilidad en la IA, siguiendo un enfoque basado en el riesgo. Estos son:
• Riesgo inaceptable: cuando los sistemas de inteligencia artificial son considerados como una clara amenaza para la seguridad, los medios de vida y los derechos de las personas, estos serán prohibidos. La Comisión de la UE toma como ejemplos juguetes que utilizan asistencia de voz para fomentar comportamientos peligrosos por parte de menores y sistemas que permiten a los gobiernos dar "puntuaciones sociales";
• Alto riesgo: cuando la tecnología de IA se utiliza para infraestructura crítica (como por ejemplo el transporte), educación o formación profesional (como por ejemplo en el caso de la calificación de exámenes), en componentes de seguridad de productos, en servicios públicos y privados esenciales, en gestión migratoria, asilo y control de fronteras, y en la administración de justicia y procesos democráticos.
• Riesgo limitado, en el caso de sistemas de inteligencia artificial con obligaciones específicas de transparencia (como chatbots);
• Riesgo mínimo: cuando la tecnología de IA conlleva un riesgo mínimo o nulo, y en estos casos se prevé uso libre de ellas. Por ejemplo entran en dicho alcance aplicaciones como videojuegos o filtros de spam basados en IA. Hay también que decir que a día de hoy, la gran mayoría de los sistemas de IA entran en esta categoría y que el proyecto de reglamento no interviene aquí, ya que estos sistemas de IA solo representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.
En términos de governance, la Comisión europea propone que las autoridades nacionales de vigilancia del mercado supervisen las nuevas normas, y por otro lado aspiran a que el establecimiento de una Comisión especial europea, sobre la inteligencia artificial, facilitará su implementación y estimulará el desarrollo de las normas en materia de IA. Así mismo, se proponen códigos de conducta voluntarios para los sistemas de IA que no implican alto riesgo, así como espacios de experimentación regulatoria para facilitar la innovación responsable.
El plan coordinado sobre IA:
El nuevo plan coordinado con los Estados miembros utilizará la financiación asignada a través de los programas Europa Digital y Horizonte Europa, así como el Mecanismo de recuperación y resiliencia, que incluye un objetivo de gasto digital del 20%, y programas de política de cohesión para:
• crear condiciones favorables para el desarrollo y la adopción de la IA mediante el intercambio de información estratégica, el intercambio de datos y la inversión en capacidades informáticas críticas.
• Promover la excelencia en IA "del laboratorio al mercado" por medio de la creación de una asociación con rasgos público-privado, creando y movilizando capacidades de investigación, desarrollo e innovación y poniendo a disposición de las PYME y las administraciones públicas instalaciones de prueba y experimentación, así como centros de investigación e innovación en materia; • Asegurar que la IA sea de utilidad positiva para las personas así como para la sociedad y promoviendo la visión europea de una IA sostenible y fiable a nivel mundial;
• Fomentar el liderazgo estratégico en sectores y tecnologías de alto impacto, como por ejemplo el medio ambiente centrándose en la contribución de la IA a la producción sostenible, o en el caso de la salud mediante la expansión del intercambio transfronterizo de información, así como el sector público, la movilidad, los asuntos de interior y la agricultura, además de la robótica.
El reglamento que atañe a las maquinarias.
El nuevo reglamento de maquinaria se pone el objetivo de que la nueva generación de maquinarias sea tal da garantizar la seguridad de los usuarios y consumidores, fomentando la innovación.
El nuevo reglamento también responderá a las necesidades del mercado aportando mayor claridad jurídica a las disposiciones existentes, simplificando la carga administrativa y los costes para las empresas y al mismo tiempo garantizando la coherencia con el marco legislativo de la UE en materia de productos.
El Reglamento sobre maquinas tendrá como fin garantizar la integración en forma segura de los sistemas de inteligencia artificial en la maquinaria, mientras que el nuevo Reglamento sobre la IA tratará y planificará los riesgos de seguridad de los sistemas de inteligencia artificial.
Por tanto, el objetivo es apoyar el desarrollo de una inteligencia artificial antropocéntrica, sostenible, segura, inclusiva y fiable, utilizando los fondos europeos de la nueva programación 2021-2027, desde el programa Europa Digital hasta la política de cohesión.
La iniciativa de la Comisión, como hemos visto, abarca diversas áreas y aplicaciones de la IA, aunque sin duda uno de los temas centrales está vinculado a los sistemas de reconocimiento facial de personas por medio de las cámaras de seguridad.
La propuesta prevé que el uso en espacios públicos de estos sistemas "en tiempo real" esté generalmente prohibido.
Sin embargo, el reglamento prevé numerosas excepciones, incluida la posibilidad de utilizar el reconocimiento facial para la búsqueda de sospechosos en actividades delictivas por parte de la policía. Para este último caso, se prevé la necesidad de contar con la autorización de las autoridades judiciales, requisito que según varios críticos no constituirá un disuasivo para evitar el uso excesivo del reconocimiento facial, ya que es raro que no se otorguen permisos para realizar actividades de este tipo, especialmente en condiciones de emergencia y cuando es necesario buscar a una o más personas sospechosas de un delito.
Como se señaló en los últimos meses, cuando emergieron avances en el texto, el nuevo reglamento parece mantener una postura poco clara hacia tecnologías que podrían violar los derechos de los ciudadanos a la privacidad.
Si bien por un lado prohíbe su utilizo informando de los riesgos que puede conllevar, por otro prevé diversas excepciones que de hecho permitirán a las fuerzas policiales realizar actividades de vigilancia masiva, sin muchas garantías en el tratamiento de los datos.
La prohibición toma en consideración también las actividades de vigilancia en “tiempo real”, lo que parece indicar que siempre está permitido realizar búsquedas con tecnologías de reconocimiento facial sobre imágenes ya adquiridas.
Si este fuera el caso, los estados miembros podrían utilizar soluciones tecnológicas que ya han estado disponibles durante algún tiempo y se utilizan cada vez más en los Estados Unidos y China.
Luisa Cardona
Abogada experta en Propiedad Intelectual, Protección de Datos y Nuevas Tecnologías
TQABOGADOS