La abogada Danielle Campello, especialista en Derecho Digital, Protección de Datos y Nuevas Tecnologías de Di Blasi, Parente & Associados, explica el reglamento para los sistemas europeos de IA, el primer texto vinculante aprobado en el mundo.
Abogado analiza impactos del primer texto vinculante aprobado en el mundo.
La versión final del reglamento para los sistemas de inteligencia artificial de la Unión Europea (EU AI Act) fue aprobada el 13 de marzo de 2024 por el Parlamento Europeo (con 523 votos a favor, 46 en contra y 49 abstenciones de los diputados). La Ley de IA de la UE fue aprobada después de un largo proceso legislativo que comenzó en 2019. El reglamento trae un conjunto de definiciones y reglas que tienen como objetivo garantizar la seguridad jurídica y el cumplimiento de los derechos fundamentales, al mismo tiempo que impulsan la innovación y la transformación digital.
En este sentido, el artículo 1 del reglamento europeo sobre IA establece : “ El objetivo de este reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial centrada en las personas y fiable, garantizando al mismo tiempo un alto nivel de protección de la salud. , la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales, incluida la democracia, el Estado de Derecho y la protección del medio ambiente, contra los efectos nocivos de los sistemas de inteligencia artificial («sistemas de IA» ) en la Unión, así como el apoyo a la innovación . «
“La Ley de IA de la UE será la primera regulación para herramientas de inteligencia artificial en el bloque de la Unión Europea y ciertamente promoverá una fuerte influencia a nivel global. Sin embargo, todavía depende de un período de vacatio legis , vinculado a determinadas obligaciones específicas, para entrar efectivamente en vigor, como se establece en el documento”, analiza la abogada Danielle Campello, especialista en Derecho Digital, Protección de Datos y Nuevas Tecnologías de Di Blasi. , Parente y Asociados.
El reglamento aporta un enfoque amplio basado en la evaluación de los riesgos inherentes al sistema de IA presentado y sus posibles impactos, estableciendo una amplia aplicabilidad, dirigida no solo a entidades de la UE sino también a proveedores y usuarios internacionales de sistemas de IA , siempre que se utilicen sus productos o servicios. en la Unión Europea.
Los programas de inteligencia artificial diseñados con fines militares, de defensa y de soberanía nacional no estaban incluidos en el reglamento.
Existen prohibiciones para preservar la privacidad
“Es importante resaltar que este reglamento prohibió ciertos sistemas de IA que amenazan los derechos de los ciudadanos, incluidos los sistemas de categorización biométrica que clasifican individualmente a las personas en función de sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas. , vida sexual u orientación sexual, así como sistemas que recopilan de forma no selectiva imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial e identificar personas en tiempo real”, explica la Dra. Danielle Campello.
Aplicaciones de inteligencia artificial que utilizan el reconocimiento de emociones en el lugar de trabajo y las escuelas, puntuación social, vigilancia policial predictiva (que se basa únicamente en el perfil de una persona o en la evaluación de sus características para evaluar o predecir la probabilidad de que una persona física cometa un delito), y el sistema de IA que manipula y engaña el comportamiento humano o explota las vulnerabilidades de las personas. Sin embargo, será posible utilizar el reconocimiento facial para hacer frente a riesgos inminentes para la vida o la seguridad física de las personas, situaciones de terrorismo o para ayudar en la búsqueda selectiva de una persona desaparecida, en la investigación de secuestros, trata y explotación sexual. siempre que se trate de autorización judicial y esté asociado a un delito penal.
“En el contexto del enfoque de riesgo, se prevén obligaciones y una gobernanza aún más estricta para los sistemas de IA definidos como de alto riesgo. Ejemplos de usos de IA de alto riesgo incluyen infraestructura crítica, educación y capacitación, empleo, servicios públicos y privados esenciales (por ejemplo, atención médica, banca y crédito), migración y gestión de fronteras, justicia y procesos democráticos (por ejemplo, influir en las elecciones)”, comenta el abogado de Di Blasi, Parente & Associados.
Impactos en el mundo
El reglamento para los sistemas europeos de IA es el primer texto vinculante aprobado en el mundo. La regulación europea tiene como eje central la defensa de los derechos fundamentales y de los principios éticos, centrados en el ser humano, y para ello establece normas claras y sólidas que mitiguen los riesgos inherentes a los sistemas, privilegiando la transparencia y la información adecuada, al mismo tiempo. tiempo que apoya e impulsa soluciones innovadoras y explora el potencial de la transformación digital, creando infinitas oportunidades, en un contexto de gobernanza y gestión de riesgos, con miras a la debida adecuación y cumplimiento de los sistemas de inteligencia artificial.
Di Blasi, Parente & Asociados – https://diblasiparente.com.
Fuente – Danielle Campello, abogada especializada en Derecho Digital, Protección de Datos y Nuevas Tecnologías
Equipo Prensa
Portal Innova
