Qué permite y qué prohíbe la nueva ley de inteligencia artificial

Il Parlement européen a ratifié ce mercredi la loi sur l'intelligence artificielle adoptée en décembre par les institutions communautaires, la première à réglementer cette technologie au monde, et a ainsi franchi une étape importante vers son approbation définitive dans l'Union européenne, informer Lluis Tovar et Noelia Tobias.

« L'Europe est désormais un leader mondial en matière d'intelligence artificielle », a déclaré après le vote le commissaire européen au Marché intérieur, Thierry Breton, qui a assuré que « nous réglementons le moins possible, mais autant que nécessaire ».

Il jettera les bases d’une « IA digne de confiance dans le monde entier ».

Le commissaire français, promoteur de l'initiative, a assuré que « l'Europe est désormais une référence mondiale en matière d'intelligence artificielle », et a assuré que « nous réglementons le moins possible, mais autant que nécessaire ».

« Un cadre pionnier en Europe pour une IA innovante, avec des limites claires », a déclaré la présidente de la Commission européenne, Ursula von der Leyen, sur le réseau social « et » posera les bases d'une IA digne de confiance dans le monde entier.

Avec 523 voix pour, 46 contre et 49 abstentions, le Parlement européen a ainsi entériné l'accord conclu à la fin de l'année dernière par un groupe de représentants des trois institutions communautaires et qui nécessitait encore l'approbation de la séance plénière du Parlement européen.

L’UE devrait l’approuver définitivement dans les semaines à venir, même si ce n’est qu’en 2026 qu’il entrera en vigueur.

Protection des citoyens

Les réglementations autorisent ou interdisent l’utilisation de cette technologie en fonction du risque qu’elle fait courir aux citoyens et, avec elle, l’UE vise à donner l’exemple au reste du monde et à stimuler l’industrie européenne face aux États-Unis et à la Chine.

Breton a clairement indiqué que, tout au long de son développement, ils ont « résisté aux intérêts particuliers et aux groupes de pression qui demandaient d’exclure les grands modèles d’IA de la réglementation ».

Lignes générales du droit

De manière générale, la loi sur l'intelligence artificielle interdit la surveillance de masse dans les espaces publicsmais permet aux forces de l'ordre d'utiliser le caméras d'identification biométriqueavec autorisation judiciaire préalable, à prévenir une menace terroriste imminent.

Également pour localiser ou identifier un personne qui a commis un crimes de terrorisme, de traite des êtres humains, d'exploitation sexuelle ou, par exemple, de crime environnemental, ainsi que de rechercher les victimes de ces crimes.

De même, le règlement établit une série de obligations pour les systèmes d’intelligence artificielle générative sur lesquels ils se basent des programmes comme ChatGPTde la société OpenAI, ou Bard, de Google.

Ils devront notamment préciser si un texte, une chanson ou une photographie a été généré grâce à l'intelligence artificielle et garantir que les données utilisées pour entraîner les systèmes respectent le droit d'auteur.

Respect des droits fondamentaux

Par ailleurs, toute une série de systèmes d'intelligence artificielle à haut risque qui ne peuvent être commercialisés que si leurs développeurs garantissent qu'ils respectent les droits fondamentaux.

Par exemple, ceux qui peuvent influencer le résultat d'une élection ou ceux utilisés par les institutions financières pour évaluer la solvabilité et la cote de crédit des clients.

Breton a souligné que cette loi sera « une rampe de lancement pour le nouvelles entreprises de l'UE « Mener la course mondiale à une IA digne de confiance. »

« Cela permettra aux citoyens et aux entreprises européens d'utiliser l'IA 'made in Europe' en toute sécurité et en toute confiance », a-t-il déclaré.

Le règlement prévoit également la création de l'Office européen de l'intelligence artificielle, qui coordonnera l'utilisation de la technologie entre les autorités nationales et sera conseillé par un panel de scientifiques et d'organisations de la société civile.

Premier pas

La directrice générale adjointe du Bureau européen des consommateurs (BEUC), Ursula Pachl, a déclaré dans un communiqué que les consommateurs seront protégés de certaines pratiques dégradantes, telles que le score social, et pourront se joindre à des actions collectives de réparation s'ils ont subi un préjudice. Mais il a averti que la législation « aurait dû aller plus loin » et que les régulateurs concernés devront disposer des ressources nécessaires.

Le groupe de gauche au Parlement européen a également critiqué la loi, notamment qu'au lieu de privilégier la protection des citoyens, elle a préféré « faire des exceptions pour des raisons de sécurité nationale et étendre le tapis rouge aux grandes entreprises technologiques ».

L'association patronale européenne BusinessEurope a estimé que l'interprétation pratique de la loi sera cruciale pour les décisions d'investissement et a souligné qu'il sera nécessaire de « soutenir les entreprises qui innovent et de ne pas se limiter à naviguer dans la bureaucratie parce qu'elles en ont les moyens ».

Une coalition d’associations européennes de créateurs culturels a décrit la loi comme une première étape et a appelé au développement d’une IA « responsable et durable », garantissant que les réglementations sont appliquées « de manière significative et efficace ».