L’UE craint que les deepfakes et autres risques générés par l’IA sur les réseaux sociaux n’influencent les prochaines élections

Bruxelles (Belgique) (AFP) - L'UE a brandi jeudi une nouvelle loi numérique puissante pour faire pression sur TikTok et sept autres plateformes sur les risques liés à l'IA pour les prochaines élections dans le bloc des 27 pays, notamment dus aux deepfakes.

Dans une série de mesures prises dans le cadre de la loi sur les services numériques (DSA), la Commission européenne a interrogé TikTok, Facebook, Instagram, X, Google, YouTube, Snapchat et Bing sur ce qu'ils faisaient pour contrer ces risques.

La commission a également annoncé une enquête formelle contre le détaillant Internet chinois AliExpress pour de multiples violations présumées de la DSA, parmi lesquelles la vente de médicaments et de compléments alimentaires illégaux, et le fait de ne pas empêcher les mineurs d'accéder à la pornographie.

De plus, Bruxelles a interrogé le réseau social professionnel LinkedIn de Microsoft sur la manière dont les informations personnelles des utilisateurs sont utilisées à des fins de ciblage publicitaire.

« Le DSA fonctionne désormais à plein régime » après son entrée en vigueur l'année dernière, a déclaré le principal responsable du contrôle numérique de l'Union européenne, le commissaire Thierry Breton, sur les applications de médias sociaux Bluesky et X.

"Les équipes de répression (sont) pleinement mobilisées", a-t-il déclaré.

Concernant la demande d'informations adressée aux huit plateformes sur les mesures visant à atténuer les risques liés à l'IA générative, la commission a déclaré dans un communiqué qu'elle examinait des problèmes « tels que les soi-disant « hallucinations » où l'IA fournit de fausses informations, la diffusion virale de deepfakes, comme ainsi que la manipulation automatisée de services pouvant induire les électeurs en erreur ».

Les demandes formelles adressées à ces plateformes, ainsi que la demande adressée à LinkedIn, ne présupposent pas de mesures complémentaires. Cela dépendrait des informations glanées.

L’enquête contre AliExpress, en revanche, donne à Bruxelles le pouvoir d’approfondir ses documents et processus internes et de recueillir des témoignages.

Un tel niveau d'action contre une entreprise, en fonction du résultat, l'expose potentiellement à des amendes DSA pouvant atteindre six pour cent du chiffre d'affaires mondial d'une plateforme, voire à une interdiction dans des cas graves.

- L'UE contrôle la Big Tech -

Les responsables de la Commission européenne ont déclaré que l’accent mis sur l’IA générative et sur la manière dont les principales plateformes la géraient découlait de préoccupations quant à la manière dont elle pourrait être utilisée pour influencer le vote lors des élections européennes de juin.

« Nous voulons nous équiper et nous voulons équiper les plateformes et alerter les plateformes pour qu'elles soient réellement préparées au mieux à toutes sortes d'incidents qui pourraient survenir en ce qui concerne les prochaines élections, en particulier, bien sûr, celles du PE (Parlement européen). ) élections », a déclaré un responsable aux journalistes.

L'annonce concernant le risque de l'IA est intervenue un jour après que le Parlement européen a voté l'adoption d'une nouvelle loi majeure visant à lutter contre les abus liés à l'intelligence artificielle. Cette législation entrera en vigueur une fois qu’elle aura été officiellement approuvée par les pays membres de l’UE.

Dans l'ensemble, l'arsenal juridique de Bruxelles pour imposer l'ordre dans la sphère numérique a été massivement renforcé ces derniers mois avec le DSA et une loi sœur sur les marchés numériques, ainsi que la loi sur l'IA, dans le but de mieux protéger les citoyens et les entreprises européens tout en favorisant l'innovation. .

Le poids combiné de ces textes législatifs servira probablement de lignes directrices à d’autres pays, notamment occidentaux.

Les États-Unis, qui disposent d’un décret sur les normes de sécurité de l’IA, se dirigent potentiellement vers une interdiction pure et simple de TikTok si l’entreprise reste la propriété de la société chinoise ByteDance.

Les législateurs américains ont soutenu mercredi à une écrasante majorité un projet de loi visant à interdire TikTok à moins que ByteDance ne se départisse de l'application dans les six mois. Le projet de loi doit encore être adopté par la chambre haute du Congrès américain.

Le responsable de la Commission européenne a déclaré à propos des actions de Bruxelles, y compris TikTok, qu'« il n'y a aucune sorte de… dénigrement de la Chine » au niveau de l'UE et que toutes les plateformes en ligne bénéficient d'un « traitement égal » dans le cadre du DSA.

Ils ont ajouté que les annonces de jeudi ne constituent « certainement pas le dernier type d'action » et « qu'il y en aura d'autres à venir parce que nous travaillons constamment sur le matériel que nous recevons ».