Dans la continuité de ses travaux sur la lutte contre la haine en ligne et l’intelligence artificielle, la CNCDH formule plus de 20 recommandations pour que soit garantie la protection de l’intimité des jeunes en ligne, tout en préservant leur droit au respect de la vie privée.
Images intimes partagées sans consentement, deepfakes à caractère sexuel, cyberflashing, grooming, sextorsion : les jeunes sont de plus en plus nombreux à être victimes d’atteintes à leur intimité, en particulier sur les réseaux sociaux, et en raison d’une démocratisation des outils d’Intelligence artificielle générative. Face à ce fléau dont les filles sont les premières victimes, la Commission nationale consultative des droits de l’homme (CNCDH) tire la sonnette d’alarme : la réponse des pouvoirs publics et des plateformes n’est pas à la hauteur.
Dans la continuité de ses travaux sur la lutte contre la haine en ligne et l’intelligence artificielle, la CNCDH formule plus de 20 recommandations pour que soit garantie la protection de l’intimité des jeunes en ligne, tout en préservant leur droit au respect de la vie privée.
L’Etat a la responsabilité d’apporter aux mineurs la protection nécessaire pour que leurs droits et leur dignité soient respectés. Face au fléau de la cyberviolence auquel les nouvelles générations sont confrontées de manière inédite, les pouvoirs publics doivent agir pour mieux protéger, mieux prévenir, mieux sanctionner.
Jean-Marie Burguburu, président de la CNCDH
Dans cet avis adopté à l’unanimité le 23 janvier 2025, la CNCDH appelle à agir sur quatre leviers :
- Mieux prévenir les violences sexuelles et sexistes
Les jeunes n’ont pas assez conscience des risques auxquels ils s’exposent sur les réseaux sociaux. Il est fondamental de les sensibiliser, ainsi que leurs parents, aux violences sexuelles et sexistes en ligne. Dans cet objectif, et comme elle l’a déjà fait à de multiples reprises, la CNCDH réaffirme l’importance de garantir l’accès à une éducation affective, relationnelle et sexuelle (EVARS) de qualité à tous les enfants, tel que prévu par la loi.
La CNCDH recommande en outre de renforcer les actions d’aide aux victimes, notamment en augmentant les moyens consacrés au « 30 18 ».
- Plus contrôler les réseaux sociaux
La CNCDH salue les initiatives portées par certains réseaux sociaux pour mieux protéger les mineurs, par des paramétrages qui apportent des restrictions d’utilisation liées à l’âge. A défaut d’une vérification efficace de l’âge des utilisateurs, elle recommande que ces paramétrages prévus par défaut à destination des mineurs soient généralisés à tous. La CNCDH rappelle également l’importance d’uniformiser les dispositifs de signalement. Par ailleurs, les pouvoirs publics doivent soutenir le projet Disrupt pour lutter contre le partage non consenti de contenus intimes.
- Mieux encadrer l’intelligence artificielle
Les fournisseurs de système d’IA et les moteurs de recherche ont une responsabilité particulière pour endiguer la diffusion de deepfakes à caractère sexuel mettant en scène des enfants : les fournisseurs de systèmes d’IA doivent brider la capacité de leur système à produire ces deepfakes et les moteurs de recherche doivent déréférencer les sites et applications permettant leur création et leur diffusion.
- Améliorer la réponse pénale
La CNCDH recommande plusieurs ajouts et modifications dans le code pénal, en complément de ceux apportés par la loi SREN de mai 2024, notamment l’ajout de la minorité de la victime comme circonstance aggravante dans le cas de la sextorsion (article 312-10, al. 3), et la suppression de la référence au consentement dans l’article 226-8-1 (relatif aux deepfakes à caractère sexuel) lorsqu’il s’agit de mineurs de moins de quinze ans, en y ajoutant l’interdiction de la création d’un deepfake sexuel, indépendamment de sa diffusion.
À voir aussi
