L’intelligence artificielle au service des pédophiles

L’IA a aidé des pédophiles à créer du contenu sur les abus sexuels sur des enfants, puis à le vendre – un stratagème criminel a été révélé en Grande-Bretagne.

Comme montré enquête BBC, pour créer des images, les auteurs utilisent Stable Diffusion, un logiciel d’intelligence artificielle qui aide à créer des images à utiliser dans l’art ou la conception graphique. La description de l’utilisateur est suffisante pour ce programme.

Les journalistes ont constaté que le programme est utilisé pour créer des représentations réalistes d’abus sexuels sur des enfants, y compris le viol de jeunes enfants et de nourrissons. Les images sont annoncées à l’aide de hashtags sur des plateformes telles que le site Web japonais de partage d’images Pixiv, et vous pouvez même payer pour le contenu que vous souhaitez sur Patreon*.

Un porte-parole de Pixiv a déclaré que la société accordait une attention particulière à la résolution de ce problème. Il a également assuré avoir banni toutes les représentations réalistes de contenu sexuel impliquant des mineurs. Patreon affirme avoir une politique de « tolérance zéro » pour ce contenu et affirme avoir supprimé une énorme quantité de ce contenu.

Les résultats de l’étude sont choquants – des images d’abus d’enfants sont créées à « l’échelle industrielle », dans certains endroits jusqu’à un millier par mois. Les commentaires des utilisateurs sur certaines images de Pixiv indiquent de manière ambiguë qu’ils ont un intérêt sexuel pour les enfants. Et certains proposent de leur fournir de vraies vidéos et images d’abus d’enfants.

L’agence gouvernementale britannique pour le renseignement, la sécurité et la cybernétique déclare :

« Les agresseurs d’enfants adoptent toutes les technologies, et certains experts pensent que l’avenir du matériel d’exploitation sexuelle d’enfants dépend du contenu généré par l’IA. »

Les experts en protection de l’enfance disent qu’ils ne peuvent pas résister aux milliers « d’images générées par l’intelligence artificielle d’abus d’enfants sexualisés » qui sont facilement et rapidement créées et partagées sur des forums pédophiles sombres. informe Le Washington Post. Cette « explosion » d’images d’un réalisme effrayant pourrait aider à normaliser les abus sexuels sur mineurs, attirer de vrais enfants dans un piège et rendre plus difficile pour les forces de l’ordre de trouver de vraies victimes, ont déclaré des experts.

Entre-temps, l’intelligence artificielle continue d’évoluer à un rythme rapide et des questions sur les risques futurs qu’elle peut poser à la vie privée, aux droits et à la sécurité humaine reviennent au premier plan.

* Patreon est un site Web où les créateurs créatifs peuvent distribuer leur travail via un abonnement payant ou fournir du contenu supplémentaire à leurs abonnés.

Source link