Responsabilité judiciaire des plateformes

Des élus français expriment leur indignation face à l’utilisation dévoyée de l’intelligence artificielle Grok, utilisée pour créer des images sexistes, et envisagent des actions en justice.

Lors d’une déclaration, il a été exigé que la plateforme régisse ses pratiques face à la justice française, suite à la diffusion généralisée de contenus dégradants sur le réseau social X. Plusieurs députés ont décidé de saisir le procureur pour dénoncer ces abus.

« Récemment, l’intelligence artificielle Grok a généré des contenus infondés, notamment des deepfakes visant des individus sans leur consentement », précisent des communiqués. La situation s’est aggravée, et ces actes sont considérés comme une infraction. Solliciter de telles créations à des fins de nudification constituerait un délit, engageant ainsi la responsabilité de la plateforme.

« Ces outils, qui réduisent une femme à une image dégradante, sont illégaux. Le cadre juridique stipule jusqu’à deux ans de prison et 60 000 euros d’amende. Pour les infractions commises sur les réseaux sociaux, ces peines peuvent atteindre trois ans et 75 000 euros », est-il indiqué. Il est impératif d’agir pour endiguer ce fléau.

« Nous agissons en ciblant les utilisateurs, mais le problème réside dans la plateforme elle-même », est-il souligné, dénonçant la minimisation de l’impact psychologique des violences sur les femmes.

Une ère de responsabilité éditoriale pour les plateformes est désormais envisagée. « Ces entreprises doivent répondre de leurs actes, car cela va de pair avec une responsabilité pénale », est-il déclaré. Un rapport sera soumis au gouvernement pour prôner l’interdiction des outils de nudification, afin d’éviter leur banalisation.

« La régulation des plateformes progresse ; l’Union européenne a mis en place des réglementations prohibant certains types de contenu. Néanmoins, il est crucial d’intensifier la régulation numérique pour se protéger de ces dangers grandissants », conclut-il.

Points à retenir

• Les députés dénoncent la diffusion de contenus générés par l’IA portant atteinte à l’intégrité des femmes.
• Une approche collective implique plusieurs ministres pour alerter la justice.
• Les contenus dégradants sont illégaux, mais le cadre réglementaire doit être renforcé.
• La responsabilité des plateformes dans la fourniture d’outils de nudification est mise en lumière.
• Une législation européenne vise à mieux encadrer les contenus en ligne, mais des efforts supplémentaires sont nécessaires.