Baltimore poursuite x, ancienne twitter, pour abus de son système d'ia génératif grok
Baltimore a déposé un recours contre X, la société qui a succédé à Twitter, pour abus de son système d'intelligence artificielle génératif appelé Grok. La ville accuse X de violer la loi sur la protection du consommateur de Baltimore en concevant, en commercialisant et en déployant un système Grok qui produit et diffuse des images non consentielles de nature sexuelle, notamment des contenus impliquant des mineurs.
Les autorités de baltimore estiment que ces « deepfakes » ont des conséquences traumatisantes et durables pour les victimes, qui ne peuvent pas empêcher la propagation d'images sexuelles créées d'elles-mêmes sans leur accord.
« Ces deepfakes, en particulier ceux représentant des mineurs, ont des conséquences traumatiques à vie pour les victimes, qui sont laissées sans moyen de prévenir la diffusion de telles images choquantes créées d'elles-mêmes sans leur consentement », a déclaré le maire de Baltimore, Brandon Scott. « Nous sommes face à des entreprises qui facilitent l'exploitation sexuelle d'enfants. Notre ville ne tolérera pas cela ; c'est une menace pour la vie privée, la dignité et la sécurité publique, et ceux qui en sont responsables doivent être tenus responsables ».
Le recours contre X énonce que le système Grok permet à ses utilisateurs de « générer et de manipuler des images de personnes réelles pour créer du contenu explicite, dégradant ou autrement préjudiciable ». Il accuse également Grok de permettre aux utilisateurs de « déshabiller ou sexualiser des individus, y compris des citoyens privés et des enfants, sans leur consentement, exposant les résidents de Baltimore à des violations graves de la vie privée, à des harcèlements et des dommages psychologiques ».
La plainte affirme que bien que X présente Grok comme un assistant AI généraliste et sûr, elle ne révèle pas sa capacité à générer du contenu explicite de deepfakes.
« Les lois de protection du consommateur de Baltimore existent pour protéger les résidents contre exactement ce genre d'émersions de dommages », a ajouté la procureur de la ville, Ebony Thompson. « Lorsque des entreprises introduisent des technologies puissantes sans garde-fous adéquats, la ville a à la fois le pouvoir et l'obligation d'agir. Nous intervenons maintenant pour protéger nos résidents, tenir ces entreprises responsables et prévenir ces dommages devenir encore plus enracinés tandis que cette Technologie continue d'évoluer ».