Ένα σχολείο στο Νιου Τζέρσεϊ αναστατώθηκε όταν αποκαλύφθηκε ότι αγόρια στο γυμνάσιο Γουέστφιλντ διακινούσαν εικόνες που είχαν δημιουργηθεί με τεχνητή νοημοσύνη και έδειχναν τα πρόσωπα συμμαθητριών τους σε γυμνά σώματα. Δεν είναι σαφές αν οι δράστες θα τιμωρηθούν καθώς οι νόμοι στις περισσότερες πολιτείες των ΗΠΑ δεν έχουν προβλέψει το deepfake porn. Πριν έναν μήνα, περισσότερα από 30 κορίτσια 11-14 ετών στην Ισπανία έγιναν στόχος συμμαθητών τους με ψεύτικα γυμνά.
Σύμφωνα με τη Sensity AI, πάνω από το 90% των διαδικτυακών deepfakes είναι πορνογραφικά. Μέχρι τον Σεπτέμβριο, είχαν ανέβει 54% περισσότερα deepfake πορνό από ό,τι όλο το 2022, έγραψε το Wired. Παρότι οι γνωστές γεννήτριες εικόνων, όπως το Dall-E της OpenAI και το Firefly της Adobe, εμποδίζουν τη δημιουργία πορνό, υπάρχουν αμέτρητα διαδικτυακά εργαλεία αλλαγής προσώπων, αλλά και εφαρμογές, σαν το ClothOff που χρησιμοποιήθηκε στην Ισπανία. Τον Μάρτιο του 2022, η Ευρωπαϊκή Επιτροπή πρότεινε την ποινικοποίηση αυτού του είδους των αδικημάτων. Φαίνεται ότι ολλανδικός ποινικός κώδικας είναι ο μόνος στην Ευρώπη που έχει διάταξη για το θέμα.
