Η Meta υποστηρίζει ένα νέο εργαλείο για την αφαίρεση σεξουαλικών εικόνων ανηλίκων που δημοσιεύονται στο διαδίκτυο

Το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC) ανακοίνωσε μια νέα πλατφόρμα που έχει σχεδιαστεί για να βοηθήσει στην αφαίρεση σεξουαλικών εικόνων ανηλίκων από το διαδίκτυο. Η Meta αποκάλυψε σε μια ανάρτηση ιστολογίου ότι είχε παράσχει αρχική χρηματοδότηση για τη δημιουργία του εργαλείου “Take It Down” του NCMEC, το οποίο επιτρέπει στους χρήστες να αναφέρουν και να αφαιρέσουν ανώνυμα “γυμνές, μερικώς γυμνές ή σεξουαλικά ακατάλληλες εικόνες ή βίντεο” ανήλικα άτομα που βρέθηκαν σε πλατφόρμες που συμμετέχουν και αποκλείουν την εκ νέου κοινή χρήση του προσβλητικού περιεχομένου.

Το Facebook και το Instagram έχουν υπογράψει για να ενσωματώσουν την πλατφόρμα, όπως και οι OnlyFans, Pornhub και Yubo. Το Take It Down έχει σχεδιαστεί για ανήλικους να αναφέρουν μόνοι τους εικόνες και βίντεο του εαυτού τους. Ωστόσο, οι ενήλικες που εμφανίστηκαν σε τέτοιο περιεχόμενο όταν ήταν κάτω των 18 ετών μπορούν επίσης να χρησιμοποιήσουν την υπηρεσία για να το αναφέρουν και να το αφαιρέσουν. Οι γονείς ή άλλοι έμπιστοι ενήλικες μπορούν επίσης να κάνουν μια αναφορά εκ μέρους ενός παιδιού.

Ένα FAQ για το Take It Down αναφέρει ότι οι χρήστες πρέπει να έχουν την αναφερόμενη εικόνα ή βίντεο στη συσκευή τους για να χρησιμοποιήσουν την υπηρεσία. Αυτό το περιεχόμενο δεν υποβάλλεται ως μέρος της διαδικασίας αναφοράς και, ως εκ τούτου, παραμένει ιδιωτικό. Αντίθετα, το περιεχόμενο χρησιμοποιείται για τη δημιουργία μιας τιμής κατακερματισμού, ενός μοναδικού ψηφιακού αποτυπώματος που εκχωρείται σε κάθε εικόνα και βίντεο που μπορεί στη συνέχεια να παρασχεθεί στις συμμετέχουσες πλατφόρμες για να το εντοπίσουν και να το αφαιρέσουν στους ιστότοπους και τις εφαρμογές τους, ελαχιστοποιώντας παράλληλα τον αριθμό των ατόμων που βλέπουν το πραγματικό περιεχόμενο.

«Δημιουργήσαμε αυτό το σύστημα επειδή πολλά παιδιά αντιμετωπίζουν αυτές τις απελπιστικές καταστάσεις», δήλωσε η Michelle DeLaune, πρόεδρος και διευθύνουσα σύμβουλος του NCMEC. «Ελπίζουμε τα παιδιά να συνειδητοποιήσουν αυτή την υπηρεσία και να αισθάνονται μια αίσθηση ανακούφισης που υπάρχουν εργαλεία που βοηθούν στην απομάκρυνση των εικόνων. Το NCMEC είναι εδώ για να βοηθήσει».

Η υπηρεσία Take It Down είναι συγκρίσιμη με την StopNCII, μια υπηρεσία που κυκλοφόρησε το 2021 και έχει στόχο να αποτρέψει τη μη συναινετική κοινή χρήση εικόνων για άτομα άνω των 18 ετών. και Bumble.

Εκτός από την ανακοίνωση της συνεργασίας της με το NCMEC τον Νοέμβριο του περασμένου έτους, η Meta παρουσίασε νέες δυνατότητες απορρήτου για το Instagram και το Facebook που στοχεύουν στην προστασία των ανηλίκων που χρησιμοποιούν τις πλατφόρμες. Αυτά περιλαμβάνουν την προτροπή των εφήβων να αναφέρουν λογαριασμούς αφού μπλοκάρουν ύποπτους ενήλικες, την αφαίρεση του κουμπιού μηνύματος στους λογαριασμούς των εφήβων στο Instagram όταν τους βλέπουν ενήλικες με ιστορικό αποκλεισμού και την εφαρμογή αυστηρότερων ρυθμίσεων απορρήτου από προεπιλογή για χρήστες του Facebook κάτω των 16 ετών (ή 18 σε ορισμένες χώρες).

Άλλες πλατφόρμες που συμμετέχουν στο πρόγραμμα έχουν λάβει μέτρα για την πρόληψη και την αφαίρεση άσεμνου περιεχομένου που απεικονίζει ανηλίκους. Το Yubo, μια γαλλική εφαρμογή κοινωνικής δικτύωσης, έχει αναπτύξει μια σειρά εργαλείων ελέγχου τεχνητής νοημοσύνης και ανθρώπινης λειτουργίας που μπορούν να ανιχνεύσουν σεξουαλικό υλικό που απεικονίζει ανηλίκους, ενώ το Pornhub επιτρέπει σε άτομα να υποβάλλουν απευθείας αίτημα κατάργησης για παράνομο ή μη συναινετικό περιεχόμενο που δημοσιεύεται στην πλατφόρμα του.

Και οι πέντε πλατφόρμες που συμμετέχουν έχουν επικριθεί στο παρελθόν ότι δεν προστατεύουν τους ανηλίκους από τη σεξουαλική εκμετάλλευση. ΕΝΑ BBC News Η έκθεση του 2021 διαπίστωσε ότι τα παιδιά μπορούσαν εύκολα να παρακάμψουν τα συστήματα επαλήθευσης ηλικίας του OnlyFans, ενώ το Pornhub μήνυσαν 34 θύματα σεξουαλικής εκμετάλλευσης την ίδια χρονιά, ισχυριζόμενοι ότι ο ιστότοπος κέρδιζε εν γνώσει του από βίντεο που απεικονίζουν βιασμό, σεξουαλική εκμετάλλευση παιδιών, εμπορία ανθρώπων και άλλο μη συναινετικό σεξουαλικό περιεχόμενο . Το Yubo – που περιγράφεται ως “Tinder για εφήβους” – έχει χρησιμοποιηθεί από αρπακτικά για να έρθουν σε επαφή και να βιάσουν ανήλικους χρήστες και το NCMEC εκτίμησε πέρυσι ότι το σχέδιο της Meta να εφαρμόσει κρυπτογράφηση από άκρο σε άκρο στις πλατφόρμες της θα μπορούσε ουσιαστικά να κρύψει το 70 τοις εκατό του παιδιού υλικό σεξουαλικής κακοποίησης που έχει εντοπιστεί και αναφέρεται επί του παρόντος στην πλατφόρμα του.

«Όταν οι εταιρείες τεχνολογίας εφαρμόζουν κρυπτογράφηση από άκρο σε άκρο, χωρίς ενσωματωμένα προληπτικά μέτρα για την ανίχνευση γνωστού υλικού σεξουαλικής κακοποίησης παιδιών, ο αντίκτυπος στην ασφάλεια των παιδιών είναι καταστροφικός», δήλωσε ο DeLaune στην Επιτροπή Δικαιοσύνης της Γερουσίας νωρίτερα αυτό το μήνα.

Ένα δελτίο τύπου για το Take It Down αναφέρει ότι οι πλατφόρμες που συμμετέχουν μπορούν να χρησιμοποιήσουν τις παρεχόμενες τιμές κατακερματισμού για να ανιχνεύσουν και να αφαιρέσουν εικόνες σε “δημόσιους ή μη κρυπτογραφημένους ιστότοπους και εφαρμογές”, αλλά δεν είναι σαφές εάν αυτό επεκτείνεται στη χρήση από άκρο σε άκρο από τη Meta κρυπτογράφηση σε υπηρεσίες όπως το Messenger. Επικοινωνήσαμε με το Meta για επιβεβαίωση και θα ενημερώσουμε αυτήν την ιστορία εάν μάθουμε ξανά.