Εργαλείο θα… προβλέπει τους εν δυνάμει δολοφόνους
Προβληματισμό για την ευαίσθητη ισορροπία μεταξύ δημόσιας ασφάλειας και ατομικών δικαιωμάτων και σοβαρά ερωτήματα για το μέλλον των σύγχρονων κοινωνιών προκαλεί το σχέδιο της βρετανικής κυβέρνησης για την ανάπτυξη ενός «φιλόδοξου» προγράμματος με στόχο την πρόβλεψη σοβαρών εγκλημάτων, όπως η ανθρωποκτονία, μέσω της ανάλυσης προσωπικών δεδομένων ατόμων που είναι γνωστά στις Αρχές. Πρόκειται ουσιαστικά για ένα εργαλείο θα… προβλέπει τους εν δυνάμει δολοφόνους…
Το εργαλείο που θα… προβλέπει τους εν δυνάμει δολοφόνους
Το πρόγραμμα που «θα… προβλέπει τους εν δυνάμει δολοφόνους» θα βασίζεται σε δεδομένα εκατοντάδων χιλιάδων ανθρώπων και θα συμβάλλει στην ταυτοποίηση εν δυνάμει υποψήφιων δολοφόνων. Αν και το σχέδιο φέρει τον τίτλο ενός επιστημονικού εγχειρήματος που φιλοδοξεί να βελτιώσει την εκτίμηση κινδύνου, προκαλεί αντιδράσεις.
Επικριτές του αναφέρουν ότι η χρήση ευαίσθητων προσωπικών δεδομένων, όπως η ψυχική υγεία και το ιστορικό καταστάσεων κακοποίησης, ενδέχεται να ενισχύσουν προκαταλήψεις και διακρίσεις, υπογραμμίζοντας την ανησυχία για τις ηθικές και κοινωνικές επιπτώσεις της τεχνολογίας στον τομέα της ασφάλειας.
Η κίνηση προκάλεσε επίσης κριτική από βουλευτές, με τον συντηρητικό Ντέιβιντ Ντέιβις να γράφει στο X: «Νόμιζα ότι η ταινία “Minority Report” ήταν μια προειδοποίηση, όχι… οδηγίες χρήσης».
Οι ερευνητές, όπως αναφέρει ο αστυνομικός συντάκτης του «Guardian», φέρονται να χρησιμοποιούν αλγορίθμους για να αναλύσουν τις πληροφορίες χιλιάδων ανθρώπων, συμπεριλαμβανομένων θυμάτων εγκλημάτων, καθώς προσπαθούν να εντοπίσουν αυτούς που διατρέχουν τον μεγαλύτερο κίνδυνο να διαπράξουν σοβαρές βίαιες παραβάσεις.
Άλλαξαν το όνομα
Το σχέδιο αρχικά ονομαζόταν «σχέδιο πρόβλεψης ανθρωποκτονιών», αλλά το όνομά του έχει αλλάξει σε «διαμοιρασμός δεδομένων για τη βελτίωση της εκτίμησης κινδύνου». Το υπουργείο Δικαιοσύνης ελπίζει ότι το έργο θα συμβάλει στην ενίσχυση της δημόσιας ασφάλειας, αλλά οι ακτιβιστές το έχουν χαρακτηρίσει «τρομακτικό και δυστοπικό».
Είναι δε χαρακτηριστικό ότι πρόκειται για απόρρητο πρότζεκτ το οποίο αποκάλυψε η ομάδα πίεσης Statewatch και κάποια από τα λειτουργικά του στοιχεία ήρθαν στο φως μέσω εγγράφων αφού διατυπώθηκαν αιτήματα σε χρήση της Πράξης για την Ελευθερία της Πληροφόρησης (FOI). Σύμφωνα με την ομάδα, θα γίνεται χρήση δεδομένων ατόμων που έχουν καταδικαστεί για οποιοδήποτε αδίκημα και θα συμπεριλαμβάνονται ακόμα και προσωπικές πληροφορίες και στοιχεία που σχετίζονται με την ψυχική υγεία, τον εθισμό, την αναπηρία, περιπτώσεις αυτοτραυματισμού, αυτοκτονικών τάσεων ή και ενδοοικογενειακής βίας. Θα κοινοποιούνται επίσης από την αστυνομία στην κυβέρνηση ηλικιακοί δείκτες που θα αφορούν θύματα βίαιων πράξεων και την πρώτη φορά που ήρθαν σε επαφή με την αστυνομία. Οι αξιωματούχοι το αρνούνται κατηγορηματικά, επιμένοντας ότι χρησιμοποιούνται μόνο δεδομένα για άτομα με τουλάχιστον μία καταδίκη για έγκλημα. Η δημιουργία ενός αυτοματοποιημένου εργαλείου για την κατηγοριοποίηση ανθρώπων ως βίαιων εγκληματιών είναι λανθασμένη, επιμένουν ακτιβιστές, και η χρήση τόσο ευαίσθητων δεδομένων για την ψυχική υγεία, τον εθισμό και την αναπηρία είναι ιδιαίτερα παρεμβατική και ανησυχητική.
Για «ερευνητικούς σκοπούς»
Επίσης σύμφωνα με τη βρετανική κυβέρνηση το έργο αναπτύσσεται στη φάση αυτή για ερευνητικούς σκοπούς μόνο, αλλά οι ακτιβιστές υποστηρίζουν ότι τα δεδομένα που χρησιμοποιούνται θα συμβάλουν ουσιαστικά στην ενσωμάτωση προκαταλήψεων επηρεάζοντας την πρόβλεψη, ιδιαίτερα εναντίον μειονοτικών ομάδων και μη προνομιούχων ανθρώπων. Την εξέταση εναλλακτικών και καινοτόμων τεχνικών ανάλυσης δεδομένων για την εκτίμηση κινδύνου διάπραξης ανθρωποκτονίας επικαλείται το υπουργείο Δικαιοσύνης.
Η Σοφία Λάιαλ, ερευνήτρια της Statewatch, προειδοποιεί ότι πρόκειται για το τελευταίο τρομακτικό και δυστοπικό παράδειγμα της πρόθεσης της κυβέρνησης να αναπτύξει τα λεγόμενα συστήματα «πρόβλεψης» εγκλημάτων και τονίζει ότι τα αλγοριθμικά συστήματα για την «πρόβλεψη» εγκλημάτων είναι εγγενώς ελαττωματικά.
Η απάντηση του υπουργείου είναι ότι το πρότζεκτ έχει σχεδιαστεί με βάση δεδομένα που κατέχουν ήδη η υπηρεσία Σωφρονιστικών Ιδρυμάτων και Επιτήρησης και οι αστυνομικές δυνάμεις για καταδικασθέντες παραβάτες, ώστε να διευκολυνθεί η καλύτερη κατανόηση του κινδύνου διάπραξης σοβαρών βίαιων πράξεων από άτομα που βρίσκονται υπό επιτήρηση και σχετική έκθεση θα δημοσιευθεί σύντομα. Συνολικά, η πρωτοβουλία αυτή αναδεικνύει το διακύβευμα της ισορροπίας μεταξύ δημόσιας ασφάλειας και προστασίας προσωπικών δεδομένων, καθώς και για τις ηθικές και νομικές συνέπειες της χρήσης τέτοιων συστημάτων πρόβλεψης.