Ο ρόλος των Αρχών Προστασίας Δεδομένων στο νέο τοπίο

Η τεχνητή νοημοσύνη (ΤΝ) αποτελεί πλέον αναπόσπαστο μέρος της καθημερινότητάς μας. Από τις προτάσεις ταινιών στις πλατφόρμες streaming μέχρι τα εργαλεία υποστήριξης διαγνώσεων στην υγεία, η ΤΝ επηρεάζει τον τρόπο με τον οποίο εργαζόμαστε, επικοινωνούμε και… ασφαλιζόμαστε. Στον τομέα της δημόσιας ασφάλειας και της επιβολής του νόμου, η χρήση εργαλείων ΤΝ υπόσχεται μεγαλύτερη αποτελεσματικότητα, ταχύτερη ανάλυση πληροφοριών και καλύτερο συντονισμό. Ομως, πίσω από την τεχνολογική λάμψη αναδύονται σημαντικά ερωτήματα: Ποιος εποπτεύει αυτά τα εργαλεία;

Τι συμβαίνει όταν ένας αλγόριθμος κάνει λάθος; Πού βρίσκονται τα όρια ανάμεσα στην ασφάλεια και την ιδιωτικότητα;

Αυτά τα ερωτήματα απαντώνται πλέον όχι μόνο φιλοσοφικά και πρακτικά, αλλά με το πρόσφατο ενωσιακό ρυθμιστικό πλαίσιο, με την Πράξη για την Τεχνητή Νοημοσύνη (AI Act) να βρίσκεται στο επίκεντρο. Οι Αρχές Προστασίας Δεδομένων βρίσκονται στον πυρήνα αυτού του πλαισίου καθώς αποκτούν πλέον ρόλο-κλειδί στην εποπτεία της ΤΝ, ειδικά όταν πρόκειται για χρήση από αστυνομικές ή άλλες Αρχές Ασφαλείας.

Τα τελευταία χρόνια, οι αστυνομικές Αρχές σε διάφορα κράτη-μέλη της ΕΕ έχουν στραφεί στη χρήση συστημάτων ΤΝ για δραστηριότητες όπως την ανάλυση δεδομένων μεγάλου όγκου, την αναγνώριση προσώπων σε δημόσιους χώρους, την πρόβλεψη εγκληματικής δραστηριότητας ή την αυτοματοποιημένη ιεράρχηση κινδύνων και υποθέσεων.

Η ΤΝ ενδέχεται να ενισχύσει την αποτρεπτική και ερευνητική ικανότητα των Αρχών, αλλά εισάγει σοβαρές προκλήσεις:

– Πόσο ακριβής είναι ένας αλγόριθμος όταν αξιολογεί ανθρώπινες συμπεριφορές;

– Μπορεί να δημιουργηθεί προφίλ υπόπτου με βάση ελλιπή ή μεροληπτικά δεδομένα;

– Πώς προστατεύεται ο πολίτης από αυτοματοποιημένες αποφάσεις χωρίς ανθρώπινη κρίση;

Σε αυτό το πλαίσιο, η ισορροπία ανάμεσα στη δημόσια ασφάλεια και την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των πολιτών είναι ίσως πιο κρίσιμη από ποτέ.

Με στόχο να θέσει φραγμούς σε ανεξέλεγκτες ή αδιαφανείς χρήσεις της τεχνητής νοημοσύνης, η Ευρωπαϊκή Ενωση υιοθέτησε την Πράξη για την ΤΝ, τον πρώτο σχετικό δεσμευτικό κανονισμό διεθνώς. Τα συστήματα ΤΝ κατατάσσονται σε κατηγορίες ανάλογα με τον κίνδυνο που ενέχουν, με τα συστήματα που αφορούν τις Αρχές επιβολής του νόμου να κατατάσσονται ρητά στα «υψηλού κινδύνου».

Αυτό σημαίνει ότι:

– Τα συστήματα πρέπει να σχεδιάζονται με βάση αρχές όπως η διαφάνεια, η ανθρώπινη εποπτεία και η ανιχνευσιμότητα.

– Απαιτούνται τεχνικά τεκμήρια, αξιολογήσεις επιπτώσεων και μηχανισμοί ελέγχου.

– Η χρήση εργαλείων όπως η αναγνώριση προσώπων σε πραγματικό χρόνο επιτρέπεται μόνο υπό αυστηρές προϋποθέσεις, όπως για την αντιμετώπιση σοβαρών απειλών ή την αναζήτηση αγνοουμένων.

Παράλληλα, η Πράξη αυτή φιλοδοξεί να δημιουργήσει ένα περιβάλλον στο οποίο οι νέες επιχειρήσεις, που σχεδιάζουν καινοτόμα συστήματα ΤΝ, μπορούν να αναπτύξουν αλλά και να δοκιμάσουν τα «προϊόντα» τους με ευέλικτο τρόπο, επωφελούμενοι από θεσμική καθοδήγηση.

Η Πράξη για την ΤΝ δίνει ιδιαίτερο ρόλο στις Αρχές Προστασίας Δεδομένων (ΑΠΔ). Οι ΑΠΔ μπορούν να οριστούν ως οι Αρχές Εποπτείας της Αγοράς (Market Surveillance Authorities – MSAs) για τον δημόσιο τομέα και ιδίως για συστήματα που χρησιμοποιούνται από τις Αρχές επιβολής του νόμου.

Ο ρόλος τους περιλαμβάνει:

– Ελεγχο συμμόρφωσης των συστημάτων ΤΝ.

– Διενέργεια ελέγχων και ερευνών για παράνομες ή υπερβολικές επεξεργασίες.

– Εκδοση γνωμοδοτήσεων και κατευθυντήριων γραμμών προς δημόσιους φορείς.

– Προστασία των δικαιωμάτων των πολιτών με την εξέταση καταγγελιών και προσφυγών.

Η εμπλοκή των ΑΠΔ, όχι μόνο εποπτικά, αλλά και καθοδηγητικά, όπως με τη συμμετοχή τους στα ρυθμιστικά δοκιμαστήρια, αποτελεί εγγύηση ότι τα συστήματα που αναπτύσσονται για λόγους ασφάλειας δεν θα ξεπερνούν τα όρια της νομιμότητας. Αλλωστε, τα μετασχηματιστικά οφέλη που μπορεί να φέρει η ΤΝ θα έχουν νόημα μόνο αν οι πολίτες εμπιστευτούν τα νέα συστήματα ΤΝ.

Οι ΑΠΔ έχουν ήδη προετοιμαστεί για το νέο θεσμικό πλαίσιο, άλλωστε η χρήση προσωπικών δεδομένων είναι συστατικό στοιχείο σε πολλά συστήματα ΤΝ. Οι ΑΠΔ, με την πλούσια εμπειρία τους και την κουλτούρα ευρωπαϊκής συνεργασίας από το GDPR, είναι στην καταλληλότερη θέση να παρέχουν θεσμική καθοδήγηση και ασφάλεια δικαίου ώστε να καταστεί δυνατή η αξιόπιστη ανάπτυξη της ΤΝ.

Η πρόοδος της τεχνολογίας δεν είναι ασύμβατη με τα θεμελιώδη δικαιώματα. Απαιτεί ευέλικτο αλλά σαφές νομικό πλαίσιο, θεσμικούς ελέγχους και ενεργή κοινωνική συμμετοχή. Η ενίσχυση του ρόλου των ΑΠΔ, τόσο μέσα από τον GDPR όσο και από τον AI Act, διασφαλίζει ότι η τεχνητή νοημοσύνη θα χρησιμοποιείται με λογοδοσία, μετριοπάθεια και ανθρώπινη εποπτεία.

Αλλωστε, η δημόσια ασφάλεια δεν είναι έννοια απόλυτη, αλλά αξία που πρέπει να συμβαδίζει με τον σεβασμό στην ιδιωτικότητα και την αξιοπρέπεια. Οι πολίτες δικαιούνται να γνωρίζουν πότε επηρεάζονται από αλγοριθμικές αποφάσεις και να ζητούν διαφάνεια, εξηγήσεις και επανεξέταση, ώστε να αποφεύγεται κάθε ένδειξη μεροληψίας.

Σε αυτή τη μετάβαση, σε έναν κόσμο που αλλάζει γρήγορα και ψηφιακά, οι Αρχές Προστασίας Δεδομένων καλούνται να παίξουν αυτόν τον διπλό ρόλο: του εγγυητή των δικαιωμάτων αλλά και της καθοδήγησης της καινοτομίας με κέντρο τον άνθρωπο.

Ο Γεώργιος Ρουσόπουλος είναι προϊστάμενος Διεύθυνσης Εποπτικού Εργου, Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα

Η Γεωργία Παναγοπούλου είναι προϊσταμένη στο Τμήμα Ελέγχων και Ασφάλειας, Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα