Ψηφιακός Μετασχηματισμός και Δημόσιο: Το Νομικό Πλαίσιο Προστασίας του Πολίτη από τα Σφάλματα των Αλγορίθμων και της Τεχνητής Νοημοσύνης

Ψηφιακός Μετασχηματισμός και Δημόσιο: Το Νομικό Πλαίσιο Προστασίας του Πολίτη από τα Σφάλματα των Αλγορίθμων και της Τεχνητής Νοημοσύνης

Ο ψηφιακός μετασχηματισμός της ελληνικής Δημόσιας Διοίκησης (gov.gr) αναμόρφωσε ριζικά τις σχέσεις κράτους-πολίτη, εισάγοντας αυτοματοποιημένες διαδικασίες στη φορολογική διοίκηση (ΑΑΔΕ), την κοινωνική ασφάλιση (e-EFKA) και την έκδοση διοικητικών πράξεων. Ωστόσο, η χρήση αλγοριθμικών συστημάτων και εργαλείων Τεχνητής Νοημοσύνης (ΤΝ) εισάγει νέους νομικούς κινδύνους, με κυριότερο το ψηφιακό σφάλμα (algorithmic error), το οποίο μπορεί να οδηγήσει σε αυθαίρετες καταλογιστικές πράξεις, περικοπές δικαιωμάτων ή εσφαλμένες ψηφιακές διασταυρώσεις.

Στο σύγχρονο Κράτος Δικαίου, η εισαγωγή των νέων τεχνολογιών στη Δημόσια Διοίκηση τελεί υπό τον αυστηρό περιορισμό του Συντάγματος και του ενωσιακού δικαίου. Ο πολίτης δεν είναι ανυπεράσπιστος απέναντι στην «απρόσωπη» μηχανή, καθώς διαθέτει ένα ισχυρό πλέγμα νομικών εγγυήσεων.

1. Το Ενωσιακό Πλαίσιο: Άρθρο 22 του GDPR (ΓΚΠΔ)

Το θεμελιώδες νομικό ανάχωμα απέναντι στην αλγοριθμική αυθαιρεσία εδράζεται στο Άρθρο 22 του Γενικού Κανονισμού Προστασίας Δεδομένων (ΕΕ) 2016/679 (GDPR). Η διάταξη ορίζει ρητά ότι:

«Το υποκείμενο των δεδομένων έχει το δικαίωμα να μην υπόκειται σε απόφαση που λαμβάνεται αποκλειστικά με βάση αυτοματοποιημένη επεξεργασία, συμπεριλαμβανομένης της κατάρτισης προφίλ, η οποία παράγει έννομα αποτελέσματα που το επηρεάζουν ή το επηρεάζει σημαντικά με ανάλογο τρόπο».

Αν και η παράγραφος 2 του ίδιου άρθρου επιτρέπει κατ’ εξαίρεση την αυτοματοποιημένη λήψη αποφάσεων όταν αυτή βασίζεται σε ρητή διάταξη νόμου (όπως συμβαίνει συχνά στο Δημόσιο Δίκαιο για λόγους δημοσίου συμφέροντος), η νομιμότητα αυτής της επεξεργασίας τελεί υπό την απαρέγκλιτη προϋπόθεση της θέσπισης κατάλληλων μέτρων για την προστασία των δικαιωμάτων, των ελευθεριών και των εννόμων συμφερόντων του υποκειμένου.

Στα μέτρα αυτά περιλαμβάνονται υποχρεωτικά:

• Το δικαίωμα εξασφάλισης ανθρώπινης παρέμβασης από την πλευρά του αρμόδιου δημοσίου φορέα (human-in-the-loop).
• Το δικαίωμα έκφρασης άποψης και προβολής αντιρρήσεων από τον πολίτη προ της οριστικοποίησης της πράξης.
• Το δικαίωμα προσβολής της απόφασης ενώπιον της Διοίκησης ή των Δικαστηρίων.

2. Το Εθνικό Νομοθετικό Πλαίσιο: Νόμος 4961/2022

Η Ελλάδα πρωτοπόρησε θεσπίζοντας τον Ν. 4961/2022 (ΦΕΚ Α’ 146/27.07.2022) για τις «Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών», ο οποίος θέτει το κανονιστικό πλαίσιο για τη χρήση Τεχνητής Νοημοσύνης στον δημόσιο τομέα.

Βάσει των άρθρων 9 έως 13 του Ν. 4961/2022, κάθε δημόσιος φορέας που προτίθεται να κάνει χρήση συστήματος ΤΝ για τη λήψη αποφάσεων ή την υποστήριξη της λήψης αποφάσεων με αντίκτυπο στους πολίτες, υποχρεούται σε:

1. Σύνταξη Εκτίμησης Αντικτύπου Σχετικά με την Προστασία Δεδομένων (ΕΑΠΔ / DPIA), σύμφωνα με το άρθρο 35 του GDPR.
2. Τήρηση των αρχών της διαφάνειας και της εξηγησιμότητας (explainability). Ο πολίτης δικαιούται να γνωρίζει τις παραμέτρους, τα δεδομένα εισόδου και τη λογική βάσει της οποίας ο αλγόριθμος κατέληξε σε μια συγκεκριμένη κρίση.
3. Συνταγματικές Αρχές και Κώδικας Διοικητικής Διαδικασίας

Κάθε αυτοματοποιημένη διοικητική πράξη οφείλει να εναρμονίζεται με τις πάγιες αρχές του Ελληνικού Διοικητικού Δικαίου:

• Το δικαίωμα της προηγούμενης ακρόασης (Άρθρο 20 παρ. 2 του Συντάγματος & Άρθρο 6 του ΚΔΔιαδ – Ν. 2690/1999): Η Διοίκηση δεν δύναται να εκδώσει δυσμενή διοικητική πράξη βασιζόμενη αποκλειστικά σε ένα αλγοριθμικό εύρημα, χωρίς να καλέσει προηγουμένως τον διοικούμενο να εκθέσει τις απόψεις του και να προσκομίσει αντίθετα αποδεικτικά στοιχεία.
• Η υποχρέωση ειδικής και εμπεριστατωμένης αιτιολογίας (Άρθρο 17 του ΚΔΔιαδ): Μια απλή παραπομπή σε «αποτέλεσμα ψηφιακής διασταύρωσης» ή σε «εύρημα του πληροφοριακού συστήματος» δεν συνιστά νόμιμη αιτιολογία. Η πράξη ακυρώνεται δικαστικά λόγω έλλειψης αιτιολογίας, εάν δεν εξειδικεύονται τα πραγματικά περιστατικά και τα νομικά κριτήρια που εφάρμοσε το σύστημα.

4. Μέσα Νομικής Άμυνας του Πολίτη

Σε περίπτωση έκδοσης εσφαλμένης πράξης λόγω ψηφιακού ή αλγοριθμικού σφάλματος, ο πολίτης διαθέτει συγκεκριμένα ένδικα βοηθήματα και μέσα:

• Ενδικοφανής Προσφυγή / Αίτηση Θεραπείας: Εντός των νόμιμων αποσβεστικών προθεσμιών, υποβάλλεται προσφυγή ενώπιον του εκδόντος ή του προϊσταμένου οργάνου, αιτούμενη την ανθρώπινη επανεξέταση των στοιχείων και τη διόρθωση του σφάλματος.
• Αίτηση Ακυρώσεως ή Προσφυγή ουσίας στα Διοικητικά Δικαστήρια: Εάν η Διοίκηση απορρίψει την ένσταση, η υπόθεση άγεται ενώπιον των Διοικητικών Πρωτοδικείων/Εφετείων ή του Συμβουλίου της Επικρατείας (ΣτΕ), με κύριο λόγο ακυρώσεως την παράβαση ουσιώδους τύπου της διαδικασίας (έλλειψη ακρόασης) ή την πλάνη περί τα πράγματα (factual error) που προκλήθηκε από το πληροφοριακό σύστημα.
• Καταγγελία στην Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ): Για παραβίαση των όρων του άρθρου 22 του GDPR ή παράλειψη διενέργειας της απαιτούμενης DPIA από τον δημόσιο φορέα.

Συμπέρασμα

Ο ψηφιακός μετασχηματισμός αποτελεί μοχλό ανάπτυξης, όμως η αρχή της νομιμότητας της δράσης της Δημόσιας Διοίκησης (άρθρο 43 επ. του Συντάγματος) επιτάσσει η τεχνολογία να τελεί υπό την κυριαρχία του νόμου και τον σεβασμό των δικαιωμάτων του ανθρώπου. Το Κράτος Δικαίου δεν υποχωρεί μπροστά στην εισαγωγή των αλγορίθμων· αντιθέτως, προσαρμόζει τα νομικά του εργαλεία για να εγγυηθεί ότι κάθε απόφαση της Πολιτείας διατηρεί το ανθρωποκεντρικό της υπόβαθρο.