Μετάφραση από τον Επαμεινώνδα Τρουλινό Πρωτοδίκη Δ.Δ.
Το Συνταγματικό Συμβούλιο της Γαλλίας εξέτασε τη συνταγματικότητα διατάξεων του νόμου που προσάρμοσε την γαλλική νομοθεσία στον Γενικό Κανονισμό για την Προστασία των Προσωπικών Δεδομένων [Κανονισμός (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 27.04.2016].
Μεταξύ των διατάξεων που εξέτασε ήταν και αυτή που αφορά στη χρήση από τη Διοίκηση αλγόριθμων για την έκδοση ατομικών διοικητικών πράξεων.
Σχετικό με το ζήτημα αυτό είναι το άρθρο 22 του προαναφερόμενου Κανονισμού, το οποίο κατοχυρώνει το «δικαίωμα στην ανθρώπινη παρέμβαση».
Παρατίθεται το σχετικό απόσπασμα σε μετάφραση.
Το πλήρες κείμενο της απόφασης είναι διαθέσιμο από τον δικτυακό τόπο του Συνταγματικού Συμβουλίου στα γαλλικά και στα αγγλικά
Απόσπασμα της απόφασης του Συνταγματικού Συμβουλίου 2018-765 DC της 12.06.2018:
-Σχετικά με ορισμένες διατάξεις του άρθρου 21 65. Το άρθρο 21 τροποποιεί το άρθρο 10 του Νόμου της 6ης Ιανουαρίου 1978, έτσι ώστε να διευρύνει τις περιπτώσεις κατά τις οποίες, κατ’ εξαίρεση, μια [διοικητική] πράξη, η οποία, είτε έχει έννομες συνέπειες για κάποιο άτομο, είτε το επηρεάζει σημαντικά, μπορεί να εκδοθεί με αυτόματη επεξεργασία προσωπικών δεδομένων. Αυτό, βάσει του 2ου τμήματος του άρθρου 10 επιτρέπεται στις ατομικές διοικητικές πράξεις, όταν ο χρησιμοποιούμενος αλγόριθμος δεν σχετίζεται με ευαίσθητα προσωπικά δεδομένα, όταν κατ’ αυτών είναι δυνατή η άσκηση διοικητικής προσφυγής και όταν παρέχεται ενημέρωση για τη χρήση του αλγόριθμου.
66. Οι προσφεύγοντες εκτιμούν ότι η ανάθεση στη Διοίκηση της εξουσίας να εκδώσει ατομικές διοικητικές πράξεις, ερειδόμενες μόνο σε έναν αλγόριθμο θα έχει ως συνέπεια να αποποιηθεί η Διοίκηση τη δυνατότητα ν’ ασκεί τη διακριτική της ευχέρεια σε κάθε μεμονωμένη περίπτωση και συνεπώς το 2ο τμήμα του άρθρου 10 του Νόμου της 6ης Ιανουαρίου 1978 προσκρούει στην εγγύηση των δικαιωμάτων [του ανθρώπου] και στο άρθρο 21 του Συντάγματος.
Επίσης, τα προαναφερόμενα θα συνιστούσαν παραβίαση [της τελευταίας διάταξης] λόγω της ύπαρξης αλγόριθμων «που μαθαίνουν από μόνοι τους» [self-learning algorithms], οι οποίοι μπορούν αυτοτελώς να αναθεωρούν τους κανόνες που εφαρμόζουν εμποδίζοντας, κατ’ ουσία, τη Διοίκηση να γνωρίζει τους κανόνες, επί τη βάση των οποίων πράγματι ερείδονται οι διοικητικές πράξεις.
Περαιτέρω, οι προσφεύγοντες εκτιμούν ότι, ελλείψει επαρκών εγγυήσεων, ο νομοθέτης θα έχει παραβιάσει «τις συνταγματικές αρχές, που διέπουν την άσκηση της κανονιστικής αρμοδιότητας» στο μέτρο που, αφενός δεν θα υπάρχει εγγύηση ότι οι κανόνες που εφαρμόζουν οι αλγόριθμοι είναι συμβατοί με τον νόμο, αφετέρου η Διοίκηση θα έχει απεκδυθεί της κανονιστικής της αρμοδιότητας υπέρ αλγόριθμων, που θέτουν τους δικούς τους κανόνες. Οι κανόνες που θα τίθενται από αυτό το τελευταίο είδος αλγόριθμων δεν μπορούν να προσδιοριστούν εκ των προτέρων και συνεπώς θα παραβιάζεται η «αρχή της δημοσιότητας των κανόνων δικαίου».
Τέλος, οι προσφεύγοντες υποστηρίζουν ότι οι αμφισβητούμενες διατάξεις στερούνται κανονιστικού ερείσματος και ότι ελλείψει αυτού είναι, εξαιτίας της πολυπλοκότητάς τους, αντίθετες στον συνταγματικό σκοπό της πρόσβασης στον νόμο και της σαφήνειας αυτού.
67. Το άρθρο 21 του Συντάγματος αναθέτει την κανονιστική αρμοδιότητα στον Πρωθυπουργό, με την επιφύλαξη των διατάξεων του άρθρου 13.
68. Οι αμφισβητούμενες διατάξεις επιτρέπουν στη Διοίκηση να εκδίδει ατομικές διοικητικές πράξεις, που έχουν έννομες συνέπειες ή επηρεάζουν σημαντικά κάποιο πρόσωπο με μοναδικό έρεισμα έναν αλγόριθμο.
69. Ωστόσο, καταρχάς, οι διατάξεις αυτές περιορίζονται να επιτρέπουν στη Διοίκηση να προβεί σε εξατομικευμένη εκτίμηση της κατάστασης του διοικουμένου, με την αποκλειστική χρήση ενός αλγόριθμου, σύμφωνα με τους κανόνες και τις προϋποθέσεις που θέτει εκ των προτέρων ο υπεύθυνος επεξεργασίας. Δεν έχουν ούτε τον σκοπό ούτε το αποτέλεσμα να επιτρέπουν στη Διοίκηση είτε να λαμβάνει αποφάσεις χωρίς νόμιμο έρεισμα, είτε να εφαρμόζει κανόνες διαφορετικούς από αυτούς που ισχύουν.
Συνεπώς η Διοίκηση δεν απεκδύεται της κανονιστικής της αρμοδιότητας.
70. Δεύτερον, για να εκδοθεί ατομική διοικητική πράξη ερειδόμενη αποκλειστικά σε ένα αλγόριθμο πρέπει να πληρούνται τρεις προϋποθέσεις.
Αφενός, σε συμμόρφωση με το άρθρο L. 311-3-1 του κώδικα των σχέσεων ανάμεσα στο κοινό και στη Διοίκηση, η ατομική διοικητική πράξη πρέπει ρητά να μνημονεύει ότι ελήφθη με βάση έναν αλγόριθμο και εφόσον ο ενδιαφερόμενος το ζητήσει, πρέπει να του γνωστοποιηθούν τα κύρια χαρακτηριστικά λειτουργίας του αλγόριθμου.
Τούτων έπεται ότι όταν οι αρχές του τρόπου λειτουργίας του αλγόριθμου δεν μπορούν να γνωστοποιηθούν χωρίς να παραβιάζονται τα μυστικά ή τα συμφέροντα που αναφέρονται στη δεύτερη παράγραφο του άρθρου L. 311-5 του κώδικα των σχέσεων ανάμεσα στο κοινό και στη Διοίκηση [πρόκειται για τα κρατικά μυστικά, ζητήματα σχετικά με την εθνική άμυνα κ.α.], καμιά ατομική διοικητική πράξη δεν μπορεί να εκδοθεί ερειδόμενη αποκλειστικά σε αυτόν τον αλγόριθμο.
Αφετέρου, κατά της ατομικής διοικητικής πράξης θα πρέπει να υφίσταται η δυνατότητα άσκησης της διοικητικής προσφυγής που προβλέπεται στο πρώτο κεφάλαιο, του πρώτου τίτλου του τέταρτου βιβλίου του κώδικα των σχέσεων ανάμεσα στο κοινό και στη Διοίκηση. Η Διοίκηση αποφαινόμενη επί της διοικητικής προσφυγής οφείλει να μη στηριχτεί για την απόφασή της αποκλειστικά στον αλγόριθμο.
Περαιτέρω, η διοικητική πράξη, σε περίπτωση αμφισβήτησης, υπόκειται σε δικαστικό έλεγχο, κατά τον οποίο μπορεί να ζητηθεί από τη Διοίκηση να αποκαλύψει τα χαρακτηριστικά του αλγόριθμου [τον τρόπο επεξεργασίας των δεδομένων από τον αλγόριθμο].
Τελικά, δεν επιτρέπεται η αποκλειστική χρήση ενός αλγόριθμου αν η επεξεργασία των δεδομένων αφορά κάποιο από τα ευαίσθητα προσωπικά δεδομένα που αναφέρονται στην παράγραφο 1 του άρθρου 8 του Νόμου της 6ης Ιανουαρίου 1978, δηλαδή των προσωπικών δεδομένων «που αποκαλύπτουν τη φυλετική ή εθνική καταγωγή, τα πολιτικά φρονήματα, τις θρησκευτικές ή φιλοσοφικές πεποιθήσεις ή τη συμμετοχή σε συνδικαλιστική οργάνωση ενός φυσικού προσώπου», καθώς και των γενετικών δεδομένων, των βιομετρικών δεδομένων, των δεδομένων που αφορούν την υγεία ή των δεδομένων που αφορούν τη σεξουαλική ζωή ενός φυσικού προσώπου ή τον γενετήσιο του προσανατολισμό.
71. Τέλος, ο υπεύθυνος επεξεργασίας πρέπει να εξασφαλίσει τον έλεγχο της αλγοριθμικής επεξεργασίας και την εξέλιξή της προκειμένου να μπορεί να εξηγήσει λεπτομερώς και κατανοητά στον ενδιαφερόμενο τον τρόπο με τον οποίο έγινε η επεξεργασία των δεδομένων του. Συνεπώς, δεν μπορούν να χρησιμοποιηθούν, ως αποκλειστικό έρεισμα μιας ατομικής διοικητικής πράξης αλγόριθμοι, που πιθανόν αναθεωρούν τους εφαρμοστέους κανόνες μόνοι τους, χωρίς τον έλεγχο και την επικύρωση του υπευθύνου επεξεργασίας.
72. Από τα ανωτέρω προκύπτει ότι ο νομοθέτης έχει καθορίσει τις κατάλληλες εγγυήσεις για να διασφαλίσει τα δικαιώματα και τις ελευθερίες των ατόμων που υπόκεινται σε ατομικές διοικητικές πράξεις ερειδόμενες αποκλειστικά σ’ έναν αλγόριθμο. Τα παράπονα για παραβίαση του άρθρου 16 της Διακήρυξης [των Δικαιωμάτων του Ανθρώπου και του Πολίτη] του 1789 και του άρθρου 21 του Συντάγματος πρέπει να απορριφθούν.
Το 2ο τμήμα του άρθρου 10 του Νόμου της 6ης Ιανουαρίου 1978, το οποίο δεν στερείται κανονιστικού ερείσματος, δεν είναι ασαφές και δεν παραβιάζει κάποια άλλη συνταγματική απαίτηση, είναι σύμφωνο με το Σύνταγμα.Πηγή: ddikastes.gr
