Αθήνα: 20/07/2022

ΠΡΟΣ:
Πρόεδρο & Μέλη Διαρκούς Επιτροπής Δημόσιας Διοίκησης, Δημόσιας Τάξης και Δικαιοσύνης της Βουλής των Ελλήνων

ΚΟΙΝΟΠΟΙΗΣΗ:
- κ. Κ. Πιερρακάκη, Υπουργό Ψηφιακής Διακυβέρνησης
- κ. Λ. Χριστόπουλο, Γενικό Γραμματέα Ψηφιακής Διακυβέρνησης και Απλούστευσης Διαδικασιών

---

Οι προτάσεις της Ε.Σ.Α.μεΑ. επί του Σχεδίου Νόμου ‘Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις’

Αξιότιμε Πρόεδρε,

Αξιότιμα Μέλη,

Η Εθνική Συνομοσπονδία Ατόμων με Αναπηρία (Ε.Σ.Α.μεΑ.) ενόψει της σημερινής συμμετοχής της στη συνεδρίαση της Επιτροπής Δημόσιας Διοίκησης, Δημόσιας Τάξης και Δικαιοσύνης της Βουλής των Ελλήνων με το παρόν σας καταθέτει τις προτάσεις της επί του Σχεδίου Νόμου του Υπουργείου Ψηφιακής Διακυβέρνησης «Αναδυόμενες τεχνολογίες πληροφορικής και επικοινωνιών, ενίσχυση της ψηφιακής διακυβέρνησης και άλλες διατάξεις».

Καταρχάς αξίζει να αναφέρουμε ότι είμαστε ιδιαίτερα ικανοποιημένοι διότι οι περισσότερες από τις προτάσεις μας που περιλαμβάνονταν στο υπ. αριθ. πρωτ. 1036/12.07.2022 έγγραφό μας, το οποίο αποστείλαμε στον Υπουργό Ψηφιακής Διακυβέρνησης κ. Κ. Πιερρακάκη στο πλαίσιο της δημόσιας διαβούλευσης που έλαβε χώρα για το υπό συζήτηση  Σχέδιο Νόμου έγιναν αποδεκτές και ενσωματώθηκαν σε αυτό.  Επίσης θα θέλαμε να επισημάνουμε ότι θεωρούμε ιδιαίτερα σημαντική την προσθήκη, μετά τη διαβούλευση που έλαβε χώρα,  της παρ. 3 στο άρθρο 7 «υποχρεώσεις αναδόχων συστημάτων τεχνητής νοημοσύνης», στην οποία αναφέρεται το  εξής: «3. Σε κάθε προκήρυξη ή πρόσκληση εκδήλωσης ενδιαφέροντος με τις οποίες εκκινεί διαγωνιστική ή άλλη διαδικασία ανάθεσης δημόσιας σύμβασης με αντικείμενο τον σχεδιασμό ή την ανάπτυξη συστήματος τεχνητής νοημοσύνης, περιλαμβάνεται όρος για την υποχρέωση του αναδόχου να λαμβάνει, κατά τον σχεδιασμό, την ανάπτυξη και την παραγωγική λειτουργία του συστήματος, τα κατάλληλα μέτρα, προκειμένου να διασφαλίζει τη συμβατότητα αυτού με το νομικό πλαίσιο, ιδίως, αναφορικά με την προστασία της ανθρώπινης αξιοπρέπειας, τον σεβασμό της ιδιωτικής ζωής και την προστασία των δεδομένων προσωπικού χαρακτήρα, την απαγόρευση των διακρίσεων, την ισότητα γυναικών και ανδρών, την ελευθερία της έκφρασης, την καθολική πρόσβαση των ατόμων με αναπηρία, τα δικαιώματα των εργαζομένων και την αρχή της χρηστής διοίκησης».

Όπως είχαμε επισημάνει και με το υπ. αριθ. πρωτ. 1036/12.07.2022 έγγραφό μας, η θέσπιση ρυθμίσεων για την ασφαλή αξιοποίηση των δυνατοτήτων της τεχνολογίας Τεχνητής Νοημοσύνης (ΤΝ) από φορείς του δημοσίου και του ιδιωτικού τομέα είναι ιδιαίτερα σημαντική καθώς η χρήση της αυξάνεται ολοένα και περισσότερο και ως εκ τούτου και ο αντίκτυπός της στις ζωές του συνόλου των πολιτών. Παρά το γεγονός ότι η συμβολή της ΤΝ στην αντιμετώπιση σύγχρονων προκλήσεων μπορεί να είναι ιδιαίτερα θετική, ωστόσο την ίδια στιγμή μπορεί ο αντίκτυπός της στα άτομα και τις κοινωνίες να είναι ιδιαίτερα αρνητικός. Στη Λευκή Βίβλο «Τεχνητή Νοημοσύνη-Η Ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης» [Βρυξέλλες 19.02.2020, COM(2020) 65 Final], επισημαίνονται οι κίνδυνοι για τα θεμελιώδη δικαιώματα. Πιο συγκεκριμένα, επισημαίνεται ότι «Η χρήση της ΤΝ μπορεί να επηρεάσει τις αξίες στις οποίες βασίζεται η ΕΕ και να οδηγήσει σε παραβιάσεις των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των δικαιωμάτων της ελευθερίας της έκφρασης, της ελευθερίας του συνέρχεσθαι, της ανθρώπινης αξιοπρέπειας, της απαγόρευσης των διακρίσεων λόγω φύλου, φυλετικής ή εθνοτικής καταγωγής, θρησκείας ή πεποιθήσεων, αναπηρίας, ηλικίας ή γενετήσιου προσανατολισμού, όπως ισχύει σε ορισμένους τομείς». Συνεχίζοντας η Βίβλος αναφέρει ότι «Οι κίνδυνοι αυτοί θα μπορούσαν να προκύψουν από αδυναμίες στον συνολικό σχεδιασμό των συστημάτων ΤΝ (μεταξύ άλλων όσον αφορά την ανθρώπινη εποπτεία) ή από τη χρήση δεδομένων χωρίς διόρθωση της πιθανής μεροληψίας (π.χ. το σύστημα έχει εκπαιδευτεί με τη χρήση μόνο ή κυρίως δεδομένων από άνδρες, γεγονός που οδηγεί σε κατώτερα του επιθυμητού αποτελέσματα για τις γυναίκες)», και εύλογα θα συμπληρώναμε ή μόνο από άτομα δίχως αναπηρία, γεγονός που οδηγεί σε κατώτερα του επιθυμητού αποτελέσματα για τα άτομα με αναπηρία ή/και χρόνιες παθήσεις. 

Αρνητικές επιπτώσεις στα δικαιώματα των ατόμων με αναπηρία θα μπορούσαν να επιφέρουν συστήματα Τεχνητής Νοημοσύνης που χρησιμοποιούνται για τη βιομετρική ταυτοποίηση φυσικών προσώπων, την πρόσβαση στην απασχόληση, στην εκπαίδευση και στην επαγγελματική κατάρτιση, στις βασικές ιδιωτικές υπηρεσίες και στις δημόσιες υπηρεσίες και παροχές. Για τον λόγο αυτό το Ευρωπαϊκό Φόρουμ Ατόμων με Αναπηρία στο Κείμενο Πολιτικής που δημοσίευσε τον Νοέμβριο του 2021[1], στο οποίο περιλαμβάνονταν οι απόψεις του επί της Πρότασης Κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την Τεχνητή Νοημοσύνη, ζητά να απαγορευτούν πρακτικές που περιλαμβάνονται στο Παράρτημα ΙΙΙ αυτού και οι οποίες συνδέονται με τη βιομετρική ταυτοποίηση φυσικών προσώπων, την πρόσβαση στην απασχόληση, στην εκπαίδευση και στην επαγγελματική κατάρτιση, στις βασικές ιδιωτικές υπηρεσίες και στις δημόσιες υπηρεσίες και παροχές.

Πέραν των προαναφερθέντων, το Ευρωπαϊκό Φόρουμ Ατόμων με Αναπηρία προτείνει ο εν λόγω Κανονισμός:

• να περιλαμβάνει απαιτήσεις για την οριζόντια ενσωμάτωση της προσβασιμότητας στα άτομα με αναπηρία σε όλα τα συστήματα Τεχνητής Νοημοσύνης, ανεξάρτητα από το επίπεδο κινδύνου, καθώς και την παροχή ενημέρωσης και οδηγιών σε προσβάσιμες μορφές στα άτομα με αναπηρία,
• να διασφαλίζει την ιδιωτικότητα και την προστασία των προσωπικών δεδομένων όλων των ατόμων με αναπηρία, ήτοι και των ατόμων με νοητική και ψυχοκοινωνική αναπηρία, συμπεριλαμβανομένων μάλιστα και αυτών που στερούνται τη δικαιοπρακτική τους ικανότητα, όταν γίνεται επεξεργασία των στοιχείων τους από τα συστήματα Τεχνητής Νοημοσύνης, και να ενημερώνονται για τα δεδομένα που συλλέγονται καθώς και για τη χρήση τους,
• να προβλέπει μέτρα για την υποβολή καταγγελιών σε εξουσιοδοτημένους φορείς, τα οποία να είναι προσβάσιμα στα άτομα με αναπηρία,
• να διασφαλίζει την εκ των προτέρων εκτίμηση του αντικτύπου των συστημάτων Τεχνητής Νοημοσύνης υψηλού κινδύνου στα ανθρώπινα δικαιώματα προτού αυτά τεθούν σε χρήση, καθώς και την εκ των προτέρων αξιολόγηση της προσβασιμότητας των συστημάτων αυτών στα άτομα με αναπηρία,
• να περιλαμβάνει προορατικά μέτρα σε επίπεδο ΕΕ και κρατών μελών για την υποστήριξη της ανάπτυξης της Τεχνητής Νοημοσύνης προς όφελος της κοινωνίας και των ευπαθών ομάδων του πληθυσμού, μεταξύ των οποίων συγκαταλέγονται και τα άτομα με αναπηρία και χρόνιες παθήσεις, και να προωθεί, μέσω της παροχής σχετικών κινήτρων (π.χ. ευρωπαϊκών και εθνικών χρηματοδοτήσεων) τη συμμετοχή εμπειρογνωμόνων με αναπηρία, εμπειρογνωμόνων προσβασιμότητας και οργανώσεων των ατόμων με αναπηρία στην ανάπτυξη συστημάτων Τεχνητής Νοημοσύνης.

  Βάσει των προαναφερθέντων, η Ε.Σ.Α.μεΑ. προτείνει τα ακόλουθα:

1. 1.Στο άρθρο 5 «Αλγοριθμική εκτίμηση αντικτύπου», το σημείο στ) της παρ. 2 να συμπληρωθεί ως ακολούθως (βλ. με έντονη γραμματοσειρά):

«2. Η αλγοριθμική εκτίμηση αντικτύπου περιλαμβάνει, ιδίως, τις ακόλουθες πληροφορίες: […]
στ) το προσδοκώμενο όφελος που απορρέει για το κοινωνικό σύνολο σε συνάρτηση με ενδεχόμενους κινδύνους και επιπτώσεις που δύναται να επιφέρει η χρήση του συστήματος, ιδίως για φυλετικές, εθνοτικές, κοινωνικές ή ηλικιακές ομάδες και κατηγορίες πληθυσμού, όπως είναι και τα άτομα αναπηρία ή/και χρόνιες παθήσεις […]»
Στο άρθρο 9 «Υποχρέωση ενημέρωσης για τη χρήση τεχνητής νοημοσύνης στον εργασιακό τομέα», η παρ. 1 να συμπληρωθεί ως ακολούθως (βλ. με έντονη γραμματοσειρά):

«1. Κάθε επιχείρηση του ιδιωτικού τομέα εφόσον χρησιμοποιεί σύστημα τεχνητής νοημοσύνης, το οποίο επηρεάζει οποιαδήποτε διαδικασία λήψης αποφάσεων σχετικά με τους εργαζομένους ή τους υποψήφιους εργαζόμενους και έχει αντίκτυπο στις συνθήκες εργασίας, την επιλογή,  την πρόσληψη ή αξιολόγησή τους, πριν την πρώτη χρήση του, την πρόσβαση στον χώρο εργασίας ή την αξιολόγησή τους, πριν την πρώτη χρήση του, παρέχει επαρκή και σαφή πληροφόρηση, η οποία περιλαμβάνει κατ’ ελάχιστον τις παραμέτρους στις οποίες στηρίχθηκε η λήψη της απόφασης, με την επιφύλαξη των περιπτώσεων που προϋποθέτουν προηγούμενη ενημέρωση και διαβούλευση, καθώς και πως διασφαλίζεται η τήρηση της αρχή της ίσης μεταχείρισης και η καταπολέμηση των διακρίσεων στην απασχόληση και την εργασία λόγω φύλου, φυλής, χρώματος, εθνικής ή εθνοτικής καταγωγής, γενεαλογικών καταβολών, θρησκευτικών ή άλλων πεποιθήσεων, αναπηρίας ή χρόνιας πάθησης, ηλικίας, οικογενειακής ή κοινωνικής κατάστασης, σεξουαλικού προσανατολισμού, ταυτότητας ή χαρακτηριστικών φύλου». 

Επισήμανση: Η αρχή της ίσης μεταχείρισης στην εργασία και την απασχόληση στον δημόσιο και ιδιωτικό τομεά επιβάλλεται από την εθνική μας νομοθεσία με τους. ν.4443/2016 και ν. 3896/2010. 

1. 2.Στο άρθρο 89 «Μέλη της Εθνικής Συμμαχίας για τις Ψηφιακές Δεξιότητες και την Απασχόληση» η παρ. 1 να συμπληρωθεί ως ακολούθως (βλ. με έντονη γραμματοσειρά): 

«1. Μέλη της Εθνικής Συμμαχίας για τις Ψηφιακές Δεξιότητες και την Απασχόληση δύνανται να είναι: α) νομικά πρόσωπα του δημοσίου ή ιδιωτικού τομέα, όπως επιχειρήσεις Τ.Π.Ε. ή τηλεπικοινωνιών, Α.Ε.Ι., ερευνητικά ιδρύματα και ινστιτούτα, καθώς και λοιποί φορείς του δημόσιου τομέα, β) ενώσεις φυσικών και νομικών προσώπων και γ) μη κυβερνητικές οργανώσεις και λοιπές Οργανώσεις της Κοινωνίας των Πολιτών κατά την έννοια της περ. α΄ της παρ. 1 του άρθρου 4 του ν. 4873/2021 (Α΄ 248), εφόσον τα ανωτέρω μέλη δραστηριοποιούνται σε πεδία συναφή με την αποστολή και τις αρμοδιότητες της Εθνικής Συμμαχίας, όπως η τεχνολογία, η κατάρτιση-εκπαίδευση, η προώθηση των ψηφιακών δεξιοτήτων και η ενίσχυση της απασχόλησης καθώς και με ζητήματα ισότητας και ψηφικής προσβασιμότητας, όπως είναι και η Εθνική Συνομοσπονδία Ατόμων με Αναπηρία (Ε.Σ.Α.μεΑ.)».

Επισήμανση: Η Εθνική Συνομοσπονδία Ατόμων με Αναπηρία συμμετέχει στο Εθνικό Συμβούλιο Δεξιοτήτων Εργατικού Δυναμικού του άρθρο 27 του ν. 4921/2022) καθώς και στο Κεντρικό Συμβούλιο Επαγγελματικής Εκπαίδευσης και Κατάρτισης (Κ.Σ.Ε.Ε.Κ.) του άρθρου 5 του ν. 4763/2020.Επιπρόσθετα, σύμφωνα με την παρ. 3 του άρθρου 4 «Γενικές Υποχρεώσεις» της Σύμβασης των Ηνωμένων Εθνών για τα Δικαιώματα των Ατόμων με Αναπηρίες, την οποία η χώρα μας κύρωσε με τον ν.4074/2012, θα πρέπει κατά την ανάπτυξη και εφαρμογή νομοθεσίας και πολιτικών  να διασφαλίζεται η ενεργή εμπλοκή των ατόμων με αναπηρία μέσω των αντιπροσωπευτικών τους οργανώσεων.