ΦΕΡΕΝΙΚΗΣ ΠΑΝΑΓΟΠΟΥΛΟΥ

Αναπληρώτριας Καθηγήτριας του Παντείου Πανεπιστημίου

«Ο ΕΥΡΩΠΑΪΚΟΣ ΚΑΝΟΝΙΣΜΟΣ ΓΙΑ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ 

(ΕΕ/2024/1689, ARTIFICIAL INTELLIGENCE ACT, AI ACT) 

ΜΙΑ ΠΡΩΤΗ ΣΥΝΤΑΓΜΑΤΟ-ΗΘΙΚΗ ΘΕΩΡΗΣΗ»

Κέντρο Ευρωπαϊκού Συνταγματικού Δικαίου – Ίδρυμα Θεμιστοκλή και Δημήτρη Τσάτσου 

και e-ΠΟΛΙΤΕΙΑ, 2025

Ι. Οι προκλήσεις της Τεχνητής Νοημοσύνης

Καθώς ολόκληρη η ανθρωπότητα εισέρχεται στην 4η βιομηχανική επανάσταση (Industry 4.0) χάρη στη Τεχνητή Νοημοσύνη και τη Ρομποτική και μέσα σε ένα περιβάλλον έντονου παγκόσμιου ανταγωνισμού μεταξύ των ισχυροτέρων κρατών διεθνώς, μεταξύ των Ηνωμένων Πολιτειών Αμερικής (ΗΠΑ) και της Κίνας, ανταγωνισμού που δεν είναι απλώς τεχνολογικός, αλλά είναι ένας αγώνας για οικονομική υπεροχή, ασφάλεια και παγκόσμια γεωπολιτική επιρροή, με τρισεκατομμύρια δολάρια αντίκτυπο στην παγκόσμια οικονομία και εκατομμύρια θέσεις εργασίας να διακυβεύονται, η Ευρώπη, προκειμένου να επωφεληθεί από τις δυνατότητες της διαρκώς εξελισσόμενης Τεχνητής Νοημοσύνης (ΤΝ) όχι μόνο ως χρήστης αλλά και ως δημιουργός και παραγωγός, αποδεικνύει ότι πρωτοπορεί δημοσιεύοντας στις 12 Ιουλίου 2024 τον Κανονισμό (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024 για την Τεχνητή Νοημοσύνη, τη λεγόμενη Artificial Intelligence Act (AI Act). Ο Κανονισμός αυτός άρχισε να ισχύει από την 1η Αυγούστου 2024. Ορίζεται όμως διαφορετικός, μεταγενέστερος χρόνος έναρξης εφαρμογής των διατάξεών του, που διέπουν τα συστήματα ΤΝ υψηλού κινδύνου (από τις 2 Αυγούστου 2026 ή τις 2 Αυγούστου 2027) .

Το φιλόδοξο εγχείρημα της Ευρωπαϊκής Ένωσης (ΕΕ) είναι αναμφίβολα αυτό καθεαυτό εξαιρετικά δυσχερές και σπουδαίας σημασίας για τη σύγχρονη οικονομία και την κοινωνία, δεδομένου ότι τα συστήματα ΤΝ μπορούν να εφαρμοστούν εύκολα σε ευρύ φάσμα κλάδων της οικονομίας και σε πολλούς τομείς της κοινωνίας, μεταξύ άλλων και σε διασυνοριακό επίπεδο, και η χρήση τους μπορεί να έχει σημαντικό αντίκτυπο τόσο σε ατομικό επίπεδο όσο και στην κοινωνία συνολικά.

Βασική κατεύθυνση αποτέλεσε η προσπάθεια να θεσπιστεί ένα ενιαίο, συγκροτημένο και συνεκτικό ενωσιακό νομικό πλαίσιο που να ενθαρρύνει την αξιόπιστη, ασφαλή και δεοντολογική ανάπτυξη και χρήση συστημάτων τεχνολογιών ΤΝ εντός της ΕΕ, με πλήρη σεβασμό στις αξίες της και στα θεμελιώδη δικαιώματα, όπως κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ, μεταξύ των οποίων είναι οι αρχές της δημοκρατίας, του κράτους δικαίου, της νομιμότητας και της προστασίας του περιβάλλοντος, η ανθρώπινη αξιοπρέπεια, η προστασία των δεδομένων προσωπικού χαρακτήρα, η προστασία της ιδιωτικότητας και η μη διακριτική μεταχείριση.

Έτσι, υιοθετήθηκε μια ανθρωποκεντρική προσέγγιση της ΤΝ βάσει κινδύνου με διττό στόχο: αφενός μεν τη δημιουργία ενός ευρωπαϊκού “οικοσυστήματος αριστείας”, το οποίο με τη σύμπραξη δημόσιου και ιδιωτικού τομέα να μπορεί να στηρίξει την ανάπτυξη και διείσδυση της ΤΝ σε ολόκληρη την οικονομία και τη δημόσια διοίκηση της ΕΕ, με τη θέσπιση κανόνων και τη λήψη μέτρων υπέρ της έρευνας και καινοτομίας στον τομέα της ΤΝ με ιδιαίτερη έμφαση στις μικρές και μεσαίες (ΜΜΕ) επιχειρήσεις και στις νεοφυείς επιχειρήσεις· αφετέρου δε τη δημιουργία ενός μοναδικού “οικοσυστήματος εμπιστοσύνης”, δεδομένου ότι ναι μεν η χρήση της ΤΝ συνεπάγεται ευκαιρίες σε ένα συνεχώς μεταβαλλόμενο περιβάλλον, πλην όμως σχετίζεται και με ένα ευρύ φάσμα κινδύνων για τα θεμελιώδη δικαιώματα και μπορεί να οδηγήσει σε παραβιάσεις πολλών θεμελιωδών δικαιωμάτων, όπως της ελευθερίας της έκφρασης, της ελευθερίας του συνέρχεσθαι, της ανθρώπινης αξιοπρέπειας, της απαγόρευσης των διακρίσεων λόγω φύλου, φυλετικής ή εθνοτικής καταγωγής, θρησκείας ή πεποιθήσεων, αναπηρίας, ηλικίας ή γενετήσιου προσανατολισμού, της προστασίας των δεδομένων προσωπικού χαρακτήρα και της ιδιωτικής ζωής, ενόψει του ότι τα συστήματα ΤΝ μπορεί να ενέχουν νέους, πρόσθετους κινδύνους, ιδίως πέραν των κινδύνων που αντιμετωπίζουν ο Κανονισμός (EE) 2016/679 (EE L 119) [Γενικός Κανονισμός για την Προστασία Δεδομένων (ΓΚΠΔ) - General Data Protection Regulation (GDPR)] και η Οδηγία 2002/58/ΕΚ (EE L 201) για την προστασία ιδιωτικής ζωής στον τομέα των ηλεκτρονικών επικοινωνιών (ePrivacy Directive), αλλά και σε παραβιάσεις του δικαιώματος πραγματικής δικαστικής προσφυγής και δίκαιης δίκης, καθώς και προστασίας των καταναλωτών. Επιπλέον η χρήση ΤΝ θέτει ζητήματα που αφορούν την υγεία, την ασφάλεια και την ευθύνη. Τα ιδιαίτερα χαρακτηριστικά πολλών τεχνολογιών ΤΝ, δηλαδή η αδιαφάνεια (το φαινόμενο του μαύρου κουτιού), η πολυπλοκότητα, η μη προβλεψιμότητα και η εν μέρει αυτόνομη συμπεριφορά τους, ενδέχεται να καταστήσουν δύσκολη την επαλήθευση της συμμόρφωσης με τους κανόνες της ισχύουσας νομοθεσίας της Ευρωπαϊκής Ένωσης και να παρεμποδίσουν την αποτελεσματική εφαρμογή τους. Επίσης, καθιστούν δύσκολο τον εκ των υστέρων έλεγχο των δυνητικά προβληματικών αποφάσεων που λήφθηκαν με τη συμμετοχή συστημάτων ΤΝ. Τα πρόσωπα που έχουν υποστεί ζημία (υλική ή/και άυλη) ενδέχεται να μην έχουν αποτελεσματική πρόσβαση σε αποδεικτικά στοιχεία, τα οποία είναι απαραίτητα προκειμένου να προσφύγουν στη δικαιοσύνη.

Πράγματι, έχει διαπιστωθεί ότι η χρήση αλγορίθμων ΤΝ κατά εκτίμηση της ενδεχόμενης υποτροπής στη διάπραξη εγκλημάτων μπορεί να οδηγήσει σε αυθαίρετα συμπεράσματα που χαρακτηρίζονται από έμφυλη ή γενετική μεροληψία, δίνοντας ως αποτέλεσμα διαφορετική πιθανότητα υποτροπής για γυναίκες αντί για άνδρες ή για ημεδαπούς έναντι αλλοδαπών. Επίσης, ορισμένα προγράμματα ΤΝ για την ανάλυση προσώπου χαρακτηρίζονται από έμφυλη ή φυλετική μεροληψία εμφανίζοντας μικρότερα ποσοστά λάθους στον προσδιορισμό του φύλου ανθρώπων με πιο ανοιχτή απόχρωση δέρματος αλλά υψηλά ποσοστά λάθους στον προσδιορισμό του φύλου γυναικών με πιο σκούρα απόχρωση δέρματος.

Βασική έννοια για την εφαρμογή του Κανονισμού είναι το “σύστημα ΤΝ”. Ο ίδιος ο Κανονισμός στο άρθρο 3 στοιχείο 1 ορίζει σαφώς τι είναι σύστημα ΤΝ (: “μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα”). Και στο στοιχείο 63 του ίδιου άρθρου 1 του Κανονισμού ορίζεται τι είναι το «μοντέλο ΤΝ γενικού σκοπού» (: “μοντέλο ΤΝ, μεταξύ άλλων όταν ένα τέτοιο μοντέλο ΤΝ έχει εκπαιδευτεί με μεγάλο όγκο δεδομένων χρησιμοποιώντας αυτοεποπτεία σε κλίμακα, το οποίο παρουσιάζει σημαντική γενικότητα και είναι ικανό να εκτελεί αποτελεσματικά ευρύ φάσμα διακριτών καθηκόντων, ανεξάρτητα από τον τρόπο με τον οποίο το μοντέλο διατίθεται στην αγορά και μπορεί να ενσωματωθεί σε διάφορα κατάντη συστήματα ή εφαρμογές· αυτό δεν καλύπτει μοντέλα ΤΝ που χρησιμοποιούνται πριν από τη διάθεσή τους στην αγορά για δραστηριότητες έρευνας, ανάπτυξης και κατασκευής πρωτοτύπων”).

Επομένως, τα συστήματα ΤΝ λειτουργούν με ποικίλα επίπεδα αυτονομίας, πράγμα που σημαίνει ότι διαθέτουν ορισμένο βαθμό ανεξαρτησίας να δρουν χωρίς ανθρώπινη συμμετοχή και ορισμένο βαθμό ικανότητας να λειτουργούν χωρίς ανθρώπινη παρέμβαση. 

Ωστόσο, βασική παραδοχή είναι ότι ο άνθρωπος είναι το πιο έξυπνο ον μεταξύ των κάθε είδους όντων στον πλανήτη, είναι συνδυασμός homo sa­piens και homo sentiens, άρα διαθέτει εκτός νοημοσύνη και συνείδηση. Τα μέσα και συστήματα ΤΝ δεν είναι σε θέση να υποκαταστήσουν πλήρως τον άνθρωπο ως homo sentiens. «Ο άνθρωπος δίνει την εντολή», ελέγχει (human-in-command) στον τομέα της τεχνητής νοημοσύνης. Ο ανθρώπινος έλεγχος αφορά τη συνολική παρακολούθηση του συστήματος τεχνητής νοημοσύνης, της λήψης αποφάσεων από αυτό και των κοινωνικών, οικονομικών, ηθικών κ.λπ. συνεπειών που μπορεί να επιφέρει η χρήση του. Έχει τη δυνατότητα ο άνθρωπος που ελέγχει να αποφασίσει να μη χρησιμοποιήσει ένα σύστημα τεχνητής νοημοσύνης σε συγκεκριμένες περιπτώσεις ή να μην υιοθετήσει και υλοποιήσει τις αποφάσεις που λαμβάνει ο αλγόριθμος. Η δε Τεχνητή Νοημοσύνη πρέπει να λειτουργεί στην υπηρεσία των ανθρώπων και να αποτελεί θετική δύναμη στην οικονομία και την κοινωνία, ώστε οι άνθρωποι να μπορέσουν να αποκομίσουν οφέλη (όπως π.χ. βελτιωμένη περίθαλψη, ασφαλέστερα και καθαρότερα συστήματα μεταφορών, καλύτερες δημόσιες υπηρεσίες), να αναπτυχθούν οι επιχειρήσεις και να βελτιωθούν οι υπηρεσίες δημοσίου συμφέροντος (όπως π.χ. με τα κατάλληλα εργαλεία ΤΝ για την προστασία από το έγκλημα και την τρομοκρατία ή με τις τεχνολογικές εφαρμογές ΤΝ “ως βοηθούς εκπλήρωσης” της Δικαιοσύνης στο πλαίσιο της άσκησης του δικαιοδοτικού έργου εκ μέρους των λειτουργών της). 

Ειδικότερα, στο πεδίο της απονομής της Δικαιοσύνης, ο δικαστής, καλούμενος να εφαρμόσει το δίκαιο στη συγκεκριμένη περίπτωση και να ανεύρει την αρμόζουσα λύση, προβαίνει στη διαμόρφωση του δικανικού συλλογισμού του, του οποίου: α) τη μείζονα πρόταση αποτελεί η επιλογή του εφαρμοστέου κανόνα δικαίου και η ερμηνεία του εφαρμοζόμενου κανόνα δικαίου με όλες τις ερμηνευτικές μεθόδους [τη γραμματική ερμηνεία, τη συστηματική ή λογική ερμηνεία, την τελολογική ερμηνεία, τη διορθωτική (διασταλτική-συσταλ­τική) ερμηνεία και την πλήρωση των κενών του νόμου με αναλογία], καθώς και η εξειδίκευση των αορίστων νομικών εννοιών (όπως π.χ. της καλής πίστης, των χρηστών ηθών, του σπουδαίου λόγου, του ευλόγου χρόνου, του προσήκοντος μέτρου, της αιτιώδους συνάφειας κ.λπ.) που περιέχει ο κανόνας δικαίου, με την απόδοση ορισμένου περιεχομένου στην αφηρημένη διατύπωσή του, β) την ελάσσονα πρόταση αποτελούν τα πραγματικά περιστατικά της συγκεκριμένης περίπτωσης που προκύπτουν από την απόδειξη (κατά τους κανόνες του δικονομικού δικαίου) και γ) το συμπέρασμα αποτελεί το πόρισμα ότι στη συγκεκριμένη περίπτωση πρέπει να ισχύσει η περιεχόμενη στον κανόνα δικαίου έννομη συνέπεια. Η κατά τα ανωτέρω εφαρμογή του δικαίου, η υπαγωγή δηλαδή της ελάσσονας πρότασης (των πραγματικών περιστατικών της συγκεκριμένης περίπτωσης) στη μείζονα πρόταση (στον προσήκοντα κανόνα δικαίου) και η έννομη συνέπεια, δεν αποτελεί εργασία μηχανικής μόνο σκέψης, αλλά είναι έργο εκτίμησης και αξιολόγησης, το οποίο επιτελεί ο δικαστής όχι με γνώμονα τις ατομικές, υποκειμενικές αντιλήψεις του, αλλά αντικειμενικά με βάση τις αξίες που επικρατούν στην κοινωνία και τις συναλλαγές, προσαρμοζόμενες στην ιδιαιτερότητα κάθε συγκεκριμένης περίπτωσης, αφού ο δικαστής υπηρετεί την “εξατομικεύουσα δικαιοσύνη”. Το έργο του δικαστή είναι δημιουργικό - δικαιοπλαστικό και είναι αδιανόητο να γίνει αποκλειστικώς και μόνο με συστήματα ΤΝ. Άλλο είναι η ψηφιοποίηση του έργου των δικαστηρίων που μπορεί να συμβάλει στην καλή οργάνωση και λειτουργία του δικαστικού συστήματος και να συντελέσει στην προώθηση της αποτελεσματικότητάς του (με την υποβοήθηση των δικαστών όσον αφορά τη διαρκή επιμόρφωση και ενημέρωσή τους σχετικά με την ισχύουσα νομοθεσία και την υπάρχουσα νομολογία και τη διευκόλυνση τόσο των ίδιων των δικαστών όσο και των διαδίκων, των δικηγόρων και των λοιπών συλλειτουργών της Δικαιοσύνης στον τομέα της πρόσβασης στη Δικαιοσύνη αναφορικά με την πληροφόρηση για τα δικαιώματα των διαδίκων και τη γνωστοποίηση των δεδομένων της νομολογίας και στον τομέα της διοίκησης των δικαστηρίων (π.χ. κατάθεση δικογράφων, παρακολούθηση της πορείας των δικογραφιών, οργάνωση και κατάρτιση των πινακίων, διεξαγωγή συνεδριάσεων με τηλεματική).

ΙΙ. Σκοπός του παρόντος βιβλίου.- Κατάταξη της ύλης

Με το νέο βιβλίο πέραν της πολυδιάστατης επιστημονικής της κατάρτισης και σκέψης, αναδεικνύεται η διορατικότητα και η οξυδέρκεια της συγγραφέως Φερενίκης Παναγοπούλου ως ολοκληρωμένης ερευνήτριας και αναλύτριας στην προσπάθεια να προσεγγιστεί και να κατανοηθεί σε βάθος η ραγδαίως εξελισσόμενη Τεχνητή Νοημοσύνη και να γίνει άμεσα αντιληπτή η επιρροή της στη σύγχρονη οικονομία και την κοινωνία.

Η συγγραφέας αναλύει και παρουσιάζει με επιστημονικά άριστο τρόπο τις διατάξεις του Κανονισμού για την ΤΝ, με ανάπτυξη θεωρητικών απόψεων και εντεύθεν πρόκληση ερεθισμάτων για περαιτέρω προβληματισμούς στις διάφορες πτυχές του δυσχερούς θέματος της διακινδύνευσης, που έχει ως πηγή της τη μη ενδεδειγμένη χρήση των συστημάτων ΤΝ, οι οποίες δεν είναι πάντοτε εμφανείς. 

 Όσον αφορά την κατάταξη της πολυποίκιλης ύλης, καταρχάς στην Εισαγωγή αναπτύσσονται η έννοια της ΤΝ που είναι ένας κλάδος της πληροφορικής και τα ιδιαίτερα διακριτά χαρακτηριστικά της ΤΝ, καθώς και οι διαφορές της ΤΝ από τον αλγόριθμο και τον άνθρωπο (την ανθρώπινη νοημοσύνη). Ακολούθως, το σύνολο της ύλης διαιρείται σε δύο Μέρη, στο Γενικό Μέρος και στο Ειδικό Μέρος, υποδιαιρούμενη περαιτέρω σε Κεφάλαια.

Στο Γενικό Μέρος γίνεται αναφορά στο ιστορικό του Κανονισμού, δηλαδή, στις σχετικές προπαρασκευαστικές εργασίες (πρόταση της Επιτροπής τον Απρίλιο του 2021, προσωρινή συμφωνία του Συμβουλίου και του Ευρωπαϊκού Κοινοβουλίου στις 9.12.2023). Αναφέρεται περαιτέρω η σύμβαση - πλαίσιο του Συμβουλίου της Ευρώπης για την ΤΝ (Convention on AI, CAI), η οποία είναι η πρώτη νομικά δεσμευτική διεθνής πράξη για την ΤΝ και πλήρως συμβατή με το δίκαιο της Ένωσης εν γένει και τον Κανονισμό για την ΤΝ και την οποία υπέγραψε εξ ονόματος της ΕΕ η Επιτροπή στις 5.9.2024 κατά τη διάρκεια της άτυπης διάσκεψης των Υπουργών Δικαιοσύνης των κρατών μελών του Συμβουλίου της Ευρώπης στο Βίλνιους της Λιθουανίας. Γίνεται επίσης συγκριτική επισκόπηση της ρύθμισης της ΤΝ εκτός ΕΕ (Ηνωμένο Βασίλειο, ΗΠΑ, Καναδάς, Κίνα, Ινδία) και έχουν περιληφθεί όλες οι βασικές κατευθυντήριες αρχές που πρέπει να διέπουν την ΤΝ και οι οποίες, όπως επισημαίνει η συγγραφέας, “απορρέουν από τη συσχέτιση της ελληνικής φιλοσοφίας με τη σύγχρονη τεχνολογία” (σεβασμός της αξίας του ανθρώπου, προστασία της ιδιωτικής ζωής και διακυβέρνηση των δεδομένων, διαφάνεια, πλουραλισμός, αρχή της συμμετοχής και της δικαιοσύνης, ανθρώπινος έλεγχος και εποπτεία, προσαρμοστικότητα, βιωσιμότητα, αρχή του μη βλάπτειν υπό την έννοια της προστασίας της ζωής και της υγείας των προσώπων, αρχή της πρόληψης και της προφύλαξης, ευημερία). Επιπροσθέτως, αναλύονται όλα τα θέματα που ρυθμίζει ο Κανονισμός, μεταξύ των οποίων είναι τα εξής σπουδαιότατα: α) ο καθορισμός του πεδίου εφαρμογής του (με εξαίρεση τα συστήματα ΤΝ που αναπτύσσονται και χρησιμοποιούνται για στρατιωτικούς και αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας), β) οι ομοιότητές του με τον Γενικό Κανονισμό Προστασίας Δεδομένων (εξωεδαφικός χαρακτήρας, αυτορρύθμιση, υψηλά πρόστιμα, χαρακτηριστικά Οδηγίας, ίδρυση εποπτικών αρχών σε επίπεδο κράτους μέλους και συντονισμός αυτών σε επίπεδο ΕΕ), γ) οι τέσσερις κατηγορίες των συστημάτων ΤΝ βάσει κινδύνου [: i. Aπαγορευμένες πρακτικές ΤΝ που ενέχουν μη αποδεκτούς κινδύνους χειραγώγησης, εκμετάλλευσης και κοινωνικού ελέγχου (ιδίως χρήση συστημάτων ΤΝ για τη συναγωγή συναισθημάτων, συστημάτων βιομετρικής κατηγοριοποίησης, καθώς και συστημάτων για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε πραγματικό χρόνο σε δημόσιους προσβάσιμους χώρους για σκοπούς επιβολής του νόμου με εξαίρεση στις εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, στις οποίες κάθε χρήση τέτοιων συστημάτων υπόκειται σε ειδική προηγούμενη άδεια δικαστικής ή ανεξάρτητης διοικητικής αρχής). ii. Συστήματα ΤΝ υψηλού κινδύνου (στα οποία συγκαταλέγονται και τα συστήματα που αφορούν την απονομή δικαιοσύνης και τις δημοκρατικές διαδικασίες), για τη χρήση των οποίων απαιτείται από τους φορείς εφαρμογής να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα και να διασφαλίζουν την ανθρώπινη εποπτεία. iii. Συστήματα ΤΝ περιορισμένου κινδύνου (όπως τα διαλογικά ρομπότ - chatbots), των οποίων οι πάροχοι και φορείς εφαρμογής υπόκεινται σε υποχρεώσεις διαφάνειας, και iv. Συστήματα ελάχιστου κινδύνου (όπως παιχνίδια, φίλτρα ανεπιθύμητων μηνυμάτων που λειτουργούν με ΤΝ), τα οποία δεν υπόκεινται σε ρυθμίσεις, δ) ο καθορισμός των υποχρεώσεων των μερών (των παρόχων, των φορέων εφαρμογής, των εισαγωγέων, των διανομέων και των εξουσιοδοτημένων αντιπροσώπων) και ε) ο έλεγχος και εποπτεία τόσο σε υπερεθνικό επίπεδο [η Υπηρεσία ΤΝ (AI Office), το Ευρωπαϊκό Συμβούλιο ΤΝ (ΑΙ Board), η Επιστημονική Επιτροπή (Scientific Pa­nel) και το Συμβουλευτικό φόρουμ (Advisory Fo­rum)] όσο και σε εθνικό επίπεδο (είτε με τη δημιουργία νέων ρυθμιστικών φορέων για την ΤΝ, είτε με την ενσωμάτωση των εποπτικών αρμοδιοτήτων σε υφιστάμενες οντότητες, όπως είναι οι εθνικές αρχές προστασίας δεδομένων). Στο σημείο αυτό η συγγραφέας εκθέτει τα πλεονεκτήματα και τα μειονεκτήματα των επιλογών που παρουσιάζονται στον Έλληνα νομοθέτη αναφορικά με την εθνική εποπτεύουσα αρχή. Ο Έλληνας νομοθέτης έχει τη δυνητική ευχέρεια είτε να επιλέξει την Αρχή Προστασίας Δεδομένων (ΑΠΔ) ως εποπτεύουσα την Τεχνητή Νοημοσύνη αρχή, είτε να συστήσει μια νέα αρχή, την Εθνική Αρχή Ιδιωτικότητας, Πληροφορίας και Τεχνητής Νοημοσύνης (ΕΑΙΠΤΝ) [με τη συγχώνευση της ΑΠΔ και της Αρχής Διασφάλισης του Απορρήτου των Επικοινωνιών (ΑΔΑΕ) ή με την ένταξη στις ήδη υπάρχουσες ΑΠΔ και ΑΔΑΕ μιας υπο- αρχής για την ΤΝ ] ή να συστήσει μια νέα ειδική Εθνική Αρχή Τεχνητής Νοημοσύνης (ΕΑΤΝ). Επιπλέον, στο ίδιο Γενικό Μέρος έχουν περιληφθεί Κεφάλαια για τις κυρώσεις και τον καθορισμό των διοικητικών προστίμων για παραβάσεις του Κανονισμού για την ΤΝ, καθώς και σχετικά με την ευθύνη για ζημίες που προκαλούνται από εφαρμογές ΤΝ (όπως από τα αυτόνομα/αυτοοδηγούμενα αυτοκίνητα) και αναπτύσσεται η προβληματική γύρω από το δυσχερές ζήτημα της απόδοσης της ευθύνης σε ορισμένο πρόσωπο που ενεργοποιεί τους κινδύνους τους οποίους συνεπάγεται η χρήση συστημάτων ΤΝ (στον κατασκευαστή του συστήματος ΤΝ, στον χειριστή του συστήματος ΤΝ, και στους δύο ως συνυπόχρεους με επιμερισμό της ευθύνης μεταξύ τους ή κατ’ άλλη γνώμη στην ίδια την τεχνολογία με την παροχή ψηφιακής προσωπικότητας στις μηχανές, γνώμη την οποία, όπως επισημαίνεται, έχει ήδη απορρίψει το Ευρωπαϊκό Κοινοβούλιο με τρία Ψηφίσματα). Επίσης, γίνεται ιδιαίτερη αναφορά στην πρόταση της Ευρωπαϊκής Επιτροπής για τη θέσπιση Οδηγίας του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για την προσαρμογή των κανόνων περί εξωσυμβατικής αστικής ευθύνης στην τεχνητή νοημοσύνη (Οδηγίας περί ευθύνης για την ΤΝ). Τέλος, η συγγραφέας εκφράζει τους προβληματισμούς της, μεταξύ άλλων, για την κατηγοριοποίηση/ταξινόμηση των συστημάτων ΤΝ ως υψηλού κινδύνου βάσει καταλόγου και όχι βάσει αρχών, την ελλιπή προστασία των θεμελιωδών δικαιωμάτων στην περίπτωση των συστημάτων ΤΝ που ταξινομούνται ως χαμηλού κινδύνου, το μοντέλο του Κανονισμού με πολλά χαρακτηριστικά Οδηγίας (Κανονοδηγίας), το οποίο καταλείπει διακριτική ευχέρεια στα κράτη μέλη για πολλές επιλογές, πράγμα που μπορεί να οδηγήσει σε μη ομοιόμορφη εφαρμογή του Κανονισμού, καθώς και για τις εποπτικές αρχές, ιδίως σε σχέση με τις εποπτικές αρχές που προβλέπονται από τον Κανονισμό (ΕΕ) 2022/2065 (EE L 277) για τις ψηφιακές υπηρεσίες (Digital Services Act) και τον Κανονισμό (ΕΕ) 2022/1925 (EE L 265) για τις ψηφιακές αγορές (Digital Markets Act). 

 Το Ειδικό Μέρος περιλαμβάνει όλα τα καίριας σημασίας “συνταγματικά ζητήματα προς διερεύνηση”, μεταξύ άλλων, τα αναφερόμενα στη βιομετρική ταυτοποίηση, στην εργασία και τη διαχείριση των εργαζομένων, στην επίδραση της ΤΝ στη δημοκρατία, στην εφαρμογή συστημάτων ΤΝ στην εκπαίδευση, στην πρόβλεψη ασθένειας και θανάτου. Παρατίθεται η προϊστορία του γάτου Όσκαρ, ο οποίος είχε υιοθετηθεί από ένα οίκο ευγηρίας στις ΗΠΑ και του οποίου η παρουσία στο κρεβάτι μόνο των ασθενών που επρόκειτο να πεθάνουν σε λίγες ώρες θεωρείτο από τους ιατρούς και το προσωπικό του γηροκομείου ως δείκτης επικείμενου θανάτου, και γίνεται αναφορά στο μοντέλο πρόβλεψης του θανάτου life2vec που δημιούργησαν οι Δανοί ερευνητές με τη συνδρομή της ΤΝ και με βάση ανωνυμοποιημένα δεδομένα έξι περίπου εκατομμυρίων Δανών. Επίσης εκτίθεται η προβληματική για το θέμα της προβλεπτικής ιατρικής μέσω εφαρμογών ΤΝ και παρατίθενται τα πλεονεκτήματα και μειονεκτήματα της γνώσης ως δύναμης αλλά και ως βασάνου, αντίστοιχα. Περαιτέρω, δίνεται έμφαση στην υποχρέωση των κρατών μελών για την ίδρυση ρυθμιστικών δοκιμαστηρίων ΤΝ (regulatory sandboxes, κουτιά από άμμο), τα οποία παρέχουν ελεγχόμενο περιβάλλον που προωθεί την καινοτομία και διευκολύνει την ανάπτυξη, την εκπαίδευση, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων ΤΝ για περιορισμένο χρονικό διάστημα υπό αυστηρή ρυθμιστική εποπτεία πριν τα συστήματα αυτά διατεθούν στην αγορά ή τεθούν σε λειτουργία με άλλο τρόπο. Στο ίδιο Μέρος η συγγραφέας προβαίνει σε κριτική αξιολόγηση των ρυθμιστικών δοκιμαστηρίων και σε εκτενή ανάλυση των πλεονεκτημάτων και μειονεκτημάτων τους. Επιπλέον, θέτει το ερώτημα αν ο Έλληνας αναθεωρητικός νομοθέτης οφείλει να ρυθμίσει την Τεχνητή Νοημοσύνη στο Σύνταγμα και προτείνει τη συνταγματική κατοχύρωση κατά τρόπο γενικό διατάξεων για τις επιπτώσεις της τεχνολογίας και της ΤΝ στον άνθρωπο, καθώς και τη συνταγματική κατοχύρωση της αρχής της ευημερίας “ως στόχευση της ΤΝ”.

Στο τέλος του βιβλίου η συγγραφέας συνοψίζει τα Συμπεράσματά της από την επισκόπηση, την επιστημονική έρευνα και επεξεργασία των διατάξεων του Κανονισμού για την ΤΝ (AI ACT), μεταξύ δε των συμπερασμάτων αυτών είναι τα εξής:

 α) η θέσπιση από την ΕΕ ενός τελικού ρυθμιστικού κειμένου για την ΤΝ είναι ελπιδοφόρα.

β) Ανησυχητική όμως είναι η διακριτική ευχέρεια που καταλείπεται στα κράτη μέλη, αφού μπορεί να οδηγήσει σε αποκλίσεις εντός της ΕΕ αναφορικά με την προστασία έναντι των επιπτώσεων της ΤΝ στον άνθρωπο, καθώς και στη σύσταση εποπτικών αρχών διαφορετικών ταχυτήτων.

γ) Η ίδρυση ρυθμιστικών δοκιμαστηρίων διασκεδάζει τους φόβους ότι η υπερρύθμιση της ΤΝ θα καταστεί τροχοπέδη για την καινοτομία.

δ) Η περιβαλλοντική βιωσιμότητα είναι ο άμεσος στόχος της ανάπτυξης συστημάτων ΤΝ, δεδομένου ότι η δημιουργία της ΤΝ απαιτεί πολλή ενέργεια.

ε) Η ΤΝ πρέπει να στηρίζεται σε ένα πλέγμα ηθικών αρχών από το οποίο συνυφαίνεται η τεχνοηθική της ευθύνης, υπό την έννοια ότι πρέπει να χρησιμοποιείται για να αναδείξει τις αρετές του ανθρώπου και, συνεπώς, ο ίδιος ο άνθρωπος είναι “ο τρόπος και ο οδηγός της καλής χρήσης”. 

 Όπως γίνεται αντιληπτό, παρά την ποικιλία των εξεταζόμενων θεμάτων, η συγγραφέας με τις επιμέρους παρατηρήσεις της αποδίδει πιστά το γενικό πνεύμα που υπάρχει: είναι η ανησυχία προ των ραγδαίων εξελίξεων και προκλήσεων της ΤΝ (τεχνολογικών, οικονομικών και γεωπολιτικών) και, επομένως, η βαθιά συνείδηση της ανάγκης να μην κλονιστεί το ευρωπαϊκό οικοδόμημα που στηρίζεται στην ανθρώπινη αξία και την ευημε­ρία. 

IΙΙ. Ψηφιακό Omnibus για την ΤΝ (Digital Om­nibus on AI) 

Σε σχέση με τα ανωτέρω, πρέπει να παρατηρηθεί ότι εντελώς πρόσφατα, στις 19 Νοεμβρίου 2025, η Επιτροπή πρότεινε μια σειρά τεχνικών τροποποιήσεων σε ένα μεγάλο σώμα της ψηφιακής νομοθεσίας (ψηφιακό πακέτο Omnibus), προκειμένου να διασφαλιστεί ότι η συμμόρφωση με τους κανόνες συνεπάγεται χαμηλότερο κόστος, επιτυγχάνει τους ίδιους στόχους και παρέχει από μόνη της ανταγωνιστικό πλεονέκτημα στις υπεύθυνες επιχειρήσεις1. Στο πλαίσιο του ψηφιακού πακέτου μέτρων η Επιτροπή υπέβαλε ξεχωριστή νομική πρόταση για στοχευμένες τροποποιήσεις στον Κανονισμό για την ΤΝ (ψηφιακό Omnibus για την ΤΝ) προκειμένου να αντιμετωπιστούν οι προκλήσεις από την εφαρμογή των ήδη ισχυουσών διατάξεων, που θα μπορούσαν να υπονομεύσουν την αποτελεσματική έναρξη της εφαρμογής των βασικών διατάξεων του Κανονισμού για την ΤΝ (καθυστερήσεις στη σύσταση των εθνικών αρμόδιων αρχών και των οργανισμών αξιολόγησης της συμμόρφωσης, έλλειψη εναρμονισμένων προτύπων όσον αφορά τις υποχρεώσεις που σχετίζονται με τα συστήματα υψηλού κινδύνου, την καθοδήγηση και τα εργαλεία συμμόρφωσης του Κανονισμού, με κίνδυνο τη σημαντική αύξηση του κόστους συμμόρφωσης για τις επιχειρήσεις και τις δημόσιες αρχές και την επιβράδυνση της καινοτομίας)2.

Μεταξύ των προτεινόμενων τροποποιήσεων είναι και οι ακόλουθες: 

α) όσον αφορά τις υποχρεώσεις που σχετίζονται με τα συστήματα υψηλού κινδύνου ενδείκνυται να θεσπιστεί μηχανισμός που θα συνδέει την έναρξη εφαρμογής με τη διαθεσιμότητα προτύπων ή άλλων εργαλείων στήριξης της συμμόρφωσης. 

β) Είναι αναγκαίο να επεκταθούν τα παρεχόμενα ήδη στις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ) [small and medium-sized enterprises - SMEs] ρυθμιστικά προνόμια και στις μικρές επιχειρήσεις μεσαίας κεφαλαιοποίησης (small mid-caps - SMCs) όσον αφορά τον τεχνικό φάκελο και σχετικά με τις κυρώσεις, καθώς και να θεσπιστεί σύστημα διαχείρισης και ποιότητας που λαμβάνει υπόψη το μέγεθός τους. 

γ) Η Επιτροπή και τα κράτη μέλη θα πρέπει να έχουν την υποχρέωση να ενθαρρύνουν τους παρόχους και τους φορείς εφαρμογής να εξασφαλίζουν επαρκές επίπεδο γραμματισμού (AI literacy) στον τομέα της ΤΝ για το προσωπικό τους και τα άλλα πρόσωπα που ασχολούνται με τη λειτουργία και τη χρήση συστημάτων ΤΝ για λογαριασμό τους (αντί της προβλεπόμενης στο άρθρο 4 του Κανονισμού υποχρέωσης των παρόχων και των φορέων εφαρμογής συστημάτων ΤΝ για τη λήψη τέτοιων μέτρων). 

δ) Κρίνεται σκόπιμο να δοθεί η δυνατότητα στους παρόχους και στους φορείς εφαρμογής όλων των συστημάτων και των μοντέλων ΤΝ να επεξεργάζονται κατ’ εξαίρεση ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα για τη διασφάλιση της ανίχνευσης και της διόρθωσης περιπτώσεων μεροληψίας με τις κατάλληλες διασφαλίσεις. 

ε) Η Υπηρεσία ΤΝ (AI Office) θα πρέπει να είναι αποκλειστικά αρμόδια για την παρακολούθηση και εποπτεία όλων των συστημάτων ΤΝ, που βασίζονται σε μοντέλα ΤΝ γενικού σκοπού όταν το μοντέλο και το σύστημα αναπτύσσονται από τον ίδιο πάροχο, καθώς και όλων των συστημάτων που αποτελούν ή είναι ενσωματωμένα σε πολύ μεγάλες επιγραμμικές πλατφόρμες και πολύ μεγάλες επιγραμμικές μηχανές αναζήτησης κατά την έννοια του Κανονισμού (ΕΕ) 2022/2065 (Digital Services Act). 

στ) Για τον εξορθολογισμό της συμμόρφωσης και τη μείωση του σχετικού κόστους, ο πάροχος που θεωρεί ότι ένα σύστημα ΤΝ δεν είναι υψηλού κινδύνου δεν θα πρέπει να υπόκειται στην υποχρέωση καταχώρισης, εξακολουθεί όμως να έχει την υποχρέωση να τεκμηριώνει την αξιολόγησή του πριν από τη διάθεση του συστήματος στην αγορά ή τη θέση του σε λειτουργία. 

ζ) Για την προώθηση της καινοτομίας είναι σκόπιμο να προωθηθεί χρήση ρυθμιστικών δοκιμαστηρίων ΤΝ και δοκιμών σε πραγματικές συνθήκες προς όφελος ευρωπαϊκών βασικών βιομηχανιών (όπως η αυτοκινητοβιομηχανία) και να προβλεφθεί η δυνατότητα ίδρυσης δοκιμαστηρίου ΤΝ από την Υπηρεσία ΤΝ σε επίπεδο Ένωσης, με το οποίο θα καθίστανται δυνατές οι διασυνοριακές δραστηριότητες και δοκιμές. 

η) Δίνεται προτεραιότητα στην έκδοση κατευθυντήριων γραμμών (guidelines) για την εφαρμογή του Κανονισμού για την ΤΝ.

Η πρόταση ευθυγραμμίζεται με τις υφιστάμενες πολιτικές με σκοπό η ΕΕ να αποκτήσει ηγετική θέση παγκοσμίως στον τομέα της ΤΝ, να καταστεί ήπειρος ΤΝ και να προωθηθεί η υιοθέτηση μιας ανθρωποκεντρικής και αξιόπιστης ΤΝ. Αναμένε-
ται με μεγάλο ενδιαφέρον η θέση του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου επί της πρότασης Digital Omnibus.

ΙV. Επίλογος

Συνοψίζοντας, η συγγραφέας Φερενίκη Παναγοπούλου μέσα από τις σελίδες του επιστημονικού της συγγράμματος που τίθεται στη διάθεση του ευρύτατου κοινού σε ψηφιακή μορφή προσεγγίζει όλα τα μείζονα ζητήματα σχετικά με τις σοβαρές επιπτώσεις της ανάπτυξης και της χρήσης συστημάτων ΤΝ στον άνθρωπο με ιδιαίτερη διεισδυτικότητα και αναλυτική και συνθετική ικανότητα, πράγμα το οποίο καταδεικνύει τη δογματική της επάρκεια, το υψηλό της επίπεδο και τη βαθιά γνώση εκ μέρους της όλων των ζητημάτων αυτών, τα οποία απασχολούν όχι μόνο το συνταγματικό δίκαιο και το ευρωπαϊκό δίκαιο, αλλά όλους τους κλάδους του δικαίου και τη νομική επιστήμη, τη φιλοσοφία, την κοινωνιολογία , τη βιοτεχνολογία και τη γενετική, την ιατρική επιστήμη, τις οικονομικές επιστήμες, το περιβάλλον και την κοινωνία. Το έργο αντιμετωπίζει πρώτο τα δημιουργούμενα προβλήματα ερμηνείας των κανόνων του Ευρωπαϊκού Κανονισμού για την ΤΝ (AI Act), που είναι ο πρώτος ολοκληρωμένος Κανονισμός για την ΤΝ παγκοσμίως, ώστε είναι βέβαιο ότι θα αποβεί πολύτιμο εγκόλπιο για την ακαδημαϊκή έρευνα και τη διδασκαλία και ότι θα συμβάλει περαιτέρω στη διαμόρφωση της νομολογίας και την προαγωγή του δικαίου. Η χρησιμότητα του βιβλίου γίνεται περισσότερο κατάδηλη αν σκεφθεί κανείς ότι δεν υπάρχει νομολογία για την ΤΝ και ως εκ τούτου, το παρόν βιβλίο ασφαλώς αποτελεί το βάθρο στο οποίο ο δικαστής κατά την εφαρμογή του κανονιστικού πλαισίου για την ΤΝ μπορεί να στηρίζει λύσεις.

ΣΠΥΡΙΔΟΥΛΑΣ ΧΡΥΣΙΚΟΠΟΥΛΟΥ,

Αντιπροέδρου 

του Συμβουλίου της Επικρατείας ε.τ. 

• 1

  COM (2025) 837 final.

• 2

  COM (2025) 836 final.