Η τεχνητή νοημοσύνη (ΤΝ) είναι ένα ταχέως εξελισσόμενο σύνολο τεχνολογιών που μπορούν να αποφέρουν ευρείας κλίμακας οικονομικά και κοινωνικά οφέλη σε ολόκληρο το φάσμα των κλάδων και των κοινωνικών δραστηριοτήτων. Με την επέκταση της χρήσης της τεχνητής νοημοσύνης, προκύπτουν πολλά ερωτήματα και ανησυχίες σχετικά με τις επιπτώσεις της στην κοινωνία μας. Ήδη τα ευρωπαϊκά όργανα έχουν προχωρήσει σε πρόταση κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη).
Η φύση της ΤΝ, η οποία συχνά βασίζεται σε μεγάλα και ποικίλα σύνολα δεδομένων και μπορεί να ενσωματωθεί σε οποιοδήποτε προϊόν ή υπηρεσία που κυκλοφορεί ελεύθερα εντός της εσωτερικής αγοράς, συνεπάγεται ότι οι στόχοι της παρούσας πρότασης δεν μπορούν να επιτευχθούν αποτελεσματικά από τα κράτη μέλη μεμονωμένα. Επιπλέον, ένα αναδυόμενο συνονθύλευμα δυνητικά αποκλινόντων εθνικών κανόνων θα παρεμποδίσει την απρόσκοπτη κυκλοφορία προϊόντων και υπηρεσιών που σχετίζονται με συστήματα ΤΝ σε ολόκληρη την ΕΕ και θα είναι αναποτελεσματικό όσον αφορά τη διασφάλιση της ασφάλειας και της προστασίας των θεμελιωδών δικαιωμάτων και των αξιών της Ένωσης στα διάφορα κράτη μέλη. Οι εθνικές προσεγγίσεις για την αντιμετώπιση των προβλημάτων θα δημιουργήσουν μόνο πρόσθετη ανασφάλεια δικαίου και φραγμούς, ενώ επίσης θα επιβραδύνουν την αποδοχή της ΤΝ από την αγορά.
Η πρόταση κανονισμού ακολουθεί μια προσέγγιση βάσει κινδύνου, στο πλαίσιο της οποίας γίνεται διάκριση μεταξύ των χρήσεων της ΤΝ που δημιουργούν :
i) μη αποδεκτό κίνδυνο,
ii) υψηλό κίνδυνο και
iii) χαμηλό ή ελάχιστο κίνδυνο.
Ο κατάλογος απαγορευμένων πρακτικών στον περιλαμβάνει όλα τα συστήματα ΤΝ των οποίων η χρήση θεωρείται μη αποδεκτή διότι αντιβαίνει στις αξίες της Ένωσης, για παράδειγμα παραβιάζοντας θεμελιώδη δικαιώματα. Οι απαγορεύσεις καλύπτουν πρακτικές που έχουν σημαντικές δυνατότητες χειραγώγησης προσώπων μέσω τεχνικών που απευθύνονται στο υποσυνείδητο υπερκεράζοντας το συνειδητό τους ή εκμεταλλεύονται τα τρωτά σημεία συγκεκριμένων ευάλωτων ομάδων, όπως τα παιδιά ή τα άτομα με αναπηρίες, προκειμένου να στρεβλώσουν ουσιωδώς τη συμπεριφορά τους κατά τρόπο που ενδέχεται να προκαλέσει στα άτομα αυτά ή σε άλλο πρόσωπο ψυχολογική ή σωματική βλάβη. Άλλες πρακτικές χειραγώγησης ή εκμετάλλευσης που επηρεάζουν ενήλικες και οι οποίες ενδέχεται να διευκολύνονται από συστήματα ΤΝ θα μπορούσαν να καλύπτονται από την ισχύουσα νομοθεσία για την προστασία των δεδομένων, την προστασία των καταναλωτών και τις ψηφιακές υπηρεσίες, η οποία εγγυάται ότι τα φυσικά πρόσωπα ενημερώνονται δεόντως και έχουν ελεύθερη επιλογή να μην υπόκεινται σε κατάρτιση προφίλ ή σε άλλες πρακτικές που ενδέχεται να επηρεάσουν τη συμπεριφορά τους. Επιπλέον τίθενται νομικές απαιτήσεις για τα συστήματα ΤΝ υψηλού, χαμηλού και ελάχιστου κινδύνου σε σχέση με τα δεδομένα και τη διακυβέρνηση των δεδομένων, την τεκμηρίωση και την τήρηση αρχείων, τη διαφάνεια και την παροχή πληροφοριών στους χρήστες, την ανθρώπινη εποπτεία, τη στιβαρότητα, την ακρίβεια και την ασφάλεια.
Η χρήση της ΤΝ με τα ιδιαίτερα χαρακτηριστικά της (π.χ. αδιαφάνεια, πολυπλοκότητα, εξάρτηση από δεδομένα, αυτόνομη συμπεριφορά) μπορεί να επηρεάσει αρνητικά ορισμένα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ (στο εξής: Χάρτης). Η πρόταση επιδιώκει να εξασφαλίσει υψηλό επίπεδο προστασίας για τα εν λόγω θεμελιώδη δικαιώματα και αποσκοπεί στην αντιμετώπιση διαφόρων πηγών κινδύνων μέσω μιας σαφώς καθορισμένης προσέγγισης βάσει κινδύνου. Μέσω της βελτίωσης της πρόβλεψης, της βελτιστοποίησης των δραστηριοτήτων και της κατανομής των πόρων, καθώς και της εξατομίκευσης της παροχής υπηρεσιών, η χρήση της τεχνητής νοημοσύνης μπορεί να στηρίξει κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα και να παράσχει βασικά ανταγωνιστικά πλεονεκτήματα στις εταιρείες και στην ευρωπαϊκή οικονομία.
