Του Σταύρου Κουμεντάκη

Σε προηγούμενη αρθρογραφία μας επιχειρήσαμε την προσέγγιση δύο εξαιρετικά σημαντικών θεμάτων: το πρώτο αφορά τον Κανονισμό για την Τεχνητή Νοημοσύνη (ΤΝ) και το δεύτερο τις κατηγορίες κινδύνου συστημάτων ΤΝ. Ο Κανονισμός προβλέπει σειρά υποχρεώσεων ανάλογα με την ιδιότητα όσων εμπλέκονται (λ.χ. Πάροχοι Συστημάτων ΤΝ,  Φορείς Εφαρμογής, Εισαγωγείς και Διανομείς,  εξουσιοδοτημένοι Αντιπροσώποι) -όπως τις επιμέρους ιδιότητες γνωρίσαμε στην προαναφερθείσα αρθρογραφία μας. Οι υποχρεώσεις των επιμέρους εμπλεκομένων διακρίνονται με βάση την κατηγοριοποίηση των συστημάτων. Καθώς τα Συστήματα Υψηλού Κινδύνου αποτελούν το βασικό αντικείμενο του Κανονισμού, αναγκαίο είναι να προσεγγίσουμε τις σχετικές υποχρεώσεις των Φορέων Εφαρμογής˙ και τις επαπειλούμενες, επίσης, κυρώσεις για την περίπτωση της παραβίασής τους.

Υποχρεώσεις Φορέων Εφαρμογής 

(1) Υποχρέωση γραμματισμού-AI literacy 

Ο Φορέας Εφαρμογής οφείλει να μεριμνά, ώστε τα πρόσωπα που θα αναλάβουν την ανθρώπινη εποπτεία του συστήματος να είναι κατάλληλα εκπαιδευμένα και καταρτισμένα. Ειδικότερα, τα πρόσωπα αυτά θα πρέπει να είναι σε θέση: να κατανοούν τις δυνατότητες και τους περιορισμούς του συστήματος, να παρακολουθούν τη λειτουργία του και να ερμηνεύουν τα αποτελέσματά του, να αποφασίζουν να μην το χρησιμοποιήσουν ή να παρακάμπτουν τα outputs του και να το διακόπτουν με ασφάλεια. 

(2) Υποχρέωση ανθρώπινης εποπτείας

Ο Φορέας Εφαρμογής συστημάτων υψηλού κινδύνου υποχρεούται να εφαρμόζει μέτρα ανθρώπινης εποπτείας, τα οποία προσδιορίζονται από τον Πάροχο πριν από τη διάθεση του συστήματος ΤΝ στην αγορά ή τη θέση του σε λειτουργία.

Ειδικότερα, στο πλαίσιο συμμόρφωσης με την υποχρέωση αυτή προτείνονται: (α) oρισμός υπευθύνων εποπτών, (β) δυνατότητα ουσιαστικής παρέμβασης, (γ) εκ των προτέρων εντοπισμός κρίσιμων σημείων απόφασης, (δ) κατάλληλο περιβάλλον εποπτείας (τα δεδομένα εξόδου (outputs) θα πρέπει, δηλ., να είναι δεκτικά αξιολόγησης), (ε) η ανθρώπινη εποπτεία να μην βασίζεται σε μεγάλο βαθμό σε αυτοματοποιημένα συστήματα ("automation bias") και (στ) τεκμηρίωση (καταγραφή και απόδειξη) της ανθρώπινης εποπτείας.

(3)  Υποχρέωση λήψης κατάλληλων τεχνικών και οργανωτικών μέτρων 

Το σύστημα ΤΝ υψηλού κινδύνου θα πρέπει να χρησιμοποιείται από τον Φορέα Εφαρμογής αποκλειστικά σε συμφωνία με τις οδηγίες χρήσης που παρέχονται από τον Πάροχο. Θα πρέπει, επίσης, να λαμβάνονται όλα τα κατάλληλα τεχνικά και οργανωτικά μέτρα για την ασφαλή και νόμιμη χρήση του˙ για την ουσιαστική συμμόρφωση με την υποχρέωση αυτή αναγκαία είναι η ενσωμάτωση των οδηγιών σε διαδικασίες και πολιτικές.

(4) Υποχρέωση ελέγχου δεδομένων εισόδου 

Ο Φορέας Εφαρμογής οφείλει να διασφαλίζει ότι τα δεδομένα εισόδου είναι συναφή και επαρκώς αντιπροσωπευτικά σε σχέση με τον επιδιωκόμενο σκοπό. 

(5) Υποχρέωση παρακολούθησης λειτουργίας και ενημέρωσης Παρόχου - αναστολής χρήσης και ενημέρωσης αρχών  - αντιμετώπισης συστημάτων ΤΝ που παρουσιάζουν κίνδυνο

Ο Φορέας Εφαρμογής υποχρεούται να παρακολουθεί τη λειτουργία του συστήματος ΤΝ με βάση τις οδηγίες χρήσης και να ενημερώνει, κατά περίπτωση, τον Πάροχο και τις Αρμόδιες Αρχές Εποπτείας. 

(6) Υποχρέωση συνεργασίας με τις αρμόδιες αρχές 

Ο Φορέας Εφαρμογής υποχρεούται να συνεργάζεται πλήρως με τις Αρμόδιες εποπτικές Αρχές, παρέχοντας κάθε αναγκαία πληροφορία και πρόσβαση που ζητείται για την αξιολόγηση της συμμόρφωσης. 

(7) Τήρηση αρχείων καταγραφής-logs

Ο Φορέας Εφαρμογής οφείλει να τηρεί αρχεία καταγραφής (logs), εφόσον αυτά παράγονται αυτόματα από το σύστημα στο βαθμό που αυτά βρίσκονται στον έλεγχό του. 

(8) Υποχρέωση διαφάνειας

Πρόκειται για ειδικές υποχρεώσεις ενημέρωσης με σαφή και διακριτό τρόπο από μέρους του Φορέα Εφαρμογής, όταν χρησιμοποιούνται συστήματα ανάλυσης συναισθημάτων, συστήματα βιομετρικής κατηγοριοποίησης ή συστήματα που παράγουν ή χειρίζονται περιεχόμενο εικόνας, ήχου ή βίντεο που αποτελεί προϊόν βαθυπαραποίησης (deepfake). 

(9) Υποχρέωση επεξήγησης 

Ο Κανονισμός θεμελιώνει το δικαίωμα των φυσικών προσώπων να λαμβάνουν επεξήγηση για τον ρόλο του συστήματος ΤΝ στη διαδικασία λήψης απόφασης που τους αφορά καθώς και για τα βασικά, επίσης, στοιχεία της απόφασης. 

(10) Υποχρεώσεις με περιορισμένο πεδίο εφαρμογής

Η υποχρέωση διενέργειας εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα βαρύνει τους Φορείς Εφαρμογής που είναι οργανισμοί δημόσιου δικαίου ή ιδιωτικές οντότητες που παρέχουν δημόσιες υπηρεσίες και Φορείς Εφαρμογής συγκεκριμένων συστημάτων ΤΝ υψηλού κινδύνου. Τους συγκεκριμένους Φορείς Εφαρμογής βαρύνει, μεταξύ άλλων, και η καταχώριση της χρήσης τους στη βάση δεδομένων της ΕΕ. 

Κυρώσεις  

Ο Κανονισμός προβλέπει τα όρια των χρηματικών κυρώσεων, τις οποίες θα πρέπει να προσδιορίσουν τα κράτη-μέλη ανάλογα με την παράβαση. Τα συγκεκριμένα όρια προσδιορίζονται, ανάλογα με την σοβαρότητα της παράβασης, είτε σε απόλυτα ποσά (έως 7.500.000€ ή, κατά περίπτωση, έως 35.000.000€) είτε/και, επί επιχειρήσεων, σε ποσοστά του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών τους για το προηγούμενο οικονομικό έτος (έως 1% ή, κατά περίπτωση, έως 7%). Δεν έχει υπάρξει, προσώρας, προσδιορισμός του ύψους και πλαισίου επιβολής των κυρώσεων από τον Έλληνα νομοθέτη.

Τα Συστήματα Τεχνητής Νοημοσύνης Υψηλού Κινδύνου είναι εκείνα με τα οποία περισσότερο ασχολείται, και δικαίως, ο σχετικός Ευρωπαϊκός Κανονισμός. Η χρήση τους αξιώνει ιδιαίτερη προσοχή-προδήλως γιατί η κοινή λογική και η υποχρέωση προστασίας βασικών αξιών και ανθρώπινων δικαιωμάτων το επιβάλλει˙ επιπρόσθετα, όμως, γιατί οι επαπειλούμενες κυρώσεις μπορούν να αποδειχθούν δραματικές για τις επιχειρήσεις που παραβιάζουν τις συναφείς υποχρεώσεις τους. Ουδεμία, λοιπόν, αμφιβολία χωρεί πως δεν αρκεί η εύρεση των βέλτιστων, σχετικών, συστημάτων αλλά, προεχόντως, η ευλαβική τήρηση των (όχι αμελητέων) υποχρεώσεων που βαρύνουν εκείνους που θα τα χρησιμοποιήσουν. 

Σταύρος Κουμεντάκης
Managing Partner
Koumentakis and Associates Law Firm