H ρύθμιση της Τεχνητής Νοημοσύνης στην ΕΕ

Του Κομνηνού Κόμνιου 

Ημέρα με την ημέρα γινόμαστε μάρτυρες της δημιουργίας μιας νέας γενιάς συστημάτων Tεχνητής Nοημοσύνης (ΤΝ), ικανών να δημιουργήσουν κείμενο, εικόνες, βίντεο και μουσική σε επίπεδο που προσιδιάζει στο ανθρώπινο μέτρο. Το ChatGPT, το DALL-E 2, το Synthesia, το Stable Diffusion κ.ά. αλλάζουν ραγδαία τον τρόπο με τον οποίο επικοινωνούμε, δημιουργούμε και εργαζόμαστε. Παρά τις ενστάσεις περί υπερρύθμισης της ψηφιακής οικονομίας, η Ευρωπαϊκή Ένωση (ΕΕ) επιδιώκει την πρωτοπορία και στη ρύθμιση της Τεχνητής Νοημοσύνης (ΤΝ). Ωστόσο, οι πρόσφατες εξελίξεις, ιδίως η εμφάνιση εκτεταμένων γεννητικών μοντέλων ΤΝ (Large Generative AI Models - LGAIMs), όπως το ChatGPT, έχουν εγείρει σημαντικές ανησυχίες σχετικά με την προσέγγιση της ΕΕ όσον αφορά τη ρύθμιση του συγκεκριμένου τομέα. Ακολούθως, παρουσιάζεται ευσύνοπτα η προτεινόμενη Πράξη της ΕΕ για την ΤΝ και οι επιπτώσεις της στα LGAIMs, ενώ παράλληλα παρατίθενται συγκεκριμένες σκέψεις για ένα πιο διαφοροποιημένο και αποτελεσματικό ρυθμιστικό πλαίσιο.

I. Ορισμός εφαρμογών υψηλού κινδύνου

Ένα από τα βασικά στοιχεία της Πράξης της ΕΕ για την ΤΝ είναι η ταξινόμηση των εφαρμογών ΤΝ με βάση τον πιθανό κίνδυνο, που ενδέχεται να προκαλέσουν.

Μάλιστα, η Πράξη θεσπίζει μια μεθοδολογία κινδύνου για τον ορισμό των συστημάτων ΤΝ "υψηλού κινδύνου" που ενέχουν σημαντικούς κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα των προσώπων. Τα εν λόγω συστήματα ΤΝ υπόκεινται σε αυστηρές κανονιστικές απαιτήσεις. Ωστόσο, ο τρέχων ορισμός των συστημάτων υψηλού κινδύνου σύμφωνα με Πράξη μάλλον εκπλήσσει: Ποιό από τα ακόλουθα σενάρια ταξινομείται ως σύστημα ως σύστημα ΤΝ υψηλού κινδύνου;

Πρώτο σενάριο: Ένα πλήρως αυτόνομο όχημα, που ελέγχεται από ΤΝ.

Δεύτερο σενάριο: Ο στρατός από "τρολ" ενός αυταρχικού καθεστώτος, που χρησιμοποιεί το ChatGPT για να παράγει και να διαδίδει ρητορική μίσους κατά των αντιπάλων του καθεστώτος.

Τρίτο σενάριο: Γονείς χρησιμοποιούν το ChatGPT για να δημιουργήσουν μια πρόσκληση για τα γενέθλια της κόρης τους, ελέγχοντας μόνο τη σωστή ορθογραφία του ονόματός της πριν την στείλουν σε άλλους γονείς.

Παραδόξως, η Πράξη για την ΤΝ κατηγοριοποιεί το τρίτο σενάριο ως σύστημα ΤΝ υψηλού κινδύνου! Αυτή η εμφανώς παράλογη ταξινόμηση αναδεικνύει ένα θεμελιώδες ελάττωμα στη ρυθμιστική προσέγγιση της Πράξης.

IΙ. Αποσπασματικότητα της ρύθμισης

Ένα από τα σοβαρότερα μειονεκτήματα στη ρυθμιστική πολιτική της ΕΕ είναι αποσπασματικότητα. Για παράδειγμα, η ΤΝ δε λαμβάνεται επαρκώς υπόψη στην Πράξη για τις ψηφιακές υπηρεσίες (Digital Services Act- DSA), ενώ η Πράξη για τις ψηφιακές αγορές (Digital Markets Act - DMA) συχνά παραβλέπεται στις διαβουλεύσεις για τη ρύθμιση της ΤΝ. Όμως, αυτή η αποσπασματική  θεώρηση και η έλλειψη συνεκτικού πλαισίου προφανώς υπονομεύει την αποτελεσματική αξιοποίηση των ρυθμιστικών μέσων.

Aπό την άλλη, ο δυνητικός αντίκτυπος της Πράξης για την ΤΝ στον ανταγωνισμό δεν φαίνεται να έχει διερευνηθεί σε βάθος. Το κόστος συμμόρφωσης που συνδέεται με την Πράξη θα μπορούσε να επιβαρύνει κατά βάση τις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ) και να υπονομεύσει τη δυνατότητα της Πράξης για τις ψηφιακές αγορές να ανακόψει τις ολιγοπωλιακές δομές. Η αρνητική αυτή προοπτική θυμίζει τον αντίκτυπο του Γενικού Κανονισμού για την Προστασία Δεδομένων (ΓΚΠΔ) στον ανταγωνισμό, όπου το κόστος συμμόρφωσης υποστηρίζεται ότι τελικώς ευνόησε τις μεγάλες επιχειρήσεις (Geradin et al., GDPR Myopia, European Competition Journal 2021. 47).

III. Η πρόκληση των εκτεταμένων γεννητικών μοντέλων τεχνητής νοημοσύνης

Τα εκτεταμένα γεννητικά μοντέλα ΤΝ (LGAIM), όπως το ChatGPT, θέτουν τον ενωσιακό ρυθμιστή ενώπιον πρωτοφανών προκλήσεων. Τα μοντέλα αυτά ενσωματώθηκαν μάλλον βιαστικά στην Πράξη για την ΤΝ, οδηγώντας στα προαναφερθέντα παράλογα αποτελέσματα. Επιπλέον, το προτεινόμενο πλαίσιο ευθύνης για την ΤΝ (πρόταση οδηγίας περί ευθύνης για την ΤΝ, αναθεωρημένη οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων) επιδεινώνει περαιτέρω την κατάσταση, καθώς οι  εφαρμογές ΤΝ θα βρεθούν αντιμέτωπες με αντιστροφή του βάρους της απόδειξης. Για τους δημιουργούς απλών  εργαλείων τεχνητής νοημοσύνης, τα οποία στην πραγματικότητα δεν ενέχουν μεγάλο κίνδυνο (βλ. πρόσκληση γενεθλίων), μπορεί ξαφνικά να τεθούν θέματα ευθύνης.

Η ανεπάρκεια της τεχνολογικά προσανατολισμένης ρυθμιστικής προσέγγισης είναι πιο εμφανής στην Πράξη για τις ψηφιακές υπηρεσίες (DSA). Πρόσφατες έρευνες έδειξαν ότι το ChatGPT μπορεί να χρησιμοποιηθεί για τη δημιουργία τέλεια διατυπωμένων, γεμάτων ψευδείς ειδήσεις "shitstorms", ενισχύοντας τη διάδοσή τους (Beuth, Wie sich ChatGPT mit Worten hacken lässt, Der Spiegel 2023). Ωστόσο, η Πράξη για τις ψηφιακές υπηρεσίες (DSA), η οποία έχει σχεδιαστεί κυρίως για την καταπολέμηση του προβληματικού περιεχομένου στις πλατφόρμες, δεν καταλαμβάνει τα LGAIM, καθώς τα τελευταία δημιουργούν περιεχόμενο και δεν το φιλοξενούν. Αυτό το κενό στη ρύθμιση αφήνει τα LGAIMs σε μεγάλο βαθμό ανεξέλεγκτα έως ότου το περιεχόμενό τους φτάσει τελικώς στις πλατφόρμες, δηλαδή συχνά πολύ αργά για να αποτραπεί η βλάβη.

IV. Προτάσεις

Καθώς η ΕΕ αγκομαχά  για να θεσπίσει έναν (μάλλον υπερβολικά) συμπεριληπτικό ορισμό της ΤΝ, τα ακόλουθα θα μπορούσαν να συμβάλουν στη δημιουργία ενός πιο αποτελεσματικού και προσανατολισμένου προς το μέλλον ρυθμιστικού πλαισίου.

Αποσαφηνισμένη ορολογία: Το ρυθμιστικό λεξιλόγιο πρέπει να ευθυγραμμιστεί με την πραγματικότητα της αλυσίδας αξίας της ΤΝ. Δεν υπάρχουν μόνο πάροχοι και χρήστες (όπως μέχρι σήμερα στην Πράξη για την ΤΝ), αλλά και προγραμματιστές ενός προ-εκπαιδευμένου μοντέλου ΤΝ (π.χ. LGAIM), επαγγελματίες χρήστες κ.α. Οι κανονιστικές απαιτήσεις πρέπει λοιπόν να προσαρμόζονται σε αυτές τις διαφορετικές οντότητες με διαφοροποιημένο τρόπο.

Εξειδίκευση των κριτηρίων υψηλού κινδύνου: Τα LGAIM θα πρέπει να ταξινομούνται ως συστήματα υψηλού κινδύνου μόνο όταν χρησιμοποιούνται πραγματικά σε κρίσιμες εφαρμογές. Δεν χρειάζεται κάθε εφαρμογή ΤΝ να πληροί τα ίδια πρότυπα ασφαλείας, εάν ο σκοπός της είναι λιγότερο κρίσιμος.

Κανόνες διαφάνειας: Θα ήταν σκόπιμη η θέσπιση κανόνων που απαιτούν από τους επαγγελματίες χρήστες να γνωστοποιούν τη χρήση περιεχομένου που παράγεται από ΤΝ. Tούτο είναι ζωτικής σημασίας για την έρευνα, την εκπαίδευση και την εμπέδωση "κουλτούρας λογοδοσίας".

V. Συμπέρασμα

Όλο και συχνότερα ακούγεται ότι οι ΗΠΑ είναι οι παγκόσμιοι πρωταθλητές της τεχνητής νοημοσύνης, ενώ οι Ευρωπαίοι είναι οι παγκόσμιοι πρωταθλητές της ρύθμισης της τεχνητής νοημοσύνης. Οι προσπάθειες της ΕΕ να ρυθμίσει την ΤΝ, μολονότι καλοπροαίρετες, αντιμετωπίζουν σημαντικές προκλήσεις όταν πρόκειται για LGAIM, όπως το ChatGPT. Η προτεινόμενη Πράξη για την ΤΝ, ως έχει, μπορεί να αποβεί μοιραία για την καινοτομία και να επιβαρύνει τους εμπλεκόμενους με περιττό κόστος συμμόρφωσης. Για την αποτελεσματική αντιμετώπιση αυτών των προκλήσεων, η ΕΕ καλείται να υιοθετήσει μια περισσότερο διαφοροποιημένη και ευέλικτη ρυθμιστική προσέγγιση, που να λαμβάνει υπόψη τα ειδικά χαρακτηριστικά, αλλά και τους κινδύνους που συνδέονται με τα LGAIMs. Μόνο έτσι η Ευρώπη θα μπορέσει να αξιοποιήσει πλήρως τις δυνατότητες της ΤΝ και ταυτόχρονα να διασφαλιστεί από τους πιθανούς κινδύνους της.

* Ο Κομνηνός Κόμνιος είναι Αναπλ. Καθηγητής στο Διεθνές Πανεπιστήμιο της Ελλάδος, Δικηγόρος, Διαμεσολαβητής, Μέλος της Ολομέλειας της ΡΑΑΕΥ