AI Act: Προειδοποιήσεις για κινδύνους σε ιατρικές συσκευές και παιχνίδια

Μια νέα αντιπαράθεση έχει ξεσπάσει στην Ευρωπαϊκή Ένωση γύρω από τη ρύθμιση της τεχνητής νοημοσύνης (AI), καθώς οργανώσεις της κοινωνίας των πολιτών εκφράζουν έντονες ανησυχίες για πιθανές χαλαρώσεις στους κανόνες (AI Act) που αφορούν κρίσιμους τομείς, όπως οι ιατρικές συσκευές και τα παιδικά παιχνίδια. Σύμφωνα με πρόσφατο δημοσίευμα του Euractiv, μια ευρεία συμμαχία οργανώσεων προειδοποιεί ότι οι προτεινόμενες αλλαγές  στο ευρωπαϊκό πλαίσιο για την AI ενδέχεται να θέσουν σε κίνδυνο την ασφάλεια των πολιτών, ειδικά των πιο ευάλωτων ομάδων.

Τι αλλάζει στον κανονισμό για την AI

Η Ευρωπαϊκή Ένωση εργάζεται πάνω στον λεγόμενο «AI Act», ένα ολοκληρωμένο νομικό πλαίσιο που στοχεύει να διασφαλίσει ότι τα συστήματα τεχνητής νοημοσύνης είναι ασφαλή και σέβονται τα θεμελιώδη δικαιώματα.

Ωστόσο, νέες προτάσεις στο πλαίσιο του λεγόμενου «AI Omnibus» ενδέχεται να:

• Εξαιρέσουν ορισμένες κατηγορίες προϊόντων (όπως ιατρικές συσκευές και παιχνίδια) από τους αυστηρούς κανόνες
• Καθυστερήσουν την εφαρμογή βασικών διατάξεων
• Δημιουργήσουν «παραθυράκια» για την αποφυγή συμμόρφωσης από εταιρείες

Οι αλλαγές αυτές προκαλούν έντονες αντιδράσεις, καθώς θεωρείται ότι υπονομεύουν τον αρχικό στόχο του νόμου: την προστασία της υγείας και της ασφάλειας των πολιτών.

Οι βασικές ανησυχίες των οργανώσεων

Οι οργανώσεις της κοινωνίας των πολιτών, μεταξύ των οποίων ομάδες υγείας και προστασίας καταναλωτών, επισημαίνουν ότι η χαλάρωση των κανόνων μπορεί να έχει σοβαρές συνέπειες.

Κύριοι κίνδυνοι:

• Μειωμένη ασφάλεια ασθενών: Η εξαίρεση ιατρικών συσκευών από το πλαίσιο της AI μπορεί να αφήσει κρίσιμα συστήματα χωρίς επαρκή έλεγχο
• Επικίνδυνα παιδικά παιχνίδια: AI-enabled παιχνίδια έχουν ήδη παρουσιάσει απρόβλεπτες και ακατάλληλες συμπεριφορές σε δοκιμές
• Έλλειψη λογοδοσίας: Εταιρείες ενδέχεται να εκμεταλλευτούν νομικά κενά για να αποφύγουν υποχρεώσεις
• Ανισότητα στην αγορά: Προϊόντα που κυκλοφορούν πριν την πλήρη εφαρμογή των κανόνων μπορεί να παραμείνουν ανεξέλεγκτα για χρόνια

Οι ειδικοί τονίζουν ότι ειδικά στον τομέα της υγείας, η τεχνητή νοημοσύνη μπορεί να επηρεάσει άμεσα ανθρώπινες ζωές, γεγονός που απαιτεί αυστηρή εποπτεία.

Γιατί οι ιατρικές συσκευές είναι κρίσιμο ζήτημα

Η χρήση AI σε ιατρικές συσκευές αυξάνεται ραγδαία, από διαγνωστικά εργαλεία μέχρι συστήματα υποστήριξης αποφάσεων. Αν αυτές οι εφαρμογές εξαιρεθούν από το αυστηρό ρυθμιστικό πλαίσιο:

• Μπορεί να αυξηθεί ο κίνδυνος λανθασμένων διαγνώσεων
• Ενδέχεται να μειωθεί η διαφάνεια στους αλγορίθμους
• Οι ασθενείς ίσως εκτεθούν σε μη δοκιμασμένες τεχνολογίες

Οι οργανώσεις υπογραμμίζουν ότι η υγεία δεν μπορεί να αντιμετωπίζεται με «εκπτώσεις» στη ρύθμιση.

AI και παιδιά: ένας υποτιμημένος κίνδυνος

Τα «έξυπνα» παιχνίδια με τεχνητή νοημοσύνη αποτελούν μια αναπτυσσόμενη αγορά, αλλά και μια πηγή ανησυχίας. Σε δοκιμές, ορισμένα από αυτά:

• Παρήγαγαν ακατάλληλο περιεχόμενο
• Καθοδήγησαν παιδιά σε επικίνδυνες συμπεριφορές
• Αντέδρασαν με απρόβλεπτο τρόπο

Αυτό ενισχύει την ανάγκη για αυστηρούς ελέγχους πριν τη διάθεση τέτοιων προϊόντων στην αγορά.

Καθυστερήσεις και «παράθυρα» στον νόμο

Ένα ακόμα σημαντικό ζήτημα είναι η πιθανή καθυστέρηση στην εφαρμογή του AI Act. Οι αλλαγές μπορεί να μεταθέσουν βασικές υποχρεώσεις έως και το 2027 ή αργότερα.

Αυτό δημιουργεί ένα επικίνδυνο κίνητρο:

• Οι εταιρείες να κυκλοφορήσουν προϊόντα πριν τεθούν σε ισχύ οι αυστηροί κανόνες
• Να παραμείνουν αυτά τα προϊόντα εκτός ρύθμισης για μεγάλο χρονικό διάστημα

Όπως επισημαίνουν ειδικοί, αυτό το «παράθυρο» μπορεί να οδηγήσει σε μαζική διάθεση υψηλού ρίσκου συστημάτων χωρίς επαρκή έλεγχο.

Η ισορροπία ανάμεσα στην καινοτομία και την ασφάλεια

Η Ευρωπαϊκή Ένωση προσπαθεί να βρει μια λεπτή ισορροπία:

• Από τη μία πλευρά, να ενισχύσει την καινοτομία και την ανταγωνιστικότητα
• Από την άλλη, να προστατεύσει τους πολίτες από τους κινδύνους της AI

Ωστόσο, οι οργανώσεις προειδοποιούν ότι η υπερβολική χαλάρωση των κανόνων μπορεί να οδηγήσει σε απώλεια εμπιστοσύνης στην τεχνολογία. Η συζήτηση γύρω από τον κανονισμό για την τεχνητή νοημοσύνη στην Ευρώπη βρίσκεται σε κρίσιμο σημείο. Οι προτεινόμενες αλλαγές μπορεί να διευκολύνουν την ανάπτυξη της τεχνολογίας, αλλά ταυτόχρονα ενδέχεται να δημιουργήσουν σοβαρούς κινδύνους για την υγεία και την ασφάλεια. Η τελική απόφαση θα καθορίσει αν η Ευρώπη θα συνεχίσει να αποτελεί παγκόσμιο πρότυπο για το «AI Act» ή αν θα ανοίξει την πόρτα σε λιγότερο ελεγχόμενες πρακτικές.