Η Κίνα προχωρά στη δημιουργία ενός αυστηρότερου πλαισίου για να διασφαλίσει ότι η τεχνητή νοημοσύνη θα παραμένει πάντοτε υπό ανθρώπινο έλεγχο. Η ραγδαία ανάπτυξη αυτόνομων συστημάτων έχει δημιουργήσει νέες ανησυχίες σχετικά με την ασφάλεια και τη δυνατότητα παρέμβασης των χρηστών.
Στο επίκεντρο αυτής της ρύθμισης βρίσκονται οι «AI agents». Πρόκειται για συστήματα που δεν περιορίζονται μόνο στην παραγωγή απαντήσεων, όπως τα παραδοσιακά chatbots, αλλά μπορούν να εκτελούν εργασίες, να λαμβάνουν αποφάσεις και να αλληλεπιδρούν με άλλα συστήματα με υψηλό βαθμό αυτονομίας.
Η κεντρική αρχή του κινεζικού σχεδιασμού είναι ξεκάθαρη: ο χρήστης πρέπει να διατηρεί την τελική εξουσία λήψης αποφάσεων.
Κόκκινες γραμμές για τους AI agents
Οι νέες κατευθυντήριες γραμμές απαιτούν από τους developers να ενσωματώνουν ειδικούς μηχανισμούς. Αυτοί οι μηχανισμοί θα πρέπει να μπορούν να εντοπίζουν προβληματικές συμπεριφορές, να διακόπτουν επικίνδυνες λειτουργίες και να διορθώνουν λανθασμένες ενέργειες των συστημάτων AI.
Μεταξύ των καταγεγραμμένων κινδύνων περιλαμβάνονται η παραποίηση δεδομένων, η χειραγώγηση αλγορίθμων, οι ευπάθειες ασφαλείας, καθώς και η «απώλεια επιχειρησιακού ελέγχου». Αυτό συμβαίνει όταν ένας οργανισμός χάνει την ικανότητα να ελέγχει αποτελεσματικά τη συμπεριφορά ενός συστήματος τεχνητής νοημοσύνης.
Η Κίνα προβλέπει επίσης τη δυνατότητα εξωτερικών ελέγχων ασφαλείας από ανεξάρτητους φορείς και ειδικούς στην κυβερνοασφάλεια.
Ο φόβος για μια AI με αυξημένη αυτονομία
Το Πεκίνο έχει αρχίσει να αντιμετωπίζει θεσμικά ακόμη και πιο μακροπρόθεσμα σενάρια κινδύνου. Σε προηγούμενα πλαίσια ασφάλειας είχε αναφερθεί η πιθανότητα ένα μελλοντικό σύστημα τεχνητής νοημοσύνης να αποκτήσει μεγαλύτερη αυτονομία, αυξημένες δυνατότητες λήψης αποφάσεων ή πρόσβαση σε εξωτερικούς πόρους.
Η αρχή που έχει υιοθετηθεί πλέον συνοψίζεται στην ανάγκη για αξιόπιστη χρήση της AI και την αποτροπή κάθε απώλειας ελέγχου.
Σι Τζινπίνγκ: Η AI υπό ανθρώπινο έλεγχο
Το ζήτημα έχει φτάσει στο ανώτατο πολιτικό επίπεδο. Ο πρόεδρος της Κίνας, Σι Τζινπίνγκ, έχει τονίσει ότι η τεχνητή νοημοσύνη πρέπει να παραμένει υπό ανθρώπινο έλεγχο. Παράλληλα, το Πεκίνο επεξεργάζεται ένα ευρύτερο νομοθετικό πλαίσιο για την τεχνολογία.
Την ίδια στιγμή, η ασφάλεια της τεχνητής νοημοσύνης αναδεικνύεται σε νέο πεδίο ανταγωνισμού ανάμεσα στην Κίνα και τις Ηνωμένες Πολιτείες. Οι δύο υπερδυνάμεις διεκδικούν όχι μόνο την τεχνολογική πρωτοκαθεδρία, αλλά και πρωταγωνιστικό ρόλο στη διαμόρφωση των κανόνων που θα καθορίσουν την επόμενη εποχή.
Το μεγάλο στοίχημα είναι πλέον κοινό: πώς θα γίνουν τα συστήματα τεχνητής νοημοσύνης ισχυρότερα, χωρίς να χαθεί η δυνατότητα του ανθρώπου να πατήσει το «στοπ» όταν αυτό κριθεί απαραίτητο.
