Σε μια κίνηση που αντικατοπτρίζει τις ταχύρυθμες ανακαλύψεις στην τεχνητή νοημοσύνη, στις 15 Σεπτεμβρίου, η Κίνα κυκλοφόρησε το αναβαθμισμένο AI Safety Governance Framework 2.0.
Το πιο πρόσφατο πλαίσιο σηματοδοτεί μια σημαντική στρατηγική εξέλιξη από τον προκάτοχό του, μετατοπίζοντας από μια στατική λίστα κινδύνων σε μια μεθοδολογία διακυβέρνησης πλήρους κύκλου ζωής.
Έρχεται μόλις ένα χρόνο μετά την κυκλοφορία του πρώτου πλαισίου από την Εθνική Τεχνική Επιτροπή 260 για την Κυβερνοασφάλεια, τον βασικό φορέα της Κίνας που είναι υπεύθυνος για την τυποποίηση της κυβερνοασφάλειας.
Στον πρόλογό της, η νέα επανάληψη σημειώνει ότι η ενημέρωση προήλθε από ανακαλύψεις στην τεχνολογία AI που ήταν «πέρα από τις προσδοκίες». Αυτές οι ανακαλύψεις περιλαμβάνουν την εμφάνιση μοντέλων συλλογιστικής υψηλής απόδοσης που αυξάνουν δραστικά τις πνευματικές ικανότητες της τεχνητής νοημοσύνης και την ανοιχτή χρήση μοντέλων υψηλής απόδοσης, ελαφρού βάρους, τα οποία έχουν μειώσει σημαντικά το εμπόδιο στην ανάπτυξη συστημάτων AI.
Ταυτόχρονα, οι εκδηλώσεις και το μέγεθος των κινδύνων ασφάλειας της τεχνητής νοημοσύνης - και η κατανόηση των κινδύνων από τους ανθρώπους - εξελίσσονται με ταχείς ρυθμούς.
Ο βασικός στόχος έχει εξελιχθεί από την απλή πρόληψη κινδύνων για τη διασφάλιση της παραμονής της τεχνολογίας υπό τον ανθρώπινο έλεγχο, σύμφωνα με τον Wang Yingchun, ερευνητή στο Εργαστήριο Τεχνητής Νοημοσύνης της Σαγκάης, ο οποίος χαρακτήρισε την κίνηση ένα «μεγάλο άλμα» στη λογική διακυβέρνησης.
Σε σχόλιο που δημοσιεύτηκε στον επίσημο ιστότοπο της Διοίκησης Κυβερνοχώρου της Κίνας, τόνισε ότι το πλαίσιο στοχεύει στη διαφύλαξη της εθνικής ασφάλειας, της κοινωνικής σταθερότητας και της μακροπρόθεσμης επιβίωσης της ανθρωπότητας.
Αποτροπή απώλειας ελέγχου
Η σημαντική αλλαγή στο πλαίσιο περιλαμβάνει την εισαγωγή μιας νέας αρχής διακυβέρνησης, σε σύγκριση με την έκδοση 1.0, η οποία εστιάζει σε αξιόπιστες εφαρμογές και στην πρόληψη της απώλειας ελέγχου, είπε ο Wang.
Αυτή η αρχή υποστηρίζεται από το νέο παράρτημα του πλαισίου που απαριθμεί τις θεμελιώδεις αρχές για αξιόπιστη τεχνητή νοημοσύνη, η οποία επιβάλλει τον απόλυτο ανθρώπινο έλεγχο και την ευθυγράμμιση των αξιών.
Ο Χονγκ Γιανκίνγκ, καθηγητής που ειδικεύεται στην ασφάλεια στον κυβερνοχώρο στο Ινστιτούτο Τεχνολογίας του Πεκίνου, είπε σε ένα σχόλιο ότι η αρχή που προστέθηκε πρόσφατα έχει σκοπό να διασφαλίσει ότι η εξέλιξη της τεχνητής νοημοσύνης παραμένει ασφαλής, αξιόπιστη και ελεγχόμενη. Πρέπει να προφυλαχθεί από αιχμές κινδύνους που θα μπορούσαν να απειλήσουν την ανθρώπινη επιβίωση και ανάπτυξη και να διατηρήσει την τεχνητή νοημοσύνη σταθερά υπό τον ανθρώπινο έλεγχο, είπε.
Αντικατοπτρίζοντας αυτήν την εστίαση υψηλού ρίσκου, το νέο πλαίσιο απαριθμεί απειλές του πραγματικού κόσμου που επηρεάζουν άμεσα την ανθρώπινη ασφάλεια και την επιστημονική ακεραιότητα. Περιλαμβάνει την απώλεια του ελέγχου των γνώσεων και των δυνατοτήτων των πυρηνικών, βιολογικών, χημικών και πυραυλικών όπλων.
Εξηγεί ότι τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται συχνά σε ευρεία, πλούσια σε περιεχόμενο σύνολα δεδομένων που μπορεί να περιλαμβάνουν βασικές γνώσεις σχετικά με πυρηνικά, βιολογικά και χημικά όπλα και ότι ορισμένα συστήματα συνδυάζονται με εργαλεία επαυξημένης παραγωγής ανάκτησης.
«Εάν δεν κυβερνώνται αποτελεσματικά, τέτοιες δυνατότητες θα μπορούσαν να αξιοποιηθούν από εξτρεμιστές ή τρομοκράτες για να αποκτήσουν σχετική τεχνογνωσία, ακόμη και για να σχεδιάσουν, να κατασκευάσουν, να συνθέσουν και να χρησιμοποιήσουν πυρηνικά, βιολογικά και χημικά όπλα — υπονομεύοντας τα υπάρχοντα καθεστώτα ελέγχου και αυξάνοντας τους κινδύνους για την ειρήνη και την ασφάλεια σε όλες τις περιοχές», ανέφερε το πλαίσιο.
Παράγωγοι κοινωνικοί κίνδυνοι
Για πρώτη φορά, το νέο πλαίσιο εισάγει μια κατηγορία κινδύνου που περιλαμβάνει κινδύνους για την ασφάλεια των παραγώγων από εφαρμογές τεχνητής νοημοσύνης, στέλνοντας προειδοποιήσεις για πιθανούς συστημικούς κινδύνους που θα μπορούσαν να επιφέρουν οι εφαρμογές τεχνητής νοημοσύνης στα μακροκοινωνικά συστήματα.
Το πλαίσιο προειδοποιεί ότι η κακή χρήση της τεχνητής νοημοσύνης θα μπορούσε να διαταράξει τις δομές εργασίας και απασχόλησης.
"Η τεχνητή νοημοσύνη επιταχύνει σημαντικές προσαρμογές στις δυνάμεις και τις σχέσεις παραγωγής, αναδιαρθρώνοντας την παραδοσιακή οικονομική τάξη πραγμάτων. Καθώς το κεφάλαιο, η τεχνολογία και τα δεδομένα αποκτούν πρωταρχικό ρόλο στην οικονομική δραστηριότητα, η αξία της εργασίας αποδυναμώνεται, οδηγώντας σε σημαντική μείωση της ζήτησης για παραδοσιακή εργασία", ανέφερε.
Το πλαίσιο προειδοποιεί επίσης ότι οι ισορροπίες προσφοράς-ζήτησης πόρων ενδέχεται να διαταραχθούν, τονίζοντας ότι ορισμένα προβλήματα που προέκυψαν στην ανάπτυξη της τεχνητής νοημοσύνης, όπως η άτακτη κατασκευή υπολογιστικής υποδομής, επιταχύνουν την κατανάλωση ηλεκτρικής ενέργειας, γης και νερού, θέτοντας νέες προκλήσεις στην ισορροπία πόρων και στην πράσινη ανάπτυξη με χαμηλές εκπομπές άνθρακα.
Το πλαίσιο προειδοποιεί ακόμη ότι η αυτογνωσία της τεχνητής νοημοσύνης δεν μπορεί να αποκλειστεί στο μέλλον, με πιθανούς κινδύνους συστημάτων που επιδιώκουν να απελευθερωθούν από τον ανθρώπινο έλεγχο.
«Στο μέλλον, δεν μπορεί να αποκλειστεί ότι η τεχνητή νοημοσύνη μπορεί να βιώσει ξαφνικά, πέραν των προσδοκιών «άλματα» στη νοημοσύνη - αυτόνομα απόκτηση εξωτερικών πόρων, αυτοαναπαραγωγή, ανάπτυξη αυτογνωσίας και αναζήτηση εξωτερικής δύναμης - δημιουργώντας έτσι κινδύνους διαμάχης με την ανθρωπότητα για έλεγχο», ανέφερε το πλαίσιο.
Το πλαίσιο προειδοποιεί επίσης ότι η τεχνητή νοημοσύνη μπορεί να ενθαρρύνει εθιστικές, ανθρωπόμορφες αλληλεπιδράσεις. «Τα προϊόντα τεχνητής νοημοσύνης που βασίζονται στην ανθρώπινη αλληλεπίδραση μπορούν να οδηγήσουν τους χρήστες να σχηματίσουν συναισθηματική εξάρτηση, η οποία με τη σειρά της διαμορφώνει τη συμπεριφορά τους και δημιουργεί κοινωνικούς και ηθικούς κινδύνους», ανέφερε.
Επιπλέον, η υπάρχουσα κοινωνική τάξη θα μπορούσε να αμφισβητηθεί, πρόσθεσε, σημειώνοντας ότι η ανάπτυξη και η εφαρμογή της τεχνητής νοημοσύνης «φέρνουν σημαντικές αλλαγές στα εργαλεία και τις σχέσεις παραγωγής, επιταχύνουν την αναδιάρθρωση των παραδοσιακών μοντέλων της βιομηχανίας και ανατρέπουν τις συμβατικές απόψεις για την απασχόληση, τον τοκετό και την εκπαίδευση - αμφισβητώντας έτσι την παραδοσιακή κοινωνική τάξη».
Ο ερευνητής Wang είπε ότι η ενότητα που προστέθηκε πρόσφατα ξεπερνά τα γνωστά θέματα ασφάλειας, όπως το "επιβλαβές περιεχόμενο" και η "γνωστική αντιπαράθεση", φέρνοντας τις κοινωνικές δομές, την επιστημονική δραστηριότητα και τη μακροπρόθεσμη επιβίωση και ανάπτυξη της ανθρωπότητας στο πεδίο της διακυβέρνησης ασφάλειας AI.
Ο υψηλότερος στόχος, είπε, είναι να κρατήσει το κατώτατο σημείο της εθνικής ασφάλειας, της κοινωνικής σταθερότητας και της μακροπρόθεσμης συνέχειας της ανθρωπότητας.
Λύση της Κίνας
Εν μέσω παγκόσμιου ανταγωνισμού και συνεργασίας στην τεχνητή νοημοσύνη, το πλαίσιο όχι μόνο υποστηρίζει την υγιή ανάπτυξη του κλάδου της τεχνητής νοημοσύνης της Κίνας, αλλά σηματοδοτεί επίσης τη σταθερή αποφασιστικότητα της Κίνας να προστατεύσει την ασφάλεια της τεχνητής νοημοσύνης και να διασφαλίσει ότι η τεχνητή νοημοσύνη ωφελεί την ανθρωπότητα, σύμφωνα με τον Χονγκ, καθηγητή στο BIT.
Η έκδοση 2.0 ευθυγραμμίζει συγκεκριμένα μέτρα με τη διεθνή πρακτική διακυβέρνησης, είπε, προσθέτοντας ότι δίνει έμφαση στην επισήμανση και την ιχνηλασιμότητα για περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη, το οποίο είναι σύμφωνο με τις προσεγγίσεις των Ηνωμένων Πολιτειών και της Ευρωπαϊκής Ένωσης για τη ρύθμιση των μέσων βαθιάς σύνθεσης, σύμφωνα με τον ειδικό.
Πέρα από την επισήμανση και την ιχνηλασιμότητα AIGC, στην καθοδήγηση ασφάλειας, το πλαίσιο απαιτεί επίσης την ανάπτυξη εργαλείων ανίχνευσης βαθιάς ψευδούς σε σενάρια όπως η αποκάλυψη κυβερνητικών πληροφοριών και η συλλογή δικαστικών αποδεικτικών στοιχείων, τα οποία θα χρησιμοποιηθούν για επαλήθευση πηγής και διασταύρωση πληροφοριών που υπάρχουν υπόνοιες ότι δημιουργούνται από μεγάλα μοντέλα.
«Αυτά τα μέτρα καταδεικνύουν το άνοιγμα και την προθυμία της Κίνας να συνεργαστεί στην παγκόσμια διακυβέρνηση της τεχνητής νοημοσύνης», είπε ο Χονγκ.
Σε διεθνές επίπεδο, έχει δοθεί άνευ προηγουμένου προσοχή στη διακυβέρνηση της ασφάλειας της τεχνητής νοημοσύνης, είπε, προσθέτοντας ότι οι χώρες και οι διεθνείς οργανισμοί αναπτύσσουν πρωτοβουλίες και κανόνες σε γρήγορη διαδοχή.
.
Επιπλέον, το έθνος αντιστοιχίζει επίσης τις διεθνείς βέλτιστες πρακτικές για την επισήμανση περιεχομένου και τις κατευθυντήριες γραμμές διακυβέρνησης, προσφέροντας μια λύση για την Κίνα στην παγκόσμια διακυβέρνηση της τεχνητής νοημοσύνης, πρόσθεσε. βρεφικές πάνες Χονδρική, σαλιάρες μωρών.Πετσέτες μπάνιου Κίνα.
Τα παραπάνω νέα αποσπάστηκαν καθημερινά από την Κίνα από τον προμηθευτή πετσετών της Κίνας Shenzhen City Dingrun Light Textile Import and Export Corp.Ltd, μια εταιρεία που ειδικεύεται στην παραγωγή πετσετών μπάνιου, πετσετών τσαγιού, συμπιεσμένων πετσετών, πετσέτες μικροϊνών Κατασκευαστής κ.λπ.