Η ανακοίνωση του διορισμού πρώην υπαλλήλου της NSA από το OpenAI προκαλεί αντιδράσεις

Τι πρέπει να ξέρετε

• Η OpenAI διόρισε πρόσφατα τον Paul Nakasone, συνταξιούχο στρατηγό του αμερικανικού στρατού και πρώην Διοίκηση Εθνικής Ασφάλειας (NSA), στο διοικητικό της συμβούλιο.
• Η εταιρεία λέει ότι η εμπειρία της Nakasone στην ασφάλεια στον κυβερνοχώρο θα τη βοηθήσει να συνειδητοποιήσει το AGI με ασφάλεια και να διασφαλίσει ότι ωφελεί όλη την ανθρωπότητα.
• Ωστόσο, ένας πρώην υπάλληλος της NSA λέει ότι ο διορισμός του Nakasone αποτελεί προδοσία των δικαιωμάτων όλων και ότι δεν πρέπει να εμπιστευόμαστε τα προϊόντα του OpenAI όπως το ChatGPT.

Η σούπερ ευθυγράμμιση του OpenAI σημείωσε μεγάλη επιτυχία τον περασμένο μήνα, αφού μια χούφτα κορυφαίων στελεχών αποχώρησαν από την εταιρεία για διάφορους λόγους, συμπεριλαμβανομένης της προτεραιότητάς της στα «λαμπερά προϊόντα» έναντι των διαδικασιών ασφάλειας. Ωστόσο, ο κατασκευαστής του ChatGPT σχημάτισε μια νέα ομάδα ασφάλειας με επικεφαλής τον

Sam

Altman, εστιάζοντας στη διατήρηση των τεχνολογικών προόδων για την εκπλήρωση κρίσιμων προτύπων ασφάλειας και ασφάλειας.

Πρόσφατα,

η εταιρεία διόρισε τον Paul Nakasone

, ένας απόστρατος στρατηγός του αμερικανικού στρατού και πρώην Διοίκηση Εθνικής Ασφάλειας (NSA), στο διοικητικό συμβούλιο της. Για το πλαίσιο, ο Nakasone υπηρέτησε στο παρελθόν ως επικεφαλής της μονάδας Cyber ​​Command με επίκεντρο την κυβερνοασφάλεια. Είναι πολύ πιθανό ότι η τεράστια εμπειρία και το υπόβαθρό του συνέβαλαν σε μεγάλο βαθμό στην προσγείωσή του στο διοικητικό συμβούλιο του OpenAI (μέσω

Φουτουρισμός

).

Σύμφωνα με τον πρόεδρο του διοικητικού συμβουλίου του OpenAI, Bret Taylor:

«Η απαράμιλλη εμπειρία του στρατηγού Nakasone σε τομείς όπως η κυβερνοασφάλεια, θα βοηθήσει το OpenAI να επιτύχει την αποστολή του να διασφαλίσει ότι η τεχνητή γενική νοημοσύνη ωφελεί όλη την ανθρωπότητα».

Όπως συμβαίνει, ο διορισμός του Nakasone στην Επιτροπή Ασφάλειας και Ασφάλειας του OpenAI δεν ταιριάζει με όλους. Ένας πρώην υπάλληλος της NSA που έγινε «υπάλληλος του κοινού» Έντουαρντ Σνόουντεν εξέφρασε κατάφωρα τις ανησυχίες του για τον διορισμό του Νακασόνε:

“Έχουν ξεφύγει από την πλήρη μάσκα: 𝐝𝐨 𝐧𝐨𝐭 𝐞𝐯𝐞𝐫 εμπιστεύεστε το OpenAI ή τα προϊόντα του (ChatGPT κ.λπ.). Υπάρχει μόνο ένας λόγος για να διορίσετε έναν Διευθυντή NSAGov στο διοικητικό συμβούλιο σας. Αυτό είναι μια εσκεμμένη, υπολογισμένη προδοσία κάθε ατόμου στη Γη έχεις προειδοποιηθεί».

Τα συναισθήματα του Σνόουντεν επικεντρώνονται στη συσχέτιση της NSA με την αδικαιολόγητη παρακολούθηση πολιτών των

ΗΠΑ

. Αυτό συμβαίνει εν μέσω ανησυχιών σχετικά με το απόρρητο και την ασφάλεια που ανακατεύουν την εξέλιξη της τεχνητής νοημοσύνης. Για παράδειγμα, μπορεί να θυμάστε ότι η αμφιλεγόμενη Ανάκληση των Windows της Microsoft ανακλήθηκε ακόμη και πριν αποσταλεί λόγω αντιδράσεων από ενδιαφερόμενους χρήστες. Στα χαρτιά, ο Redmond υποσχέθηκε μια λειτουργία 100% εστιασμένη στο απόρρητο που τρέχει σε συσκευές.

Ωστόσο, οι γνώστες της τεχνολογίας χρήστες κατάφεραν να εντοπίσουν κενά που τους επέτρεπαν να παρακάμψουν τα μέτρα ασφαλείας και να αποκτήσουν πρόσβαση στα τοπικά αποθηκευμένα στιγμιότυπα όσων βλέπει ένας χρήστης στον υπολογιστή του, προτρέποντας την υπηρεσία επιτήρησης δεδομένων του Ηνωμένου Βασιλείου να ελέγξει εξονυχιστικά την ασφάλεια της λειτουργίας.

Το απόρρητο και η ασφάλεια συνεχίζουν να εκτροχιάζουν τις τεχνολογικές εξελίξεις του OpenAI

Σε αντίθεση με τα συναισθήματα του Snowden, ο Nakasone λέει ότι η αποστολή του OpenAI ευθυγραμμίζεται στενά με τις προσωπικές του αξίες και την εμπειρία του στη δημόσια υπηρεσία. Σκοπεύει να χρησιμοποιήσει την εμπειρία του για να κάνει την τεχνητή γενική νοημοσύνη (AGI) ασφαλή και ωφέλιμη για όλους. Όπως ίσως γνωρίζετε, οι φήμες που στροβιλίζονται στο διαδίκτυο δείχνουν ότι η OpenAI θα μπορούσε να μετατραπεί σε μια κανονική εταιρεία για να προσελκύσει κεφάλαια.

Ο Μάθιου Γκριν, καθηγητής κρυπτογραφίας στο Πανεπιστήμιο

Τζο

νς Χόπκινς, μοιράζεται παρόμοια συναισθήματα με τον Σνόουντεν:

«Πιστεύω ότι η μεγαλύτερη εφαρμογή της τεχνητής νοημοσύνης θα είναι η μαζική επιτήρηση του πληθυσμού, επομένως η μεταφορά του πρώην επικεφαλής της NSA στο OpenAI έχει κάποια σταθερή λογική πίσω από αυτό».

Ομολογουμένως, το απόρρητο και η ασφάλεια είναι μεταξύ των σημαντικότερων ανησυχιών που εμποδίζουν τις προόδους της τεχνητής νοημοσύνης να κλιμακωθούν μεγαλύτερα ύψη. Εάν τα συναισθήματα του Σνόουντεν γίνουν πραγματικότητα, θα μπορούσε να βλάψει την εμπιστοσύνη των ανθρώπων. Είναι σαφές ότι οι άνθρωποι δεν θέλουν να έχουν πρόσβαση στα προσωπικά τους δεδομένα ή να χρησιμοποιηθούν για την

εκπα

ίδευση μοντέλων τεχνητής νοημοσύνης. Τούτου λεχθέντος, θα είναι ενδιαφέρον να δούμε τη συμβολή του Nakasone στο ταμπλό και πώς σχεδιάζει να χρησιμοποιήσει την εμπειρία του για να προωθήσει ασφαλείς προόδους AI.