Τι πρέπει να ξέρετε
- Ένας ερευνητής AI ισχυρίζεται ότι υπάρχει 99,9% πιθανότητα η τεχνητή νοημοσύνη να βάλει τέλος στην ανθρωπότητα σύμφωνα με το p(doom).
- Ο ερευνητής λέει ότι μια αέναη μηχανή ασφαλείας θα μπορούσε να βοηθήσει στην αποτροπή της τεχνητής νοημοσύνης από το να ξεφύγει από τον έλεγχο και να βάλει τέλος στην ανθρωπότητα.
- Ένας χρήστης του OpenAI λέει ότι η εταιρεία είναι ενθουσιασμένη για το AGI και αγωνίζεται απερίσκεπτα για να πετύχει το κατόρθωμα δίνοντας προτεραιότητα στα λαμπερά προϊόντα έναντι των διαδικασιών ασφάλειας.
Είμαστε στα πρόθυρα της πιο σημαντικής τεχνολογικής ανακάλυψης με την τεχνητή νοημοσύνη, αν και πολλά εμπόδια μπορεί να μας επιτρέψουν να κλιμακώσουμε τέτοια ύψη. Για παράδειγμα, το OpenAI ανταλλακτικά με 700.000 $ κάθε μέρα για να συνεχίσει να λειτουργεί το
ChatGPT
. Αυτό είναι πέρα από την γελοία ποσότητα ηλεκτρικής ενέργειας που απαιτείται για την τροφοδοσία των προκαταβολών τεχνητής νοημοσύνης και του νερού για ψύξη.
Το
απόρρητο και η ασφάλεια γύρω από την τεχνολογία έχουν αφήσει στη συντριπτική πλειοψηφία των χρηστών ανησυχίες. Χορηγούμενα, αμφιλεγόμενα χαρακτηριστικά που υποστηρίζονται από AI, όπως η ανάκληση των Windows της Microsoft που ανακαλείται, που αναφέρεται ως “εφιάλτης προστασίας της ιδιωτικής ζωής” και “παράδεισος των χάκερ” από τους ενδιαφερόμενους χρήστες. Αν και είναι αδύνατο να πούμε σε ποια κατεύθυνση κατευθύνεται η τεχνολογία αιχμής, ο Διευθύνων Σύμβουλος της NVIDIA, Jensen Huang, λέει ότι το επόμενο κύμα τεχνητής νοημοσύνης θα περιλαμβάνει αυτοοδηγούμενα αυτοκίνητα και ανθρωποειδή
ρομπότ
.
Ωστόσο, τα προστατευτικά κιγκλιδώματα και τα ρυθμιστικά μέτρα για την αποτροπή της απόρριψης της τεχνολογίας παραμένουν στην καλύτερη περίπτωση λεπτά. Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, παραδέχεται ότι «δεν υπάρχει μεγάλο κόκκινο κουμπί» για να σταματήσει την εξέλιξη της τεχνητής νοημοσύνης. Δυστυχώς, η τεχνητή νοημοσύνη που γίνεται πιο έξυπνη από τους ανθρώπους, η ανάληψη των εργασιών μας και τελικά ο τερματισμός της ανθρωπότητας είναι μερικές από τις ανησυχίες και τις προβλέψεις που έχουν γίνει.
Ένας ερευνητής τεχνητής νοημοσύνης λέει ότι υπάρχει 99,9% πιθανότητα η τεχνητή νοημοσύνη να βάλει τέλος στην ανθρωπότητα, αν και ο Elon Musk φαινομενικά αισιόδοξος τη μειώνει σε 20% πιθανότητες και λέει ότι θα πρέπει να εξερευνηθεί ούτως ή άλλως.
Γιατί είναι τόσο μεγάλη η πιθανότητα η τεχνητή νοημοσύνη να βάλει τέλος στην ανθρωπότητα;
Ένα ρομπότ που μοιάζει με Εξολοθρευτή που κοιτάζει πάνω από AI
(Πίστωση εικόνας: Windows Central | Δημιουργός εικόνας από σχεδιαστή)
Παρακολουθώ τις τάσεις της τεχνητής νοημοσύνης για ένα καυτό λεπτό. Και ενώ η τεχνολογία έχει φτάσει σε μεγάλα ύψη και καινοτομίες σε σημαντικούς τομείς, ένα πράγμα είναι προφανές – το κακό αντισταθμίζει το καλό.
Ο ερευνητής AI Roman Yampolskiy εμφανίστηκε στο
Το podcast του Fridman
να συζητήσουν τον πιθανό κίνδυνο που ενέχει η τεχνητή νοημοσύνη για την ανθρωπότητα σε μια ευρεία συνέντευξη. Ο Yampolskiy λέει ότι υπάρχει πολύ μεγάλη πιθανότητα η τεχνητή νοημοσύνη να βάλει τέλος στην ανθρωπότητα εκτός εάν οι άνθρωποι αναπτύξουν εξελιγμένο λογισμικό με μηδενικά σφάλματα τον επόμενο αιώνα. Ωστόσο, είναι δύσπιστος καθώς όλα τα μοντέλα έχουν υποστεί εκμετάλλευση και εξαπάτηση για να σπάσουν τον χαρακτήρα και να κάνουν πράγματα που δεν έπρεπε να κάνουν:
“Έχουν ήδη κάνει λάθη. Είχαμε ατυχήματα, τους έχουν κάνει jailbrock. Δεν νομίζω ότι υπάρχει ούτε ένα μεγάλο μοντέλο γλώσσας σήμερα, το οποίο κανείς δεν κατάφερε να κάνει κάτι που οι προγραμματιστές δεν σκόπευαν να κάνουν.”
Ο ερευνητής της τεχνητής νοημοσύνης συνιστά την ανάπτυξη μιας μηχανής διαρκούς ασφάλειας που θα εμποδίσει την τεχνητή νοημοσύνη να βάλει τέλος στην ανθρωπότητα και να αποκτήσει τον έλεγχό της. Ο Yampolskiy λέει ότι ακόμα κι αν τα μοντέλα τεχνητής νοημοσύνης επόμενης γενιάς περάσουν όλους τους ελέγχους ασφαλείας, η τεχνολογία συνεχίζει να εξελίσσεται — γι’ αυτό γίνεται πιο έξυπνη και καλύτερη στο χειρισμό περίπλοκων εργασιών και καταστάσεων.
Ο χρήστης του OpenAI λέει ότι η τεχνητή νοημοσύνη θα οδηγήσει σε αναπόφευκτη κατασ
τροφή
Μια εικόνα του πλανήτη με το λογότυπο του OpenAI τυλιγμένο γύρω από αιχμηρά νύχια.
(Εικόνα: Microsoft Designer)
Σε ξεχωριστή έκθεση, ο πρώην ερευνητής διακυβέρνησης του OpenAI, Daniel Kokotajlo, επαναλαμβάνει τα συναισθήματα του Yampolskiy. Ο Kokotajio ισχυρίζεται ότι υπάρχει 70% πιθανότητα η τεχνητή νοημοσύνη να βάλει τέλος στην ανθρωπότητα (μέσω
Φουτουρισμός
). Σύμφωνα με τη λίστα που ενσωματώθηκε παραπάνω, είναι σαφές ότι κάθε σημαντικός παίκτης και ενδιαφερόμενος στο τοπίο της τεχνητής νοημοσύνης έχει διαφορετικές τιμές p(doom). Για το πλαίσιο, το p(doom) είναι μια εξίσωση που χρησιμοποιείται για τον προσδιορισμό της πιθανότητας η τεχνητή νοημοσύνη να οδηγήσει στο τέλος της ανθρωπότητας.
“Το OpenAI είναι πραγματικά ενθουσιασμένο για την κατασκευή του AGI και αγωνίζονται απερίσκεπτα για να είναι το πρώτο εκεί”, δήλωσε ο Kokotajio. Καθώς πολλά στελέχη του OpenAI αποχώρησαν από την εταιρεία, ο επικεφαλής της σούπερ ευθυγράμμισης Jan Leike δήλωσε ότι ο κατασκευαστής ChatGPT δίνει προτεραιότητα στα λαμπερά προϊόντα σε σχέση με τα μέτρα ασφαλείας και την κουλτούρα.
«Ο κόσμος δεν είναι έτοιμος και εμείς δεν είμαστε έτοιμοι», έγραψε ο Κοκοτάτζιο σε ένα email που είδαν οι NYT. «Και ανησυχώ ότι βιαζόμαστε προς τα εμπρός ανεξάρτητα και εξορθολογίζουμε τις ενέργειές μας».
VIA:
WindowsCentral
0