Το
OpenAI
διέλυσε την «ομάδα υπερευθυγράμμισης» που είχε επιφορτιστεί να αποτρέψει τους πιθανούς υπαρξιακούς κινδύνους από την τεχνητή νοημοσύνη λιγότερο από ένα χρόνο μετά
πρώτη ανακοίνωση
δημιουργία του. Η είδηση της διάλυσης επιβεβαιώθηκε για πρώτη φορά νωρίτερα σήμερα από
Ενσύρματο
και άλλες εξόδους, μαζί με ένα μακρύ νήμα
αναρτήθηκε σε
Χ
από τον πρώην συν-επικεφαλής της ομάδας υπερευθυγράμμισης της εταιρείας, Jan Leike. Πριν από τη σημερινή εξήγηση,
Ο Leike απλά έγραψε στο Twitter
«Παραιτήθηκα», στις 15 Μαΐου χωρίς να δώσω καμία περαιτέρω διευκρίνιση.
«Έγινα μέλος γιατί πίστευα ότι το OpenAI θα ήταν το καλύτερο μέρος στον κόσμο για να κάνω αυτή την
έρευνα
», είπε ο Leike
έγραψε επάνω
Χ
σήμερα. «Ωστόσο, διαφωνώ με την ηγεσία του OpenAI σχετικά με τις βασικές προτεραιότητες της εταιρείας εδώ και αρκετό καιρό, μέχρι που τελικά φτάσαμε σε ένα οριακό σημείο».
Το OpenAI δημιούργησε το έργο υπερευθυγράμμισης τον Ιούλιο του 2023. Σε ένα
συνοδευτική ανάρτηση ιστολογίου
, η εταιρεία ισχυρίστηκε ότι η υπερέξυπνη τεχνητή νοημοσύνη «θα είναι η πιο εντυπωσιακή τεχνολογία που έχει εφεύρει ποτέ η ανθρωπότητα και θα μπορούσε να μας βοηθήσει να λύσουμε πολλά από τα πιο σημαντικά προβλήματα του κόσμου. Αλλά η τεράστια δύναμη της υπερνοημοσύνης θα μπορούσε επίσης να είναι πολύ επικίνδυνη και θα μπορούσε να οδηγήσει στην αποδυνάμωση της ανθρωπότητας ή ακόμα και στην ανθρώπινη εξαφάνιση».
Χθες ήταν η τελευταία μου μέρα ως επικεφαλής ευθυγράμμισης, επικεφαλής υπερευθυγράμμισης και στέλεχος
@OpenAI
.— Jan Leike (@janleike)
17 Μαΐου 2024
«Η διαχείριση αυτών των κινδύνων θα απαιτήσει, μεταξύ άλλων, νέους θεσμούς για τη διακυβέρνηση και την επίλυση του προβλήματος της ευθυγράμμισης της υπερευφυΐας», συνέχισε η εταιρεία, ανακοινώνοντας παράλληλα τη Leike και τον επικεφαλής επιστήμονα και συνιδρυτή του OpenAI Ilya Sutskever ως συνεπικεφαλής της ομάδας υπερευθυγράμμισης. Το Sutskever έχει επίσης από τότε
αναχώρησε από το OpenAI
φέρεται για παρόμοιες ανησυχίες, ενώ τα υπόλοιπα μέλη της ομάδας φέρεται να έχουν απορροφηθεί από άλλες ερευνητικές ομάδες.
Τα κορυφαία στελέχη και προγραμματιστές της εταιρείας, συμπεριλαμβανομένου του Διευθύνοντος Συμβούλου Sam Altman, έχουν επανειλημμένα προειδοποιήσει για την υποτιθέμενη απειλή της «απατεώνων
AI
» που θα μπορούσε να παρακάμψει τις ανθρώπινες διασφαλίσεις εάν σχεδιαστεί ακατάλληλα. Εν τω μεταξύ, το OpenAI —μαζί με τα προϊόντα όπως η
Google
και το Meta— διαφημίζει τακτικά τις πιο πρόσφατες εξελίξεις προϊόντων τεχνητής νοημοσύνης, μερικά από τα οποία πλέον μπορούν να παράγουν σχεδόν φωτορεαλιστικά μέσα και πειστικά ανθρώπινο ήχο. Νωρίτερα αυτή την εβδομάδα,
Το OpenAI ανακοίνωσε την κυκλοφορία του GPT-4o
, ένα πολυτροπικό σύστημα παρ
αγωγή
ς τεχνητής νοημοσύνης με ρεαλιστικές, αν και περιστασιακά ακόμα παραμορφωμένες, αποκρίσεις σε ανθρώπινες προτροπές. Μια μέρα αργότερα, η Google το αποκάλυψε
δική, παρόμοια πρόοδος
. Παρά τους υποτιθέμενους σοβαρούς κινδύνους, αυτές οι εταιρείες ισχυρίζονται συνήθως ότι είναι ακριβώς οι ειδικοί ικανοί να αντιμετωπίσουν τα ζητήματα ενώ ασκούν πίεση
υπαγορεύουν κανονισμούς του κλάδου
.
[Related:
Sam Altman: Age of AI will require an ‘energy breakthrough’
]
Αν και οι ακριβείς λεπτομέρειες παραμένουν ασαφείς πίσω από την αποχώρηση του Leike και το κλείσιμο της ομάδας υπερευθυγράμμισης – οι πρόσφατες εσωτερικές διαμάχες εξουσίας υποδηλώνουν έντονες διαφορές στις απόψεις σχετικά με τον τρόπο προώθησης της βιομηχανίας με έναν ασφαλή και δίκαιο τρόπο. Ορισμένοι επικριτές υποστηρίζουν ότι ο κλάδος της τεχνητής νοημοσύνης πλησιάζει γρήγορα ένα
εποχή φθίνουσας απόδοσης
παρακινώντας τους ηγέτες της τεχνολογίας να
μετριάστε τις προσδοκίες προϊόντος
και να αλλάξουν τα γκολπόστ. Άλλοι, όπως ο Leike, φαίνονται πεπεισμένοι ότι η τεχνητή νοημοσύνη μπορεί σύντομα να αποτελέσει τρομερή απειλή για την ανθρωπότητα και ότι εταιρείες όπως η OpenAI δεν το λαμβάνουν αρκετά σοβαρά.
Όμως, όπως επισημαίνουν πολλοί επικριτές, η γενεσιουργός τεχνητή νοημοσύνη απέχει πολύ από το να έχει αυτογνωσία, πολύ λιγότερο ικανή να «απατεώνες». Ανεξάρτητα από τα ευαίσθητα chatbot, ωστόσο, η υπάρχουσα τεχνολογία επηρεάζει ήδη θέματα όπως η παραπληροφόρηση, η ιδιοκτησία περιεχομένου και τα ανθρώπινα εργασιακά δικαιώματα. Και καθώς οι εταιρείες συνεχίζουν να ωθούν τα εκκολαπτόμενα συστήματα τεχνητής νοημοσύνης σε αναζητήσεις ιστού, μέσα κοινωνικής δικτύωσης και δημοσιεύσεις ειδήσεων, η κοινωνία μένει να αντιμετωπίσει τις συνέπειες.
VIA:
popsci.com
0