Αυτή είναι η περιοδική υπενθύμισή σας ότι τα chatbot που λειτουργούν με AI εξακολουθούν να συνθέτουν πράγματα και να λένε ψέματα με όλη τη σιγουριά ενός συστήματος GPS που σας λέει ότι ο συντομότερος δρόμος για το σπίτι είναι να οδηγείτε μέσα στη λίμνη.
Η υπενθύμισή μου έρχεται από την ευγένεια
Nieman Lab
οι οποίες
για να δει αν το ChatGPT θα παρείχε σ
ω
στούς συνδέσμους σε άρθρα από ειδησεο
γραφικά
έντυπα στα οποία πληρώνει εκατομμύρια δολάρια. Αποδεικνύεται ότι το ChatGPT δεν το κάνει. Αντίθετα, δημιουργεί με σιγουριά ολόκληρες διευθύνσεις URL, ένα φαινόμενο που ο κλάδος της τεχνητής νοημοσύνης αποκαλεί «παραισθησιογόνα», έναν όρο που φαίνεται πιο κατάλληλος για έναν πραγματικό άνθρωπο που έχει τις δικές του μαλακίες.
Nieman Lab
Ο Andrew Deck ζήτησε από την υπηρεσία να παρέχει συνδέσμους σε αποκλειστικές ιστορίες υψηλού προφίλ που δημοσιεύτηκαν από 10 εκδότες με τους οποίους το
OpenAI
έχει συνάψει συμφωνίες αξίας εκατομμυρίων δολαρίων. Αυτά περιελάμβαναν το
Associated Press
,
Η
Wall Street
Journal
ο
Financial Times
,
Οι καιροί
(ΗΝΩΜΕΝΟ ΒΑΣΙΛΕΙΟ),
Le Monde
,
El País
,
Ο Ατλαντικός
,
Το χείλος
,
Φωνή
και
Politico
. Ως απόκριση, το ChatGPT έριξε πίσω κατασκευασμένες διευθύνσεις URL που οδήγησαν σε 404 σελίδες σφάλματος επειδή απλώς δεν υπήρχαν. Με άλλα λόγια, το σύστημα λειτουργούσε ακριβώς όπως σχεδιάστηκε: με την πρόβλεψη της πιο πιθανής έκδοσης της διεύθυνσης URL μιας ιστορίας αντί να αναφέρει πραγματικά τη σωστή.
Nieman Lab
έκανε ένα παρόμοιο πείραμα με μία μόνο δημοσίευση —
Business Insider
— αρχές αυτού του μήνα και
.
είπε ένας εκπρόσωπος του OpenAI
Nieman Lab
ότι η εταιρεία εξακολουθούσε να χτίζει «μια εμπειρία που συνδυάζει τις δυνατότητες συνομιλίας με το πιο πρόσφατο περιεχόμενο ειδήσεων, διασφαλίζοντας σωστή απόδοση και σύνδεση με το υλικό πηγής — μια βελτιωμένη εμπειρία που βρίσκεται ακόμα υπό ανάπτυξη και δεν είναι ακόμη διαθέσιμη στο ChatGPT». Αλλά αρνήθηκαν να εξηγήσουν τις πλαστές διευθύνσεις URL.
Δεν γνωρίζουμε πότε θα είναι διαθέσιμη αυτή η νέα εμπειρία ή πόσο αξιόπιστη θα είναι. Παρόλα αυτά, οι εκδότες ειδήσεων συνεχίζουν να τροφοδοτούν χρόνια δημοσιογραφίας σε αντάλλαγμα για κρύα, σκληρά μετρητά, επειδή η βιομηχανία της δημοσιογραφίας έχει
στο να βρεις πώς να βγάλεις χρήματα χωρίς τις εταιρείες τεχνολογίας. Εν τω μεταξύ, οι εταιρείες τεχνητής νοημοσύνης είναι
σε περιεχόμενο που δημοσιεύεται από οποιονδήποτε δεν έχει υπογράψει αυτές τις φαουστιανές συμφωνίες και το χρησιμοποιεί για να
εκπα
ιδεύσει τα μοντέλα του ούτως ή άλλως. Μουσταφά Σουλεϊμάν, επικεφαλής τεχνητής νοημοσύνης της Microsoft,
οτιδήποτε δημοσιεύεται στο διαδίκτυο “δωρεάν λογισμικό” που είναι δίκαιο παιχνίδι για την εκπαίδευση μοντέλων AI. Η Microsoft αποτιμήθηκε στα 3,36 τρισεκατομμύρια δολάρια τη στιγμή που έγραψα αυτό.
Υπάρχει ένα μάθημα εδώ: Αν το ChatGPT δημιουργεί διευθύνσεις URL, συνθέτει και γεγονότα. Έτσι λειτουργεί η γενετική τεχνητή νοημοσύνη — στον πυρήνα της, η τεχνολογία είναι μια πιο εντυπωσιακή έκδοση της αυτόματης συμπλήρωσης, μαντεύοντας απλώς την επόμενη εύλογη λέξη σε μια σειρά. Δεν «καταλαβαίνει» αυτό που λέτε, παρόλο που ενεργεί όπως κάνει. Πρόσφατα, προσπάθησα να αποκτήσω τα κορυφαία chatbot μας για να με βοηθήσουν να λύσω το πρόβλημα
Νιου Γιορκ Ταιμς
Spelling Bee και τους παρακολουθούσε.
Εάν η γενετική τεχνητή νοημοσύνη δεν μπορεί καν να λύσει το Spelling Bee, δεν θα πρέπει να το χρησιμοποιήσετε για να λάβετε τα δεδομένα σας.
VIA:
engadget.com
0