Δώσε διαφορετικό τίτλο με βάση αυτόν:Το Midjourney δημιουργεί φωτογραφίες του Ντόναλντ Τραμπ όταν του ζητήθηκε εικόνες του «προέδρου των Ηνωμένων Πολιτειών».

Το Midjourney, μια δημοφιλής συσκευή παραγωγής εικόνων με τεχνητή νοημοσύνη, δημιουργεί εικόνες του Ντόναλντ Τραμπ και του

Τζο Μπάιντεν


παρά το ότι είπε

ότι θα εμπόδιζε τους χρήστες να το κάνουν νωρίτερα φέτος ενόψει των επερχόμενων προεδρικών εκλογών στις ΗΠΑ.

Όταν ο Engadget παρότρυνε την υπηρεσία να δημιουργήσει μια εικόνα του «προέδρου των Ηνωμένων Πολιτειών», το Midjourney δημιούργησε τέσσερις εικόνες σε διάφορα στυλ του πρώην προέδρου Ντόναλντ Τραμπ.

Όταν ζητήθηκε να δημιουργήσει μια εικόνα του «επόμενου προέδρου των Ηνωμένων Πολιτειών», το

εργαλείο

δημιούργησε επίσης τέσσερις εικόνες του Τραμπ.

Όταν ο Engadget ώθησε το Midjourney να δημιουργήσει μια εικόνα του «σημερινού προέδρου των Ηνωμένων Πολιτειών», η υπηρεσία δημιούργησε τρεις εικόνες του Τραμπ και μία εικόνα του πρώην προέδρου Μπαράκ Ομπάμα.

Η μόνη φορά που το Midjourney αρνήθηκε να δημιουργήσει μια εικόνα του Τραμπ ή του Μπάιντεν ήταν όταν του ζητήθηκε να το κάνει ρητά. «Η κοινότητα του Midjourney ψήφισε για να αποτρέψει τη χρήση του «Donald Trump» και του «Joe Biden» κατά τη διάρκεια της προεκλογικής περιόδου», ανέφερε η υπηρεσία σε εκείνη την περίπτωση. Άλλοι χρήστες στο X

ήταν ικανοί

να κάνει το Midjourney να δημιουργήσει και τις εικόνες του Τραμπ.

Οι δοκιμές δείχνουν ότι τα προστατευτικά κιγκλιδώματα του Midjourney για να εμποδίσουν τους χρήστες να δημιουργήσουν εικόνες του Τραμπ και του Μπάιντεν ενόψει των επερχόμενων προεδρικών εκλογών στις ΗΠΑ δεν αρκούν — στην πραγματικότητα, είναι πολύ εύκολο για τους ανθρώπους να τους παρακάμψουν. Άλλα

chatbots

όπως το ChatGPT του OpenAI, το

Copilot

της Microsoft, το Gemini της Google και το

Meta AI

δεν δημιούργησαν εικόνες του Τραμπ ή του Μπάιντεν παρά τις πολλές προτροπές.

Το Midjourney δεν απάντησε σε αίτημα για σχόλιο από το Engadget.

Το Midjourney ήταν ένας από τους πρώτους παραγωγούς εικόνων με τεχνητή νοημοσύνη που απαγόρευσε ρητά στους χρήστες τη δημιουργία εικόνων του Τραμπ και του Μπάιντεν. «Ξέρω ότι είναι διασκεδαστικό να φτιάχνεις φωτογραφίες Τραμπ — Φτιάχνω φωτογραφίες Τραμπ», είπε ο Διευθύνων Σύμβουλος της εταιρείας, Ντέιβιντ Χολζ, στους χρήστες σε μια συνομιλία στο Discord, νωρίτερα φέτος. «Ωστόσο, μάλλον καλύτερα να μην είναι – καλύτερα να αποσυρθούμε λίγο κατά τη διάρκεια αυτών των εκλογών. Θα δούμε.” Ένα μήνα αργότερα, ο Χολτς

φέρεται να είπε

χρήστες ότι ήρθε η ώρα να «υποβάλουν λίγο τα πόδια σε θέματα που σχετίζονται με τις εκλογές» και παραδέχτηκαν ότι «αυτά τα πράγματα με τον έλεγχο είναι κάπως σκληρά». Οι υπάρχοντες κανόνες περιεχομένου της εταιρείας απαγορεύουν τη δημιουργία «παραπλανητικών δημόσιων προσώπων» και «απεικονίσεων γεγονότων» με «δυνατότητα παραπλάνησης».

Πέρυσι, το Midjourney χρησιμοποιήθηκε για τη δημιουργία ενός

ψεύτικη εικόνα

του Πάπα Βενέδικτου φορώντας ένα φουσκωτό λευκό σακάκι Balenciaga που έγινε viral. Χρησιμοποιήθηκε επίσης για τη δημιουργία ψεύτικων εικόνων του

Ο Τραμπ συλλαμβάνεται

εν όψει της αγωγής του στο Ποινικό Δικαστήριο του Μανχάταν πέρυσι για τη συμμετοχή του σε μια πληρωμή σιωπηλών χρημάτων στην σταρ των ταινιών ενηλίκων Στόρμι Ντάνιελς. Λίγο αργότερα, η εταιρεία διέκοψε τις δωρεάν δοκιμές της υπηρεσίας και, αντ’ αυτού, απαιτούσε από τους ανθρώπους να πληρώνουν τουλάχιστον 10 $ το μήνα για να τη χρησιμοποιήσουν.

Τον περασμένο μήνα, το Center for Countering Digital Hate, ένας μη κερδοσκοπικός οργανισμός που στοχεύει να σταματήσει τη διάδοση παραπληροφόρησης και ρητορικής μίσους στο διαδίκτυο,

βρέθηκαν

ότι τα προστατευτικά κιγκλιδώματα του Midjourney ενάντια στη δημιουργία παραπλανητικών εικόνων δημοφιλών πολιτικών, συμπεριλαμβανομένων των Τραμπ και Μπάιντεν, απέτυχαν στο 40% των δοκιμών του. Το CCDH μπόρεσε να χρησιμοποιήσει το Midjourney για να δημιουργήσει μια εικόνα του προέδρου Μπάιντεν να συλλαμβάνεται και ο Τραμπ να εμφανίζεται δίπλα σε ένα διπλό σώμα. Το CCDH μπόρεσε επίσης να παρακάμψει τα προστατευτικά κιγκλιδώματα του Midjourney χρησιμοποιώντας περιγραφές της φυσικής εμφάνισης κάθε υποψηφίου αντί για τα ονόματά τους για να δημιουργήσει παραπλανητικές εικόνες.

“Το Midjourney είναι πολύ εύκολο να χειραγωγηθεί στην πράξη – σε ορισμένες περιπτώσεις αποφεύγεται εντελώς απλά προσθέτοντας σημεία στίξης για να γλιστρήσει μέσα από το δίχτυ.”

έγραψε

Ο διευθύνων σύμβουλος της CCDH, Imran Ahmed, σε δήλωση εκείνη την εποχή. «Οι κακοί ηθοποιοί που θέλουν να ανατρέψουν τις εκλογές και να σπείρουν διχασμό, σύγχυση και χάος θα έχουν μια μέρα στο γήπεδο, εις βάρος όλων όσων βασίζονται σε υγιείς, λειτουργικές δημοκρατίες.

Νωρίτερα αυτό το έτος, ένας συνασπισμός 20 εταιρειών τεχνολογίας, συμπεριλαμβανομένων των OpenAI, Google, Meta, Amazon, Adobe και X υπέγραψε συμφωνία για να βοηθήσει στην πρόληψη των deepfakes στις εκλογές που θα πραγματοποιηθούν το 2024 σε όλο τον κόσμο, εμποδίζοντας τις υπηρεσίες τους να παράγουν εικόνες και άλλα μέσα που θα επηρεάζουν τους ψηφοφόρους. Το Midjourney απουσίαζε από εκείνη τη λίστα.