Πανμνησία
μια startup της KAIST, αποκάλυψε μια πρωτοποριακή IP που επιτρέπει την προσθήκη εξωτερικής μνήμης σε GPU
AI
χρησιμοποιώντας το πρωτόκολλο
CXL
μέσω PCIe, σπάζοντας τα εμπόδια των χωρητικότητας της μνήμης.
Η νεότερη λύση CXL της Panmnesia στοχεύει στην επίλυση των περιορισμών HBM παρέχοντας μια αποτελεσματική υποδομή
Οι τρέχοντες επιταχυντές τεχνητής νοημοσύνης περιορίζονται στην ενσωματωμένη μνήμη, καθώς οι κατασκευαστές μπορούν να συμπιέσουν μόνο περιορισμένη ποσότητα HBM. Με τα αυξανόμενα σύνολα δεδομένων και την ανάγκη για ισχύ, η βιομηχανία εστιάζει στη συγκέντρωση περισσότερων GPU AI και η προσέγγιση δεν είναι βιώσιμη μακροπρόθεσμα, λαμβάνοντας υπόψη τους οικονομικούς και κατασκευαστικούς πόρους που καταλαμβάνει. Υπό το πρίσμα αυτό, η Panmnesia, μια εταιρεία που υποστηρίζεται από το νοτιοκορεατικό ινστιτούτο KAIST, παρουσίασε μια CXL IP που μπορεί να επιτρέψει στις GPU να αξιοποιήσουν τη μνήμη από DRAM ή ακόμα και SSD, επεκτείνοντας από το ενσωματωμένο HBM.
Για να γεφυρώσει τη συνδεσιμότητα, το CXL χρησιμοποιεί συνδέσμους PCIe, εξασφαλίζοντας μαζική υιοθέτηση από τους καταναλωτές. Ωστόσο, υπάρχει ένα πιάσιμο. Οι παραδοσιακοί επιταχυντές τεχνητής νοημοσύνης δεν διαθέτουν τα απαραίτητα υποσυστήματα για να συνδεθούν και να χρησιμοποιήσουν το CXL για άμεση επέκταση της μνήμης, και λύσεις όπως το UVM (Ενοποιημένη Εικονική Μνήμη) είναι αρκετά αργές, κάτι που καταργεί τον σκοπό.
Ωστόσο, ως λύση, η Panmnesia έχει αναπτύξει το δικό της τσιπ Root Complex συμβατό με CXL 3.1, το οποίο έχει πολλαπλές θύρες που συνδέουν τη GPU με την εξωτερική μνήμη μέσω ενός διαύλου PCIe και ο αποκωδικοποιητής HDM (
Host
-Managed Device Memory) λειτουργεί ως γέφυρα. μεταξύ της σύνδεσης, της διαχείρισης της εκχώρησης μνήμης και της μετάφρασης.
Είναι ενδιαφέρον ότι η Panmnesia αποφάσισε να αξιολογήσει τη λύση της (CXL-Opt) με πρωτότυπα που αναπτύχθηκαν από τη Samsung και τη Meta, τα οποία έχουν χαρακτηρίσει ως “CXL-Proto”. Προς έκπληξή μας, το CXL-Opt επιτυγχάνει σημαντικά χαμηλότερο λανθάνοντα χρόνο μετ’ επιστροφής, που είναι ο χρόνος που απαιτείται για τη
μεταφορά δεδομένων
από τη GPU στη μνήμη και πίσω.
Το
CXL-Opt έδειξε διψήφιο λανθάνοντα χρόνο νανοδευτερόλεπτο ενώ το CXL-Proto είχε 250 ns λανθάνουσα κατάσταση. Εκτός από αυτό, ο χρόνος εκτέλεσης του CXL-Opt είναι πολύ μικρότερος από τη λύση UVM, καθώς επιτυγχάνει ταχύτητες απόδοσης IPC 3,22 φορές περισσότερες από το UVM.
Η λύση της Panmnesia μπορεί να κάνει τεράστια βήματα στις αγορές, καθώς λειτουργεί ως ενδιάμεσος μεταξύ της στοίβαξης των τσιπ HBM και της μετάβασης προς μια πιο αποτελεσματική λύση. Δεδομένου ότι η εταιρεία είναι από τις πρώτες με καινοτόμο CXL IP, εάν αυτό κερδίσει έλξη, η Panmnesia θα ωφεληθεί σημαντικά.
Πηγή ειδήσεων:
Πανμνησία
VIA:
wccftech.com
0