Τα τρέχοντα κέντρα δεδομένων AI αντιμετωπίζουν δύο σημεία συμφόρησης πυρήνα στην κλιμάκωση και η παραδοσιακή κλίμακα - up και η κλίμακα - out μοντέλα αγωνίζονται να συναντήσουν το giga - που απαιτεί η κλίμακα AI:
Κλίμακα - up περιορισμοί: Επιτυγχάνεται με την αναβάθμιση των μεμονωμένων συστημάτων ή των ράφια (π.χ., αυξάνοντας τον αριθμό της GPU ή την ενίσχυση του μονού - απόδοσης της συσκευής), αλλά περιορίζεται από οροφές ισχύος από υποδομές όπως η ψύξη νερού. Τα υπάρχοντα κέντρα δεδομένων έχουν φυσικά κατώτατα όρια για εισροή ισχύος και απορρόφηση θερμότητας, εμποδίζοντας τις άπειρες αυξήσεις στην πυκνότητα υπολογισμού ανά rack ή κέντρο δεδομένων.
Κλίμακα - out περιορισμοί: Επεκτάθηκε προσθέτοντας ράφια και διακομιστές σε συστάδες κλίμακας, αλλά περιορίζεται από τον φυσικό χώρο σε ένα μόνο χώρο, επιβάλλοντας σκληρά καλύμματα στην χωρητικότητα του εξοπλισμού.
Για να ξεπεραστεί αυτό το δίλημμα, η NVIDIA προτείνει τη νέα διάσταση της "κλίμακας -}," βελτιστοποιώντας την επικοινωνία δικτύου μεταξύ γεωγραφικά διασκορπισμένων κέντρων δεδομένων για να δημιουργηθούν οι κατανεμημένες συστάδες AI να συνεργαστούν ως ένα. Ο ιδρυτής και διευθύνων σύμβουλος της NVIDIA Jensen Huang περιγράφει αυτό το σταυρό - περιφερειακό AI Super Factory ως βασική υποδομή για τη Βιομηχανική Επανάσταση του AI, με το Spectrum - XGS ως βασικό τεχνολογία.
Core Technologies of Spectrum - xgs
Το Spectrum - XGS δεν είναι μια εντελώς νέα πλατφόρμα υλικού, αλλά μια εξέλιξη του υπάρχοντος φάσματος της NVIDIA - x Ethernet Ecosystem. Από την εκτόξευσή του 2024, το Spectrum - X έχει παραδώσει 1,6x υψηλότερη απόδοση γενετικής δικτύου AI από την παραδοσιακή Ethernet μέσω των κέντρων SN5600 του Spectrum -. Η επανάσταση στο Spectrum-XGS έγκειται σε τρεις αλγοριθμικές καινοτομίες και συνέργειες υλικού που αντιμετωπίζουν τις προκλήσεις της λανθάνουσας επικοινωνίας, της συμφόρησης και του συγχρονισμού σε συσσωματώματα GPU.
1. Αλγόριθμοι Core: Δυναμική προσαρμογή στο Long - χαρακτηριστικά δικτύου απόστασης
Το Spectrum - ο πυρήνας του XGS είναι ένα σύνολο "απόστασης - ενήμερος αλγόριθμοι βελτιστοποίησης δικτύου" που αναλύουν τις βασικές παράμετροι των Cross - data {{3} κεντρική επικοινωνία σε πραγματικές - ώρα (απόσταση, κυκλοφορία,
Απόσταση - προσαρμοστικό έλεγχο συμφόρησης:Σε αντίθεση με την ομοιόμορφη επεξεργασία του Ethernet για όλες τις συνδέσεις, το Spectrum - XGS αλγόριθμους ρυθμίζουν αυτόματα τα κατώτατα όρια συμφόρησης που βασίζονται σε πραγματικές αποστάσεις μεταξύ κέντρων δεδομένων (που υποστηρίζουν επί του παρόντος αναπτύξεις έως εκατοντάδες χιλιόμετρα)
Ακριβής διαχείριση λανθάνουσας κατάστασης:Μέσω ανά - πακέτο λεπτό - προσαρμόζοντας τη δρομολόγηση προσαρμογής, εξαλείφει το jitter λανθάνουσας κατάστασης από τις αναμεταδόσεις πακέτων σε παραδοσιακά δίκτυα. Το Jitter είναι ένας κρίσιμος κίνδυνος σε συστάδες AI: Εάν μια μόνο GPU καθυστερήσει λόγω καθυστέρησης, όλες οι συνεργασίες GPU πρέπει να περιμένουν, επηρεάζοντας άμεσα τη συνολική απόδοση.
End - σε - end τηλεμετρία: Real - Χρόνος συλλογής πλήρους - Τα δεδομένα απόδοσης συνδέσμου από GPUs σε διακόπτες και διασταυρώσεις- data - Οι κεντρικές συνδέσεις παρέχουν millisecond - ανατροφοδότηση επιπέδων για αλγοριθμικές προσαρμογές, εξασφαλίζοντας τη δυναμική αντιστοίχιση του δικτύου σε απαιτήσεις εργασίας AI.
2. Συνεργάτες υλικού: Φάσμα μόχλευσης - x Υψηλή - Bandwidth Foundation
Το Spectrum - XGS επιτυγχάνει βέλτιστη απόδοση όταν συνδυάζεται με συγκεκριμένο υλικό NVIDIA:
Spectrum - x διακόπτες: Ως υποκείμενη ραχοκοκαλιά δικτύου, παρέχοντας υψηλή πυκνότητα θύρας και χαμηλή - προώθηση λανθάνουσας κατάστασης.
Supernic Connectx-8: 800 GB/s AI - αφιερωμένος προσαρμογέας δικτύου για υψηλή μεταφορά δεδομένων - ταχύτητας μεταξύ GPU και διακόπτη.
Υλικό αρχιτεκτονικής Blackwell: Όπως τα b200 GPU και το GB10 superChips, βαθιά ενσωματωμένα με το Spectrum - xgs για να μειώσουν το τέλος - σε - end latency. Το NVIDIA επικυρώθηκε μέσω των NCCL (Collective Communications Library) Benchmarks: Spectrum - xgs ενισχύει την απόδοση επικοινωνίας μεταξύ Cross - Data - κεντρικό GPU κατά 1,9x ενώ ελέγχει το τέλος - σε -}}} απόκριση και καθυστέρηση - δωρεάν για τις αλληλεπιδράσεις των χρηστών, συνάντηση με πραγματικό - απαιτήσεις χρόνου για συμπεράσματα AI.
Πλήρης - Βελτιστοποίηση στοίβας για την απόδοση κατάρτισης και συμπερασμάτων AI με το Spectrum - xgs
Το Spectrum - XGS δεν είναι μια απομονωμένη τεχνολογία, αλλά μια βασική προσθήκη στο πλήρες {- στοίβατο οικοσύστημα. Σε αυτή την έκδοση, η NVIDIA αποκάλυψε επίσης το λογισμικό - βελτιώσεις απόδοσης επιπέδου που συνεργάζονται με το Spectrum - XGS για το υλικό - αλγόριθμος - συνεργασία λογισμικού:
Αναβάθμιση λογισμικού Dynamo: Βελτιστοποιημένη για την αρχιτεκτονική Blackwell (π.χ. συστήματα B200) για την ενίσχυση της απόδοσης του μοντέλου AI έως και 4 φορές, μειώνοντας σημαντικά την κατανάλωση υπολογισμού για μεγάλο μοντέλο.
Κερδοσκοπική τεχνολογία αποκωδικοποίησης: Χρησιμοποιεί ένα μικρό σχέδιο μοντέλου για να προβλέψει εκ των προτέρων το επόμενο σημάδι εξόδου του κύριου μοντέλου AI, μειώνοντας τον υπολογισμό του κύριου μοντέλου και ενισχύοντας την απόδοση των συμπερασμάτων κατά 35%. Αυτό είναι ιδιαίτερα κατάλληλο για σενάρια συνομιλίας σε σενάρια σε μεγάλα γλωσσικά μοντέλα (LLMS).
Ο διευθυντής του τμήματος υπολογιστών της Nvidia, Dave Salvator, δήλωσε ότι ο βασικός στόχος αυτών των βελτιστοποιήσεων είναι να κλιμακωθεί οι φιλόδοξες εφαρμογές AI. Είτε η κατάρτιση τρισεκατομμύρια - παραμέτρους μεγάλων μοντέλων είτε υποστηρίζοντας υπηρεσίες συμπερασμάτων AI για εκατομμύρια ταυτόχρονα χρήστες, ο συνδυασμός του Spectrum - XGS και το οικοσύστημα λογισμικού προσφέρει προβλέψιμη απόδοση.
Πρώιμες εφαρμογές και ο κλάδος του φάσματος - xgs
Πρώτοι χρήστες: CoreWeave Pioneers Cross - Domain AI Super FactoryΟ πάροχος υπηρεσιών σύννεφων GPU CoreWeave είναι ένας από τους πρώτους υιοθετητές του Spectrum - xgs. Ο ιδρυτής της εταιρείας CO -} και ο CTO Peter Salanki σημείωσαν ότι αυτή η τεχνολογία θα επιτρέψει στους πελάτες της να έχουν πρόσβαση στο Giga - κλίμακες AI ικανότητες, επιταχύνοντας τις ανακαλύψεις σε όλες τις βιομηχανίες. Για παράδειγμα, υποστηρίζοντας το Ultra - μεγάλο - Scale AI έργα όπως η πρωτοβουλία Stargate από την Oracle, το SoftBank και το OpenAI.
Τάσεις της βιομηχανίας: Ethernet Αντικατάσταση του Infiniband ως Mainstream Network AIΠαρόλο που η Infiniband κατείχε περίπου το 80% της αγοράς δικτύου AI Backend το 2023, η βιομηχανία μετατοπίζεται γρήγορα στο Ethernet. Η επιλογή της NVIDIA για την ανάπτυξη του Spectrum - XGS στο Ethernet ευθυγραμμίζεται με αυτή την τάση:
Συμβατότητα και πλεονεκτήματα κόστους:Το Ethernet είναι το καθολικό πρότυπο για τα παγκόσμια κέντρα δεδομένων, πιο γνωστό στους μηχανικούς δικτύου και φθηνότερα για την ανάπτυξη από το Infiniband.
Προβολές κλίμακας αγοράς:Τα δεδομένα της ομάδας Dell'ORo δείχνουν ότι η αγορά διακόπτη Data Center Ethernet θα φτάσει σχεδόν τα 80 δισεκατομμύρια δολάρια τα επόμενα πέντε χρόνια.
Η ανάπτυξη της Nvidia: 650 Οι αναφορές των ομάδων υποδεικνύουν το NVIDIA ως το "ταχύτερο - αυξανόμενο προμηθευτή" στην αγορά διακόπτη Data Center 2024, με τα έσοδα της δικτύωσης να φτάνουν τα 5 δισεκατομμύρια δολάρια σε Q2 2024 (που τελειώνει στις 27 Απριλίου)
Η εκτόξευση του Spectrum - XGS επεκτείνει την πλήρη στρατηγική της NVIDIA - στοίβας στην υποδομή AI, ενώ προκαλεί νέα ανταγωνιστική δυναμική:
Το πλήρες - στοίβες της NVIDIA: Από GPU (Blackwell), διασυνδέσεις (διακόπτης NVLink/NVLink), δίκτυα (Spectrum - x/spectrum - xgs, quantum {}}} x infiniband) στο λογισμικό (cuda, tensorrt- llm, nim, nim, Καλύπτοντας "COMPUTE - Connect - λογισμικό" για υποδομή AI. Το Spectrum - XGS συνεργάζεται με NVLink για τρία - επίπεδο κλίμακας: intra - rack (nvlink), intra - data - κέντρο (spectrum -}}} (Spectrum - xgs).
Απαντήσεις ανταγωνιστών: Η προηγούμενη τεχνολογία Sue της BroadCom μοιράζεται παρόμοιους στόχους με το Spectrum - XGS, με στόχο τη βελτιστοποίηση της απόδοσης του Ethernet για να κλείσει το χάσμα με το Infiniband. Επιπλέον, οι προμηθευτές όπως η Arista, η Cisco και η Marvell επιταχύνουν το AI - αποκλειστικά διακόπτες Ethernet, με τον ανταγωνισμό να επικεντρώνεται στην απόδοση - κόστος - συμβατότητας οικοσυστήματος.
Η βασική τιμή του Spectrum - XGS έγκειται στην ώθηση της κλιμάκωσης του κέντρου δεδομένων AI από το "Single - περιορισμούς τοποθεσίας" για να "Cross - περιφερειακή συνεργασία". Καθώς η ισχύς και η γη γίνονται σκληρά όρια για τα κέντρα μεμονωμένων δεδομένων, το Cross - City and Cross - Super Forgories της χώρας θα γίνει η βασική μορφή που υποστηρίζει την επόμενη - Applications Generation AI (π.χ. γενική τεχνητή νοημοσύνη, μεγάλη- Agent Clusters).
Όπως ο ανώτερος αντιπρόεδρος της NVIDIA, ο ανώτερος αντιπρόεδρος Gilad Shainer προεπισκόπησε στο συνέδριο Hot Chips: "Cross - Δεδομένα - Κεντρικά Οπτικά Φυσικά Δίκτυα υπήρξαν πολύ καιρό, αλλά οι αλγόριθμοι λογισμικού όπως το Spectrum - XGS είναι το κλειδί για την πραγματοποίηση της πραγματικής απόδοσης αυτών των φυσικών infrasuctures.
