Ο Colossus της xAI είναι ο μεγαλύτερος υπερυπολογιστής τεχνητής νοημοσύνης με υδρόψυκτο στον κόσμο, με πάνω από 100.000 GPU NVIDIA HGX H100, exabytes αποθηκευτικού χώρου και δικτύωση που καταγράφει ρεκόρ.
Η εγκατάσταση που εδρεύει στο Μέμφις έγινε λειτουργική σε μόλις 122 ημέρες, τροφοδοτώντας το Grok της xAI με εύρος ζώνης 3,6 Tbps ανά διακομιστή και 400 Gbps BlueField-3 SuperNIC.
Χρησιμοποιώντας υγρή ψύξη επόμενης γενιάς, διακόπτες Ethernet 800 Gb και ένα δίκτυο διπλού συμπλέγματος για CPU και GPU, η Colossus επαναπροσδιορίζει τον υπολογισμό τεχνητής νοημοσύνης σε μια κλίμακα που δεν έχουμε ξαναδεί.
Η εποχή της υπερτροφοδοτούμενης τεχνητής νοημοσύνης ξεκίνησε επίσημα.
Η εγκατάσταση δεδομένων πολλών δισεκατομμυρίων δολαρίων, με έδρα το Memphis, TN μετατράπηκε από ένα άδειο κτίριο, χωρίς καμία από τις απαραίτητες γεννήτριες ενέργειας, μετασχηματιστές ή δομή πολλαπλών αιθουσών σε έναν υπερυπολογιστή παραγωγής AI σε μόλις 122 ημέρες. Για να βοηθήσει τον κόσμο να κατανοήσει το εξαιρετικό επίτευγμα του συμπλέγματος xAI Colossus, το VentureBeat είναι ενθουσιασμένο που μοιράζεται αυτήν την αποκλειστική λεπτομερή περιοδεία βίντεο, που έγινε δυνατή από τη Supermicro και η παραγωγή της ServeTheHome.
Ο Colossus, ο μεγαλύτερος υπερυπολογιστής τεχνητής νοημοσύνης στον κόσμο, χρησιμοποιείται για την εκπαίδευση της οικογένειας μεγάλων γλωσσικών μοντέλων της xAI Grok, με chatbot που προσφέρονται ως δυνατότητα για συνδρομητές X Premium, του Έλον Μασκ. Το xAI βρίσκεται στη διαδικασία διπλασιασμού του μεγέθους του Colossus σε ένα συνδυασμένο σύνολο 200.000 NVIDIA Hopper GPUs.
Ενώ εκπαιδεύει το εξαιρετικά μεγάλο μοντέλο ΑΙ Grok, το Colossus επιτυγχάνει πρωτοφανή απόδοση δικτύου.
Αυτό το επίπεδο απόδοσης δεν μπορεί να επιτευχθεί σε κλίμακα με το τυπικό Ethernet.
«Η τεχνητή νοημοσύνη γίνεται κρίσιμη για την αποστολή και απαιτεί αυξημένη απόδοση, ασφάλεια, επεκτασιμότητα και οικονομική αποδοτικότητα», δήλωσε ο Gilad Shainer, ανώτερος αντιπρόεδρος δικτύωσης της NVIDIA. «Η πλατφόρμα δικτύωσης NVIDIA Spectrum-X Ethernet έχει σχεδιαστεί για να παρέχει σε καινοτόμους, όπως το xAI, ταχύτερη επεξεργασία, ανάλυση και εκτέλεση φόρτου εργασίας τεχνητής νοημοσύνης».
«Το Colossus είναι το πιο ισχυρό σύστημα εκπαίδευσης στον κόσμο», δήλωσε ο Elon Musk στο X . “Ωραία δουλειά από την ομάδα xAI, τη NVIDIA και τους πολλούς συνεργάτες/προμηθευτές μας.”
«Η xAI κατασκεύασε τον μεγαλύτερο, πιο ισχυρό υπερυπολογιστή στον κόσμο», δήλωσε εκπρόσωπος της xAI. «Οι GPU Hopper και το Spectrum-X της NVIDIA μας επιτρέπουν να ξεπεράσουμε τα όρια της εκπαίδευσης μοντέλων τεχνητής νοημοσύνης σε μαζική κλίμακα, δημιουργώντας ένα υπερ-επιταχυνόμενο και βελτιστοποιημένο εργοστάσιο τεχνητής νοημοσύνης με βάση το πρότυπο Ethernet».
Συνολικά, αυτό το τεράστιο εγχείρημα επισκιάζει σε κλίμακα οποιονδήποτε υπερυπολογιστή είχε επιχειρηθεί πριν. Θα παρακολουθούμε καθώς το xAI, μαζί με τα Supermicro και NVIDIA, θα συνεχίσουν να ξεπερνούν τα όρια ακόμη περισσότερο σε μια νέα εποχή υπερυπολογιστών.
photo: ΑΠΕ-ΜΠΕ – EPA-EPA
