AMD Instinct MI300X
Der AMD Instinct MI300X ist AMDs führender Beschleuniger für generative KI und Hochleistungsrechnen auf Basis der CDNA 3 Architektur. Mit fortschrittlichem 3D Chiplet-Packaging (kombinierte 5nm und 6nm Rechen- und I/O-Dies) integriert er 192GB HBM3 Arbeitsspeicher mit 5.3 TB/s Spitzenbandbreite und 896 GB/s bidirektionalem Infinity Fabric Verbindungsdurchsatz. Die native Unterstützung für FP8, FP16, BF16 und TF32 ermöglicht es, große Sprachmodelle (LLMs) mit 70 Milliarden Parametern vollständig auf einem einzelnen Beschleuniger ohne tensorparallele Aufteilung auszuführen. Gebrauchtkäufer sollten die OAM-Mezzanine-Steckerfelder prüfen und die Kompatibilität der ROCm Firmware bestätigen.
Auch bezeichnet als: AMD Instinct MI300X OAM, MI300X 192GB, Instinct MI300X Accelerator
Supportstatus
AMD Instinct MI300X: im Vertrieb und unterstützt. Kein Supportende-Termin bekannt.
- Supportstatus: Unterstützt
Stand 2026-11-12, ermittelt aus den oben genannten Herstellerdaten. Alle End-of-Life-Termine von AMD
Technische Daten
| Marke | AMD |
|---|---|
| Produktfamilie | Instinct |
| Bauform | OAM (OCP Accelerator Module) |
| Veröffentlicht | Dez. 2023 |
| GPU-Speicher (GB) | 192 |
| TDP (W) | 750 |
| Leistungsaufnahme | idle 75 W, typical 600 W, max 750 W (rack-density.com) |
Generationen
- Vorgängergeneration: AMD Instinct MI250X
Referenzpreise (letzte 12 Monate, aktualisiert 2026-10-27)
2 Preisbeobachtungen von 2 Anbietern (neu, gebraucht), zuletzt Okt. 2026.
Zusammenspiel
So verbindet sich der AMD Instinct MI300X mit Servern, Storage und Netzwerk: 1 Weg mit den Teilen und Produkten im Verbindungsweg.
GPU-Cluster-Fabric
InfiniBand-Adapter und Switches müssen zur Generation passen: HDR ist 200Gb, NDR ist 400Gb. VPI-Adapter wie ConnectX-6 und ConnectX-7 können entweder InfiniBand oder Ethernet verwenden.
Servermodelle
Dell PowerEdge XE9680 6U Rack-Gehäuse
Lenovo ThinkSystem SR685a V3 8U Rack-Gehäuse
Adapter für den Server
540-BCVE Dell NVIDIA Mellanox ConnectX-6 VPI Single-Port 200Gb/s HDR InfiniBand / 200GbE PCIe-Adapter
540-BDDW Dell NVIDIA Mellanox ConnectX-6 VPI Dual-Port 200Gb/s HDR InfiniBand / 200GbE PCIe-Adapter
540-BDRV Adapter Dell NVIDIA Mellanox ConnectX-7 Dual Port 400Gb/s NDR InfiniBand / 400GbE PCIe Gen5
MCX556A-ECAT NVIDIA ConnectX-5 VPI Dual-Port-Adapter für 100Gb/s EDR InfiniBand und 100GbE QSFP28 PCIe 3.0 x16
Switch-Geräte
Arista 7060X6-32D 1U Switch mit fester Konfiguration
Dell PowerSwitch Z9664F-ON 2U-Switch
Cisco Nexus 9332D-GX2B 1U Switch mit fester Konfiguration
Cisco Nexus 9364D-GX2A 2U Switch mit fester Konfiguration
Planung und Dimensionierung
Leistungsaufnahme des AMD Instinct MI300X: etwa 600 W im typischen Betrieb und 750 W unter Volllast. Messwerte auf rack-density.com.
- Diese Konfiguration im Topologieplaner zeichnen mrplanb.com
- Rechner für Tokens pro kWh für GPU-Racks rack-density.com
- Rack-Leistung und Platzbedarf addieren rack-density.com
- Stromversorgung, Kühlung und Racks für dicht bestückte GPU-Server mrplanb.com
Kompatibilität bei AMD prüfen
Prüfen Sie vor dem Kauf die genaue Konfiguration anhand der Herstellerlisten: Firmwarestände, Betriebssysteme, Adapter und Transceiver, die AMD mit dem AMD Instinct MI300X getestet hat.
- Technische Daten AMD EPYC Prozessorspezifikationen
- Supportangebot AMD Supportangebot
Vergleichbare Modelle anderer Marken
Gebrauchte MI300X kaufen: Prüfpunkte
Prüfen Sie die Kontaktflächen der hochdichten OAM-Ball-Grid-Sockel auf Schäden, den Infinity Fabric Verbindungsdurchsatz mit 8 Modulen mittels ROCm Validierungssuiten sowie die Ebenheit der Kühlplatten der Flüssigkeitskühlung. Stellen Sie eine stabile Versorgung über die 750W Stromschiene sicher.
FAQ
Wie viel Arbeitsspeicher bietet der AMD Instinct MI300X?
Er verfügt über 192GB HBM3 Arbeitsspeicher mit einer Spitzenbandbreite von 5.3 TB/s, mehr als doppelt so viel wie beim H100.
Welche Bauform verwendet der MI300X?
Er verwendet die offene Standardbauform OCP Accelerator Module (OAM) für universelle Basisplatinen mit 8 Modulen.
Welcher Software-Stack läuft auf dem MI300X?
Er nutzt das quelloffene AMD ROCm Software-Ökosystem mit nativer Unterstützung für PyTorch, vLLM und Hugging Face.
MI300X kaufen oder verkaufen?
Neu, generalüberholt oder gebraucht. Nennen Sie Menge und Zustand. Wir vermitteln einen geprüften Händler in Ihrer Region, in der Regel innerhalb eines Werktags.
Quellen
- AMD Instinct MI300X Accelerator Specifications, geprüft 2026-10-27