Intel hat die neueste Generation seines KI-Chips Gaudi vorgestellt. Gaudi 3 ist unter anderem für das Training und die Analyse von künstlicher Intelligenz optimiert. Laut Intel-CEO Pat Gelsinger ist Gaudi 3 beim Training von KI-Modellen wie dem Sprachmodell TensorRT fast doppelt so schnell wie Nvidias H100-Chip.
Bei anderen KI-Aufgaben wie Vorhersagen zu Antworten auf reale Fragen auf Basis eines trainierten neuronalen Netzes soll Gaudi 3 den KI-Chip von Nvidia um 50 Prozent übertreffen. Schon beim Benchmark MLPerf war der Vorgänger Gaudi 2 der einzige Rechenzentrums-Chip, der mit dem H100 konkurrieren konnte.
Der Gaudi 3 besteht aus 64 separaten Tensor-Kernen auf einem Die, um Matrix-Multiplikationen zu beschleunigen, die das Herzstück der KI-Verarbeitung sind. Unterstützt wird er von acht diskreten „Matrix-Math-Engines“. Das Bauteil nutzt 96 MByte schnellen On-Chip-SRAM-Cache-Speicher und weitere 128 GByte externen HBM3e-Speicher. Dabei handelt es sich um den schnellsten DRAM der Branche, der aus mehreren neben dem Prozessor gestapelten Speicherchips besteht.
Der Guadi 3 erreicht 1,84 TeraFLOPs, eine Billion Fließkomma-Operationen pro Sekunde, wenn er mit 8-Bit-Fließkomma-Mathematik arbeitet, dem weit verbreiteten Maß für die Chipleistung.
Gelsinger sagte, dass Gaudi 3 dabei helfen wird, künstliche Intelligenz durch drei verschiedene Phasen zu bringen. Die erste, die gegenwärtige Phase, ist das „Zeitalter der KI-Copiloten“, so Gelsinger. „Das zweite Zeitalter steht vor der Tür, das Zeitalter der KI-Agenten.“ Die dritte Stufe wäre das „Zeitalter der KI-Funktionen“, wenn die Technologie eingesetzt wird, um „komplexe, unternehmensweite Ergebnisse zu automatisieren.“
Die Entwickler arbeiten noch an weiteren „Verfeinerungen“. Windows Insider erhalten nun wohl eine erste Vorschau…
Laut Bitkom-Umfrage werden in jedem dritten Unternehmen in Deutschland private KI-Zugänge genutzt. Tendenz steigend.
2023 erlitten neun von zehn Unternehmen in der DACH-Region Umsatzverluste und Kurseinbrüche in Folge von…
Der Report „Pacific Rim“ von Sophos beschreibt Katz-und-Maus-Spiel aus Angriffs- und Verteidigungsoperationen mit staatlich unterstützten…
NVIDIA DGX SuperPOD soll voraussichtlich Mitte 2025 in Betrieb genommen und für Forschungsberechnungen genutzt werden.
Latrodectus, auch bekannt als BlackWidow, ist auch unter dem Namen LUNAR SPIDER bekannt.