Categories: KI

Nvidia stellt neue Generation seiner KI-Beschleunigerchips vor

Nvidia hat auf seiner Entwicklerkonferenz GTC 2024 eine neue Generation seiner GPU-basierten Beschleuniger-Chips für KI-Anwendungen vorgestellt. Der neue Chip B200 (Blackwell) hat mehr als doppelt so viele Transistoren wie sein Vorgänger H100 (Hopper).

„Hopper ist fantastisch, aber wir brauchen größere GPUs“, sagte Chief Executive Jensen Huang während seiner Keynote. Der B200 bietet eine Leistung von bis zu 20 Petaflops – der H100 bringt es auf 4 Petaflops. Das Leistungsplus soll es Unternehmen ermöglichen, größere und komplexere KI-Modelle zu entwickeln. Zudem enthält der neue Chip eine Transformer-Engine, die speziell für die Ausführung von Transformer-basierten KI-Modellen wie ChatGPT entwickelt wurde.

Laut Nvidia planen Cloud-Anbieter wie Amazon, Google, Microsoft und Oracle den Einsatz des GB200 Grace Blackwell Superchip, der zwei B200-GPUs zusammen mit einer ARM-basierten Grace-CPU enthält.

Amazon Web Services soll den Bau einer Server-Clusters mit 20.000 GB200-Chips in Angriff nehmen. Das System soll ein Modell mit 27 Billionen Parametern betreiben können. Modelle wie OpenAIs GPT-4 haben rund 1,7 Billionen Parameter.

Nvidia kündigte außerdem den Ausbau seines Softwaregeschäfts an. Ein neues Angebot namens NIM Inference Microservices soll Cloud-native Microservices für mehr als zwei Dutzend populäre Basismodelle bieten, einschließlich von Nvidia entwickelter Modelle. NIM ist so konzipiert, dass Benutzer KI-Modelle auf einer Reihe von Nvidia-Hardware betreiben können, die sie entweder lokal oder in der Cloud besitzen, und nicht auf die Anmietung von Kapazitäten bei einem dritten Cloud-Anbieter beschränkt sind.

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

CopyRhadamantys greift weltweit Unternehmen an

Ausgeklügelte Phishing-Kampagne verwendet eine weiterentwickelte Version der Rhadamanthys-Stealer-Malware.

13 Stunden ago

Facebook Marketplace: EU verhängt Geldbuße von fast 800 Millionen Euro gegen Meta

Die EU-Kommission kritisiert die Verknüpfung von Facebook und dem hauseigenen Online-Kleinanzeigendienst. Sie sieht darin einen…

17 Stunden ago

Umfrage: Angestellte in Deutschland unterschätzen NIS-2-Richtlinie

Fast zwei Drittel halten jedoch eine Umsetzung aller Vorgaben von NIS 2 bis Jahresende für…

1 Tag ago

Kostenloser Dekryptor für ShrinkLocker

Mit dem Dekryptor von Bitdefender können Opfer von Attacken mit der Shrinklocker-Ransomware Dateien wiederherstellen.

2 Tagen ago

Malwarebytes warnt vor Betrugsmaschen beim Weihnachtseinkauf

In der Vorweihnachtszeit ist vor allem Malvertising auf dem Vormarsch. Cyberkriminelle locken Nutzer über schädliche…

2 Tagen ago

Bedrohungsindex: Deutliche Zunahme von Infostealern im Oktober

Dazu trägt unter der Infostealer Lumma-Stealer bei. Hierzulande dominiert der Infostealer Formbook die Malware-Landschaft.

2 Tagen ago