AMDs AI-Chips fordern Nvidias A100 heraus

Das KI-Start-up MosaicML, in der vergangenen Woche für 1,3 Milliarden Dollar von DataBricks übernommen wurde, hat in einem Test AMDs KI-Beschleuniger MI250 mit Nvidias A100 verglichen. Dabei erreichte das AMD-Produkt etwa 80 Prozent der Leistung des Beschleunigers vom Marktführer Nvidia. Nach Einschätzung von MosaicML ist AMD auf dem besten Weg, seinen Mitbewerber einzuholen.

Bei den beiden Beschleunigerkarten handelt es sich jedoch nicht um die aktuellen Top-Produkte, sondern die Vorgeneration. Laut MosaicML ist das gute Abschneiden der AMD MI250 auf eine neue Version der AMD-Software zurückzuführen, die seit Ende 2022 verfügbar ist. Weitere Leistungszuwächse verdankt das AMD-Produkt offenbar einer neuen Version der Open-Source-Software PyTorch, die von Meta Platforms unterstützt wird und von MosaicML bei der Entwicklung seiner Produkte eingesetzt wird.

Weitere Leistungszuwächse durch künftige Softwareupdates

Hanlin Tang, Chief Technology Officer von MosaicML, betonte, dass Software normalerweise die Achillesferse von KI-Chipunternehmen sei. AMD habe zuletzt aber auf der Softwareseite gute Arbeit geleistet. Er geht davon aus, dass künftige Softwareupdates sogar helfen könnten, die Leistung der AMD MI250 auf das Niveau von Nivdias A100 anzuheben.

Die Ergebnisse der Tests basieren Tang zufolge auf von MosaicML entwickelten eigenen Tools, die zusammen mit PyTorch und AMDs Software benutzt werden, um ein großes Sprachmodell zu trainieren. An der Codebasis des eigenen Tools seien dafür keine Änderungen vorgenommen worden. „Man kann bereits heute auf diese Chips umsteigen, sie sind im Wesentlichen austauschbar“ mit den Chips von Nvidia, ergänzte Tang.

Nvidia dominiert derzeit den Markt für Chips, die für das Training von künstlicher Intelligenz benutzt werden, mit einem Anteil von mehr als 80 Prozent. AMD wird jedoch zunehmend als ernste Konkurrenz eingestuft. Dazu soll auch AMDs neuer KI-Chip MI300 beitragen, den das Unternehmen im Juni vorstellte. Den MI300 bringt AMD gegen Nvidias Topmodell H100 in Stellung. AMD plant, den MI300 noch in diesem Jahr an erste Kunden auszuliefern. Die Massenfertigung wird für 2024 erwartet.