ARM bringt mit Project Trillium künstliche Intelligenz in Smartphones

ARM kündigt Software und Hardware für künstliche Intelligenz in Smartphones, IoT-Geräten, Wearables, Drohnen oder virtuelle Realität an. Project Trillium ist eine Gruppe von verschiedenen Software-Lösungen und Hardware, die auf kleinen Raum mit geringem Stromverbrauch für spezielle KI-Operationen wie das maschinelle Lernen oder Objekterkennung optimierte Leistung liefert.

Maschinelle Erkennung von Objekten mit dem OD-Chip von ARM (Bild: ARM).

Derzeit arbeiten verschiedene große Technologieunternehmen wie Google, Intel oder IBM an Lösungen für künstliche Intelligenz. Eines der jüngsten Beispiele im Bereich Smartphone/IoT ist Huawei, das mit dem Mate 10 ein Smartphone mit einer dedizierten KI-Komponente vorgestellt hat.

ARM dominiert nach wie vor mit den eigenen Chip-Designs den Mobilfunk-Markt und kommt daher vergleichsweise spät mit einem dedizierten KI-Angebot. Einen kleinen Vorgeschmack allerdings gab es bereits mit einer Erweiterung für ARMv8.2, das mit einem besonderen Instruction-Set die Implementierung von neuralen Netzwerken erleichtern sollte. Auch in Mali-G72, einer GPU, unterstützt ARM Installationen für künstliche Intelligenz.

Doch bislang fehlte eine eigene „Plattform“ für KI von ARM. Die genannten Erweiterungen haben sozusagen die weiteren Entwicklungen ermöglicht. Allerdings muss ARM nun die Nachfrage aus der Branche und von Technologiepartnern mit einem entsprechenden Produkt bedienen.

Die KI-Prozessoren ML und OD können auch gemeinsam eingesetzt werden. OD erkennt ein spezielles Objekt und leitet die Informationen an ML weiter, der dann die Informationen weiter verarbeitet (Bild: ARM).

Die frisch vorgestellten Modelle sind ein ML-Prozessor für Machine Learning und ein weiterer für Object Detection (OD). Die Technologie für OD stammt aus der Übernahme von Apical, die ARM 2016 getätigt hatte.

Der OD-Prozessor soll noch im ersten Quartal 2018 an Partner ausgeliefert werden. Der ML-Prozessor werde Mitte des Jahres an die Hersteller ausgeliefert, richtet sich jedoch in der ersten Auflage an den Mobilmarkt. Aufgrund des SoC-Designs werden erste Prozessoren wohl erst 2019 oder 2020 in Smartphones verbaut werden. Parallel dazu können die beiden Designs auch in einem dynamischen Cluster mit der CPU integriert werden.

Mit dem ML-Prozessor sollen Anwender nun in der Lage sein, deutlich höhere Leistungen für Machine Learning zu erreichen, als bei der Ausführung von Operationen über die CPU oder die GPU. ML-Workloads machen zudem ein besonderes Speichermanagement nötig, da bestimmte Daten häufiger abgerufen werden. Daher sei es für eine Leistungssteigerung besonders wichtig.

ARM verspricht mit dem ML-Prozessor einen theoretischen Durchsatz von über 4,6 TOPs (8-bit integer) bei einem Verbrauch von etwa 1.5W, was laut ARM 3 TOPs/W bedeutet. Diese Schätzungen basieren auf einer Implementierung in einem 7 Nanometer-Verfahren. Allerdings haben solche Aussagen ohne einen branchenweit verbindlichen Standard-Benchmark wenig Aussagekraft.

Der OD hingegen deckt traditionelle Bilderkennung ab. Grundsätzlich kann auch der ML-Prozessor diese Aufgaben über ein neuronales Netz abdecken, OD ist hier jedoch leistungsfähiger. Es zeigt sich also, dass die entsprechende Hardware auf sehr eng gefasste Arbeitslasten hin optimiert sind. Es bleibt ohnehin abzuwarten, welche Entwicklungen der Bereich künstliche Intelligenz im mobilen Umfeld nimmt.

Für Entwickler stellt ARM jedoch eine Reihe von Software-Tools bereit, die Entwicklern bei der Schaffung neuer Anwendungen für diese Prozessoren helfen sollen. Diese Werkzeuge sind über ARMs Entwicklerseiten oder über GitHub verfügbar.