Heutige KI-Modelle sind typischerweise nur für eine Sache trainiert, so Jeff Dean, Leiter der KI-Abteilung bei Google und Mitbegründer des Google Brain-Projekts. Ein neuer Ansatz namens Pathways könnte jedoch so etwas wie einen trainierbaren Hund liefern, der mehrere Tricks beherrscht.
Dean beschreibt Pathways als eine „KI-Architektur der nächsten Generation“, die „es uns ermöglichen wird, ein einziges Modell zu trainieren, um Tausende oder Millionen von Dingen zu tun“. Pathways können die Grenzen der Fähigkeit eines KI-Modells aufheben, auf Informationen aus nur einem Sinn zu reagieren, und ihm ermöglichen, auf mehrere Sinne wie Text, Bilder und Sprache zu reagieren.
„Pathways könnte multimodale Modelle ermöglichen, die gleichzeitig Seh-, Hör- und Sprachverständnis umfassen“, erklärt Dean. Das Modell könnte dann zum Beispiel das Wort „Leopard“, das Geräusch, wenn jemand „Leopard“ sagt, oder ein Video von einem laufenden Leoparden verarbeiten. In allen drei Fällen erkennt die KI das Konzept eines Leoparden. Dean argumentiert, dass ein solches Modell „aufschlussreicher und weniger anfällig für Fehler und Verzerrungen“ wäre.
Voreingenommenheit ist für Google ein heikles Thema. Im Dezember trat die leitende Google KI-Ethikforscherin Timnit Gebru zurück, nachdem Dean Berichten zufolge mit einem von ihr mitverfassten Papier nicht einverstanden war, in dem es um die Energiekosten ging, die mit der Erstellung neuer KI-Modelle verbunden sind, sowie um die Tatsache, dass die Modelle des Unternehmens alles aus dem Internet aufnehmen, einschließlich rassistischer, sexistischer und beleidigender Inhalte, was die Funktionsweise eines KI-Modells beeinflussen könnte. Das Papier wurde nicht veröffentlicht, aber von MIT Technology Review eingesehen.
„Wir möchten ein Modell trainieren, das nicht nur viele verschiedene Aufgaben bewältigen kann, sondern auch auf seine vorhandenen Fähigkeiten zurückgreifen und sie kombinieren kann, um neue Aufgaben schneller und effektiver zu lernen“, sagt Dean. Was er zu beschreiben scheint, ist eine KI, die sich mit anderen KI-Modellen verbinden und deren beste Teile nutzen kann, indem sie ein Pathways-Modell verwendet, das „dynamisch lernt, welche Teile des Netzwerks für welche Aufgaben gut sind – es lernt, wie man Aufgaben durch die relevantesten Teile des Modells leitet.“
Pathways könnte also die Fähigkeit des maschinellen Lernens, Entscheidungen zu treffen, verbessern und es möglicherweise einen Schritt näher an eine KI heranbringen, die tatsächlich ein Problem oder Szenario durchdenken kann. Dean argumentiert, dass Pathways nicht nur eine größere Kapazität zum Erlernen verschiedener Aufgaben hat, sondern auch energieeffizienter ist, da nur die relevanten Teile eines Netzwerks für eine bestimmte Aufgabe aktiviert werden.
„Pathways wird ein einzelnes KI-System in die Lage versetzen, Tausende oder Millionen von Aufgaben zu verallgemeinern, verschiedene Datentypen zu verstehen und dies mit bemerkenswerter Effizienz zu tun – und uns von der Ära der Einzweckmodelle, die lediglich Muster erkennen, zu einer Ära führen, in der intelligente Systeme mit allgemeinerem Zweck ein tieferes Verständnis unserer Welt widerspiegeln und sich an neue Bedürfnisse anpassen können“, erklärt er.
Bankhaus Metzler und Telekom-Tochter MMS testen, inwieweit Bitcoin-Miner das deutsche Stromnetz stabilisieren könnten.
Mit 1,7 Exaflops ist El Capitan nun der dritte Exascale-Supercomputer weltweit. Deutschland stellt erneut den…
Der deutsche Hyperscaler erweitert sein Server-Portfolio um vier Angebote mit den neuen AMD EPYC 4004…
Beim Online-Gaming kommt es nicht nur auf das eigene Können an. Auch die technischen Voraussetzungen…
Fast jedes zweite Unternehmen bietet keinerlei Schulungen an. In den übrigen Betrieben profitieren oft nur…
Huawei stellt auf der Connect Europe 2024 in Paris mit Xinghe Intelligent Network eine erweiterte…