Categories: KI

LLMs in Unternehmen: Große Mehrheit setzt auf Open Source

Beim Einsatz von LLMs entscheiden sich Unternehmen sehr häufig für Open Source. Laut dem aktuellen Bericht State of Data & AI von Databricks liegt der Anteil bei 76 Prozent. Die Studie zeigt auch, dass KI die Testphase hinter sich gelassen hat und im Produktionsbetrieb angekommen ist.

Der Untersuchung zufolge wurden im Jahr 2023 11 Mal mehr KI-Modelle in Betrieb genommen: Im Durchschnitt wurden Unternehmen mehr als dreimal effizienter bei der Überführung von Modellen in den Produktionsbetrieb. Die Verarbeitung natürlicher Sprache (Natural Language) ist die meistgenutzte und am schnellsten wachsende Anwendung für maschinelles Lernen.

Retrieval Augmented Generation

Außerdem sollen 70 Prozent der Unternehmen, die GenAI nutzen, Tools und Vektordatenbanken verwenden, um die Basismodelle zu erweitern: Unternehmen konzentrieren sich demnach stark auf die Anpassung von LLMs mit ihren eigenen Daten durch Retrieval Augmented Generation (RAG). RAG erfordert laut Databricks bestimmte Vektordatenbanken, deren Nutzung um 377 Prozent im Vergleich zum Vorjahr gestiegen sind (einschließlich Open-Source- und geschlossenen LLMs).

Databricks fand auch heraus, dass 76 Prozent der Unternehmen, die LLMs nutzen, sich für Open Source oft neben proprietären Modellen entscheiden: Nur vier Wochen nach der Markteinführung machte Meta Llama 3 bereits 39 Prozent aller Open-Source-Modelle aus. Stark regulierte Branchen seien die überraschenden ersten GenAI-Anwender. Der Finanzdienstleistungssektor, der bei der GPU-Nutzung führend sei, habe sich am schnellsten entwickelt mit einem Wachstum von 88 Prozent innerhalb von sechs Monaten.

Experimentelles Testen der Modelle

„Unternehmen erstellen ihre Machine Learning (ML)-Modelle zunächst durch experimentelles Testen. Sie probieren verschiedene Algorithmen und Hyperparameter aus, um die besten Modelle zu finden, bevor sie diese in den Produktionsbetrieb geben“, teilte Databricks mit. „In diesem Prozess verfolgen die Teams zwei konkurrierende Ziele: Sie müssen sicherstellen, dass die Experimentierphase so zeiteffizient wie möglich ist und gleichzeitig nur streng getestete Modelle in Produktion geben.“

Der Bericht enthält auch eine Rangliste der zehn am häufigsten verwendeten Daten- und KI-Produkte. Neun von zehn sind Open-Source-Produkte. Der Grund dafür ist laut Databricks, dass Unternehmen dazu neigen, mehr Flexibilität zu wählen und gleichzeitig proprietäre Mauern und Einschränkungen zu vermeiden.

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

Microsoft verschiebt erneut Copilot Recall

Die Entwickler arbeiten noch an weiteren „Verfeinerungen“. Windows Insider erhalten nun wohl eine erste Vorschau…

15 Stunden ago

GenKI im Job: Mitarbeitende schaffen Tatsachen

Laut Bitkom-Umfrage werden in jedem dritten Unternehmen in Deutschland private KI-Zugänge genutzt. Tendenz steigend.

17 Stunden ago

97 Prozent der Großunternehmen melden Cyber-Vorfälle

2023 erlitten neun von zehn Unternehmen in der DACH-Region Umsatzverluste und Kurseinbrüche in Folge von…

17 Stunden ago

„Pacific Rim“-Report: riesiges, gegnerisches Angriffs-Ökosystem

Der Report „Pacific Rim“ von Sophos beschreibt Katz-und-Maus-Spiel aus Angriffs- und Verteidigungsoperationen mit staatlich unterstützten…

21 Stunden ago

DeepL setzt erstmals auf NVIDIA DGX SuperPOD mit DGX GB200-Systemen

NVIDIA DGX SuperPOD soll voraussichtlich Mitte 2025 in Betrieb genommen und für Forschungsberechnungen genutzt werden.

21 Stunden ago

Latrodectus: Gefährlicher Nachfolger von IcedID

Latrodectus, auch bekannt als BlackWidow, ist auch unter dem Namen LUNAR SPIDER bekannt.

21 Stunden ago