Erstellung einer Roadmap für die Einführung von GenAI

Wir bei Eficode freuen uns über unsere Partnerschaft mit NVIDIA, um die Einführung von generativer KI (GenAI) in Unternehmen zu erleichtern. In diesem Blogbeitrag möchte ich  erläutern, warum sich euer Unternehmen auf diese Zusammenarbeit zwischen unserer Expertise und den Fähigkeiten von NVIDIA freuen sollte.

Die Technologie ist Realität geworden, die Akzeptanz beginnt gerade erst

Beim aktuellen Trend zur Einführung von KI geht es nicht mehr nur um das Training großer Sprachmodelle (LLMs), sondern um die Anerkennung des immensen Nutzens, den diese Technologien für Unternehmen und letztlich auch für Verbraucher bringen können. Ich habe gesehen, wie DeepSeek vor kurzem an der NASDAQ Schlagzeilen gemacht hat und sich auf die so genannten "großartigen Sieben" Technologieunternehmen auswirkte.

Ich glaube jedoch, dass die wirkliche Wertschöpfung aus der praktischen Anwendung von LLMs kommen wird, die im Wesentlichen als Dolmetscher zwischen menschlicher und maschineller Sprache fungieren. Im Wesentlichen handelt es sich um einfache Werkzeuge, die nicht übermäßig komplex sind. Für die meisten Unternehmen liegt der eigentliche Aufwand in der Entwicklung von IT-Systemen, die diese Dolmetscher effektiv unterstützen.

Was sollten wir also als Teil der IT-Branche tun, um GenAI-Funktionen effektiv zu übernehmen und zu nutzen?

Mit Blick auf das Jahr 2025 sehe ich eine erhebliche Lücke: Nur etwa 1-10 % der Fachleute in der IT- und Softwarebranche werden die Methoden der Retrieval-Augmented Generation (RAG) verstehen und wissen, wie man sie effektiv einsetzt. Wir haben viele unsichere und erfolglose "Kundensupport"-Chatbot-Implementierungen erlebt, die darauf zurückzuführen sind, dass den Unternehmen das Wissen zur Entwicklung und zum Betrieb von GenAI-Systemen fehlt. Viele Unternehmen beginnen auf dem falschen Fuß, indem sie Lösungen für den sofortigen Einsatz in der Produktion kaufen, ohne die richtigen Grundlagen zu schaffen.

Ich bin der festen Überzeugung, dass die Lösung darin besteht, mit internen Forschungs- und Entwicklungs- (F&E) und IT-Prozessen zu beginnen und eine sichere Umgebung für Experimente und die Integration von KI-Systemen zu schaffen. Dieser Ansatz ermöglicht es uns, unseren Mitarbeitern beizubringen, wie sie diese Technologie effektiv nutzen können.

Warum die Übernahme von GenAI durch DevOps ein Weg zum Erfolg ist

Wie können wir also diese Fähigkeit in unseren Unternehmen aufbauen? An dieser Stelle kommt DevOps ins Spiel. Die Einführung von GenAI-gesteuerten Assistenten, Workflows und Agenten erfordert im Wesentlichen eine DevOps-Umstellung.

So wie wir Menschen den Kontext nutzen, um angemessene Reaktionen abzuleiten und vorherzusagen, erzeugen LLMs die wahrscheinlichsten Ergebnisse auf der Grundlage des gegebenen Kontexts und der aufgenommenen Trainingsdaten. Aus der Prozessperspektive müssen wir sie meiner Meinung nach auf ähnliche Weise behandeln. Es ist von entscheidender Bedeutung, eine "DevOps-Sicherheitsnetz"-Umgebung zu schaffen, in der Menschen und KI-Agenten sicher skalieren und zusammenarbeiten können, um das Beste aus beiden Welten zu nutzen.

Bei meiner täglichen Arbeit mit DevOps-Transformationen sehe ich, wie wir unsere Kunden ermutigen, Spitzentechnologien zu übernehmen, um in einem zunehmend wettbewerbsintensiven Markt, in dem GenAI immer mehr an Bedeutung gewinnt, erfolgreich zu sein.

Wir stehen vor einer großen Herausforderung: Damit die Einführung von GenAI erfolgreich sein kann, brauchen LLMs die notwendige Infrastruktur, um zu funktionieren und auf Unternehmensdaten zuzugreifen. Wer schon einmal CRM- oder ERP-Migrationen durchgeführt hat, weiß, wie schwierig es ist, Daten in einem "einzigen System" zu konsolidieren. Anstatt all diese Datenquellen mit einem einzigen LLM-Service zu verbinden, müssen wir LLM-Inferenzfunktionen näher am Speicherort der Daten einsetzen und dabei die Unternehmensrichtlinien einhalten.

An dieser Stelle kommt NVIDIA ins Spiel. Der Aufbau dieser neuen GenAI-IT-Systeme erfordert "flüssige" und "On-Demand"-Inferenzfunktionen, wo immer sie benötigt werden – in der öffentlichen, privaten oder Edge-Cloud. Um diese Herausforderung zu meistern, müssen wir ein skalierbares System konstruieren, das für den Betrieb an jedem Ort optimiert ist. Ohne eine End-to-End-Lösung, von GPUs bis hin zu Chatbots, laufen wir Gefahr, uns mit Herausforderungen im IT-Lebenszyklus und fragmentierten Toolchains auseinanderzusetzen.

DevOps im Jahr 2025 wird fantastisch sein

Durch die Kombination der DevOps-Expertise von Eficode mit den Fähigkeiten von NVIDIA können wir Unternehmen weltweit eine klare und umsetzbare Roadmap für die Einführung von GenAI bieten. Ich bin begeistert von dem Potenzial, dass 2025 das Jahr der GenAI-Workflow-Automatisierung und der Agenten sein wird. Gemeinsam haben wir die einzigartige Möglichkeit, unsere Kunden durch diese transformative Reise zu führen!

Lest unseren Leitfaden zum Einsatz von GenAI in der Softwareentwicklung, um den Einsatz von GenAI in eurem Unternehmen zusammen mit den richtigen Tools und der richtigen Plattform zu meistern.