![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/02\/meryam-assermouh.jpg\")
TL;DR<\/h2><\/div>Dieser Artikel stellt LLMOps vor, einen speziellen Zweig, der DevOps und MLOps f\u00fcr Bew\u00e4ltigung der Herausforderungen, die gro\u00dfe Sprachmodelle mit sich bringen<\/strong> (LLMs). LLMs, wie OpenAIs GPT, verwenden umfangreichen Text data f\u00fcr Aufgaben wie Texterstellung und Sprach\u00fcbersetzung. LLMOps befasst sich mit Themen wie Anpassungen, API-\u00c4nderungen, data-Drift, Modellbewertung und \u00dcberwachung<\/strong> durch Tools wie LangSmith, TruLens und W&B Prompts. Es gew\u00e4hrleistet die Anpassbarkeit, Bewertung und \u00dcberwachung von LLMs in realen Szenarien und bietet eine umfassende L\u00f6sung f\u00fcr Unternehmen, die diese fortschrittlichen Sprachmodelle nutzen.<\/p>\n<\/div>Um Sie durch diese Diskussion zu f\u00fchren, werden wir zun\u00e4chst die grundlegenden Prinzipien von DevOps und MLOps wiederholen. Anschlie\u00dfend werden wir uns auf LLMOps konzentrieren und mit einer kurzen Einf\u00fchrung in LLMs und deren Nutzung durch Unternehmen beginnen. Als N\u00e4chstes werden wir uns mit den wichtigsten betrieblichen Herausforderungen befassen, die sich durch die LLM-Technologie ergeben, und wie LLMOps diese effektiv angeht.<\/p>\n<\/div>
Grundlegende Prinzipien f\u00fcr LLMOps : DevOps und MLOps<\/h2><\/div>DevOps, die Abk\u00fcrzung f\u00fcr Development and Operations, ist eine Reihe von Praktiken, die darauf abzielen, den Softwarebereitstellungsprozess zu automatisieren und ihn effizienter, zuverl\u00e4ssiger und skalierbarer zu machen. Zu den Kernprinzipien von DevOps geh\u00f6ren: Zusammenarbeit, Automatisierung, kontinuierliche Tests, \u00dcberwachung und Orchestrierung der Bereitstellung.<\/p>\n<\/div>
MLOps, kurz f\u00fcr Machine Learning Operations, ist eine Erweiterung der DevOps-Praktiken, die speziell auf das Lebenszyklusmanagement von Machine Learning-Modellen zugeschnitten ist. Es befasst sich mit den einzigartigen Herausforderungen, die sich aus dem iterativen und experimentellen Charakter der Entwicklung von maschinellem Lernen ergeben. Es werden zus\u00e4tzliche Aufgaben wie data-Versionierung und -Verwaltung sowie Experimentieren und Modelltraining eingef\u00fchrt.<\/p>\n<\/div>
LLMOps: Verwaltung der Bereitstellung und Pflege von gro\u00dfen Sprachmodellen<\/h2><\/div>LLMOps, kurz f\u00fcr Large Language Model Operations, ist ein spezialisierter Zweig von MLOps, der speziell f\u00fcr die besonderen Herausforderungen und Anforderungen der Verwaltung gro\u00dfer Sprachmodelle (LLMs) entwickelt wurde.<\/p>\n<\/div>
Aber zun\u00e4chst einmal: Was genau sind LLMs?<\/h2><\/div>LLMs sind eine Art von Deep-Learning-Modellen, die riesige Mengen von Text data verwenden, um Milliarden von Parametern zu sch\u00e4tzen. Diese Parameter erm\u00f6glichen es LLMs, Texte in menschlicher Qualit\u00e4t zu verstehen und zu generieren, Sprachen zu \u00fcbersetzen, komplexe Informationen zusammenzufassen und verschiedene Aufgaben der nat\u00fcrlichen Sprachverarbeitung durchzuf\u00fchren.<\/p>\n<\/div>
Wie Organisationen LLMs nutzen<\/h2><\/div>Da es extrem teuer und zeitaufw\u00e4ndig ist, LLMs von Grund auf zu trainieren, entscheiden sich Unternehmen f\u00fcr vortrainierte Basismodelle, wie z.B. GPT von OpenAI oder LaMDA von Google AI, als Ausgangspunkt. Diese Modelle, die bereits auf gro\u00dfen Mengen von data trainiert wurden, verf\u00fcgen \u00fcber ein umfangreiches Wissen und k\u00f6nnen verschiedene Aufgaben ausf\u00fchren, wie z.B. die Generierung von Text, die \u00dcbersetzung von Sprachen und das Schreiben verschiedener Arten von kreativen Inhalten. Zur weiteren Anpassung der LLM-Ausgabe an bestimmte Aufgaben oder Bereiche setzen Unternehmen Techniken wie Prompt Engineering, Retrieval-Augmented Generation (RAG) und Fine-Tuning ein. Prompt Engineering beinhaltet die Erstellung klarer und pr\u00e4ziser Anweisungen, die das LLM zum gew\u00fcnschten Ergebnis f\u00fchren, w\u00e4hrend RAG das Modell auf zus\u00e4tzliche Informationen aus externen data-Quellen st\u00fctzt und so seine Leistung und Relevanz verbessert. Bei der Feinabstimmung hingegen werden die Parameter des LLM mit zus\u00e4tzlichen data speziell f\u00fcr die Bed\u00fcrfnisse des Unternehmens angepasst. Das nachstehende Schema bietet einen \u00dcberblick \u00fcber den LLMOps-Workflow und veranschaulicht, wie diese Techniken in den Gesamtprozess integriert werden.<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/02\/schema-LLMOps-medium-article.png\" "\\"sch\u00e9ma")
<\/span><\/div>Warum wir LLMOps brauchen<\/h2><\/div>Die rasanten Fortschritte in der LLM-Technologie haben einige operative Herausforderungen ans Licht gebracht, die spezielle Ans\u00e4tze erfordern.<\/p>\n
Einige dieser Herausforderungen sind:<\/p>\n<\/div>
- <\/i><\/span>\n
Der Bedarf an Personalisierung<\/strong>: LLMs sind zwar auf riesigen Mengen von data vortrainiert, aber f\u00fcr eine optimale Leistung bei spezifischen Aufgaben ist eine Anpassung unerl\u00e4sslich. Dies hat zur Entwicklung von neuen Anpassungstechniken gef\u00fchrt, wie z.B. schnelle Technik<\/strong>, Abruf-erweiterte Generierung (RAG<\/strong>) und Feinabstimmung<\/strong>. RAG hilft dabei, das Modell auf die genauesten Informationen zu gr\u00fcnden, indem es ihm eine externe Wissensbasis zur Verf\u00fcgung stellt, w\u00e4hrend die Feinabstimmung besser geeignet ist, wenn wir m\u00f6chten, dass das Modell bestimmte Aufgaben erf\u00fcllt oder ein bestimmtes Antwortformat wie JSON oder SQL befolgt. Die Wahl zwischen RAG und Feinabstimmung h\u00e4ngt davon ab, ob wir das Wissen des Modells erweitern oder seine Leistung bei einer bestimmten Aufgabe verbessern wollen.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
API-\u00c4nderungen<\/strong>: Im Gegensatz zu herk\u00f6mmlichen ML-Modellen erfolgt der Zugriff auf LLMs h\u00e4ufig \u00fcber APIs von Drittanbietern, die ge\u00e4ndert oder sogar veraltet sein k\u00f6nnen, was eine kontinuierliche \u00dcberwachung und Anpassung erforderlich macht. Zum Beispiel, \u00d6ffnen Sie die Dokumentation von AI<\/a> weist ausdr\u00fccklich darauf hin, dass ihre Modelle regelm\u00e4\u00dfig aktualisiert werden, was dazu f\u00fchren kann, dass Benutzer ihre Software aktualisieren oder auf neuere Modelle oder Endger\u00e4te umsteigen m\u00fcssen.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
Data Drift<\/strong>, bezieht sich auf eine Verschiebung der statistischen Eigenschaften des eingegebenen data, die h\u00e4ufig in der Produktion auftritt, wenn der angetroffene data von dem data abweicht, auf dem die LLMs trainiert wurden. Dies kann dazu f\u00fchren, dass ungenaue oder veraltete Informationen generiert werden. Beim Modell GPT-3.5 zum Beispiel waren die Informationen bis September 2021 begrenzt, bevor der Stichtag wurde bis Januar 2022 verl\u00e4ngert<\/a>. Folglich konnte es keine Fragen zu neueren Ereignissen beantworten, was zu Frustration bei den Benutzern f\u00fchrte.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
Bewertung des Modells<\/strong>: Beim traditionellen maschinellen Lernen verlassen wir uns auf Metriken wie Genauigkeit, Pr\u00e4zision und Wiedererkennung, um unsere Modelle zu bewerten. Die Bewertung von LLMs ist jedoch wesentlich komplizierter, vor allem, wenn keine Grundwahrheit data vorliegt und wenn es sich um nat\u00fcrliche Sprachausgaben und nicht um numerische Werte handelt.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
\u00dcberwachung<\/strong>: Die kontinuierliche \u00dcberwachung von LLMs und LLM-basierten Anwendungen ist entscheidend. Sie ist auch komplizierter, denn sie umfasst mehrere Aspekte, die ber\u00fccksichtigt werden m\u00fcssen, um die allgemeine Effektivit\u00e4t und Zuverl\u00e4ssigkeit dieser Sprachmodelle zu gew\u00e4hrleisten. Wir werden diese Aspekte im n\u00e4chsten Abschnitt n\u00e4her erl\u00e4utern.<\/p>\n<\/div><\/li><\/ul>Wie LLMOps diese Herausforderungen angeht<\/h2><\/div>LLMOps baut auf dem Fundament von MLOps auf und f\u00fchrt gleichzeitig spezielle Komponenten ein, die auf LLMs zugeschnitten sind:<\/p>\n<\/div>
- <\/i><\/span>\n
Promptes Management von Technik und Feinabstimmung<\/strong>: LLMOps bietet Tools wie zeitnahe Versionskontrollsysteme<\/strong> um verschiedene Versionen von Prompts zu verfolgen und zu verwalten. Es l\u00e4sst sich auch integrieren mit Rahmenbedingungen f\u00fcr die Feinabstimmung<\/strong> um den Feinabstimmungsprozess zu automatisieren und zu optimieren. Ein herausragendes Beispiel f\u00fcr diese Tools ist LangSmith, ein Framework, das speziell f\u00fcr die Verwaltung von LLM-Workflows entwickelt wurde. Seine umfassenden Funktionen umfassen Promptes Versionieren<\/a>, und erm\u00f6glicht kontrollierte Experimente und Reproduzierbarkeit. Dar\u00fcber hinaus erleichtert LangSmith Feinabstimmung<\/a> von LLMs unter Verwendung von runs'data nach eventueller Filterung und Anreicherung zur Verbesserung der Modellleistung.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
Verwaltung von API-\u00c4nderungen<\/strong>: LLMOps legt Prozesse fest f\u00fcr \u00dcberwachung<\/strong> API-\u00c4nderungen, Alarmierung<\/strong> Betreiber auf m\u00f6gliche St\u00f6rungen und Rollbacks aktivieren<\/strong> falls erforderlich.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
Anpassung des Modells an Ver\u00e4nderungen data<\/strong>: LLMOps erleichtert die Anpassung von LLMs an sich entwickelnde data-Landschaften und stellt sicher, dass die Modelle relevant und leistungsf\u00e4hig bleiben, wenn sich die data-Muster \u00e4ndern. Dies k\u00f6nnte erreicht werden durch \u00dcberwachung der data-Verteilung und Ausl\u00f6sung von Anpassungsprozessen<\/strong> wenn signifikante Ver\u00e4nderungen festgestellt werden. Diese Prozesse k\u00f6nnen umfassen:
\n-> Umschulung oder Feinabstimmung<\/strong>: Je nach Ausma\u00df der data-Drift und den verf\u00fcgbaren Ressourcen kann entweder eine Umschulung oder eine Feinabstimmung vorgenommen werden, um die Auswirkungen zu mildern.
\n-> Dom\u00e4nenanpassung<\/strong>: Feinabstimmung des LLM auf einem dataset aus der Zieldom\u00e4ne.
\n-> Wissen destillieren<\/strong>: Trainieren Sie ein kleineres Modell, indem Sie das Wissen und die Erfahrung eines gr\u00f6\u00dferen, leistungsf\u00e4higeren und aktuelleren Modells nutzen.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
LLM-spezifische Bewertung<\/strong>: LLMOps setzt neue, an LLMs angepasste Bewertungsinstrumente ein. Dazu geh\u00f6ren:
\n-> Textbasierte Metriken<\/strong>, Ein statistisches Ma\u00df daf\u00fcr, wie gut das Modell in der Lage ist, das n\u00e4chste Wort in einer Sequenz vorherzusagen. Sowie BLEU- und ROUGE-Metriken, die maschinell erstellten Text mit einem oder mehreren von Menschen erstellten Referenztexten vergleichen. Sie werden in der Regel f\u00fcr \u00dcbersetzungs- und Zusammenfassungsaufgaben verwendet.
\n-> Analysieren von Einbettungen<\/strong> (Vektordarstellungen f\u00fcr W\u00f6rter oder Phrasen), um die F\u00e4higkeit des Modells zu bewerten, kontextspezifische W\u00f6rter zu verstehen und semantische \u00c4hnlichkeiten zu erfassen. Visualisierungs- und Clustering-Techniken k\u00f6nnen uns auch bei der Erkennung von Verzerrungen helfen.
\n-> Bewerter LLMs<\/strong>: Verwendung anderer LLMs zur Bewertung unseres Modells. Dies kann z.B. dadurch geschehen, dass wir der Ausgabe des bewerteten Modells eine Punktzahl zuweisen, die auf vordefinierten Metriken basiert, wie z.B. Gel\u00e4ufigkeit, Koh\u00e4renz, Relevanz und sachliche Richtigkeit.
\n-> Integration von menschlichem Feedback<\/strong>: LLMOps beinhaltet Mechanismen, um menschliches Feedback zu sammeln und in den ML-Lebenszyklus einzubeziehen, die LLM-Leistung zu verbessern und Verzerrungen zu beseitigen.
\nTruLens<\/a> ist ein Tool, das die Integration dieser Auswertungen in LLM-Anwendungen durch einen programmatischen Ansatz erm\u00f6glicht, der als Feedback-Funktionen bekannt ist.<\/p>\n<\/div><\/li>- <\/i><\/span>\n
LLM-spezifische \u00dcberwachung<\/strong>: LLMOps integriert eine kontinuierliche \u00dcberwachung, um LLM-Leistungsmetriken zu verfolgen, potenzielle Probleme zu identifizieren und Konzeptabweichungen oder Verzerrungen zu erkennen. Dies beinhaltet:
\n-> Funktionelle \u00dcberwachung<\/strong>; indem Sie die Anzahl der Anfragen, die Antwortzeit, die Verwendung von Token, die Fehlerraten und die Kosten verfolgen.
\n-> Prompte \u00dcberwachung<\/strong>; um die Lesbarkeit zu gew\u00e4hrleisten und um Toxizit\u00e4t und andere Formen des Missbrauchs zu erkennen. W&B Prompts<\/a> ist eine Reihe von Tools, die f\u00fcr die \u00dcberwachung von LLM-basierten Anwendungen entwickelt wurden. Sie k\u00f6nnen damit die Eingaben und Ausgaben Ihrer LLMs analysieren, die Zwischenergebnisse einsehen und Ihre Prompts sicher speichern und verwalten.
\n-> \u00dcberwachung der Reaktion<\/strong>; um die Relevanz und Konsistenz des Modells zu gew\u00e4hrleisten. Dazu geh\u00f6rt auch, die Erzeugung halluzinatorischer oder fiktiver Inhalte zu verhindern und den Ausschluss von sch\u00e4dlichem oder unangemessenem Material sicherzustellen. Transparenz kann uns helfen, die Reaktion des Modells besser zu verstehen. Sie kann hergestellt werden, indem man Antwortquellen (in RAG) offenlegt oder das Modell auffordert, seine Argumentation zu begr\u00fcnden (Gedankenkette).<\/p>\n<\/div><\/li><\/ul>Diese \u00dcberwachung data kann zur Verbesserung der betrieblichen Effizienz genutzt werden. Wir k\u00f6nnen das Kostenmanagement verbessern, indem wir Warnungen \u00fcber die Verwendung von Token implementieren und Strategien wie das Zwischenspeichern fr\u00fcherer Antworten anwenden. So k\u00f6nnen wir sie f\u00fcr \u00e4hnliche Abfragen wiederverwenden, ohne den LLM erneut aufrufen zu m\u00fcssen. Au\u00dferdem k\u00f6nnen wir die Latenzzeit minimieren, indem wir uns f\u00fcr kleinere Modelle entscheiden, wann immer dies m\u00f6glich ist, und die Anzahl der generierten Token einschr\u00e4nken.<\/p>\n<\/div>
Fazit<\/h2><\/div>In diesem Artikel haben wir uns mit der Entstehung von LLMOps besch\u00e4ftigt, einem Abk\u00f6mmling von DevOps und MLOps, der speziell f\u00fcr die Bew\u00e4ltigung der operativen Herausforderungen gro\u00dfer Sprachmodelle entwickelt wurde. Lassen Sie uns abschlie\u00dfend einen visuellen Vergleich dieser drei Methoden anstellen, um ihren Anwendungsbereich im Kontext von LLM-Anwenderunternehmen zu veranschaulichen, die diese Modelle zur Erstellung von Produkten und zur L\u00f6sung von Gesch\u00e4ftsproblemen einsetzen.<\/p>\n<\/div>
![](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/02\/schema-2-LLMOps-medium-article.png\" "\\"sch\u00e9ma")
<\/span><\/div>Die drei Methoden haben zwar gemeinsame Praktiken wie CI\/CD, Versionierung und Evaluierung, aber sie haben jeweils unterschiedliche Schwerpunkte. DevOps umfasst den gesamten Lebenszyklus der Softwareentwicklung, von der Entwicklung bis zur Bereitstellung und Wartung. MLOps erweitert DevOps, um die spezifischen Herausforderungen von Modellen f\u00fcr maschinelles Lernen anzugehen, einschlie\u00dflich der Automatisierung von Modelltraining, Bereitstellung und \u00dcberwachung. LLMOps, die j\u00fcngste Weiterentwicklung dieser Methoden, konzentriert sich speziell auf LLMs. Auch wenn LLM-Anwenderunternehmen keine eigenen Modelle entwickeln m\u00fcssen, stehen sie dennoch vor operativen Herausforderungen, einschlie\u00dflich der Verwaltung von API-\u00c4nderungen und der Anpassung von Modellen durch Techniken wie Prompt Engineering und Feinabstimmung.<\/p>\n<\/div><\/div><\/div><\/div><\/article>
Dieser Artikel stellt LLMOps vor, einen speziellen Zweig, der DevOps und MLOps f\u00fcr Bew\u00e4ltigung der Herausforderungen, die gro\u00dfe Sprachmodelle mit sich bringen<\/strong> (LLMs). LLMs, wie OpenAIs GPT, verwenden umfangreichen Text data f\u00fcr Aufgaben wie Texterstellung und Sprach\u00fcbersetzung. LLMOps befasst sich mit Themen wie Anpassungen, API-\u00c4nderungen, data-Drift, Modellbewertung und \u00dcberwachung<\/strong> durch Tools wie LangSmith, TruLens und W&B Prompts. Es gew\u00e4hrleistet die Anpassbarkeit, Bewertung und \u00dcberwachung von LLMs in realen Szenarien und bietet eine umfassende L\u00f6sung f\u00fcr Unternehmen, die diese fortschrittlichen Sprachmodelle nutzen.<\/p>\n<\/div> Um Sie durch diese Diskussion zu f\u00fchren, werden wir zun\u00e4chst die grundlegenden Prinzipien von DevOps und MLOps wiederholen. Anschlie\u00dfend werden wir uns auf LLMOps konzentrieren und mit einer kurzen Einf\u00fchrung in LLMs und deren Nutzung durch Unternehmen beginnen. Als N\u00e4chstes werden wir uns mit den wichtigsten betrieblichen Herausforderungen befassen, die sich durch die LLM-Technologie ergeben, und wie LLMOps diese effektiv angeht.<\/p>\n<\/div> DevOps, die Abk\u00fcrzung f\u00fcr Development and Operations, ist eine Reihe von Praktiken, die darauf abzielen, den Softwarebereitstellungsprozess zu automatisieren und ihn effizienter, zuverl\u00e4ssiger und skalierbarer zu machen. Zu den Kernprinzipien von DevOps geh\u00f6ren: Zusammenarbeit, Automatisierung, kontinuierliche Tests, \u00dcberwachung und Orchestrierung der Bereitstellung.<\/p>\n<\/div> MLOps, kurz f\u00fcr Machine Learning Operations, ist eine Erweiterung der DevOps-Praktiken, die speziell auf das Lebenszyklusmanagement von Machine Learning-Modellen zugeschnitten ist. Es befasst sich mit den einzigartigen Herausforderungen, die sich aus dem iterativen und experimentellen Charakter der Entwicklung von maschinellem Lernen ergeben. Es werden zus\u00e4tzliche Aufgaben wie data-Versionierung und -Verwaltung sowie Experimentieren und Modelltraining eingef\u00fchrt.<\/p>\n<\/div> LLMOps, kurz f\u00fcr Large Language Model Operations, ist ein spezialisierter Zweig von MLOps, der speziell f\u00fcr die besonderen Herausforderungen und Anforderungen der Verwaltung gro\u00dfer Sprachmodelle (LLMs) entwickelt wurde.<\/p>\n<\/div> LLMs sind eine Art von Deep-Learning-Modellen, die riesige Mengen von Text data verwenden, um Milliarden von Parametern zu sch\u00e4tzen. Diese Parameter erm\u00f6glichen es LLMs, Texte in menschlicher Qualit\u00e4t zu verstehen und zu generieren, Sprachen zu \u00fcbersetzen, komplexe Informationen zusammenzufassen und verschiedene Aufgaben der nat\u00fcrlichen Sprachverarbeitung durchzuf\u00fchren.<\/p>\n<\/div> Da es extrem teuer und zeitaufw\u00e4ndig ist, LLMs von Grund auf zu trainieren, entscheiden sich Unternehmen f\u00fcr vortrainierte Basismodelle, wie z.B. GPT von OpenAI oder LaMDA von Google AI, als Ausgangspunkt. Diese Modelle, die bereits auf gro\u00dfen Mengen von data trainiert wurden, verf\u00fcgen \u00fcber ein umfangreiches Wissen und k\u00f6nnen verschiedene Aufgaben ausf\u00fchren, wie z.B. die Generierung von Text, die \u00dcbersetzung von Sprachen und das Schreiben verschiedener Arten von kreativen Inhalten. Zur weiteren Anpassung der LLM-Ausgabe an bestimmte Aufgaben oder Bereiche setzen Unternehmen Techniken wie Prompt Engineering, Retrieval-Augmented Generation (RAG) und Fine-Tuning ein. Prompt Engineering beinhaltet die Erstellung klarer und pr\u00e4ziser Anweisungen, die das LLM zum gew\u00fcnschten Ergebnis f\u00fchren, w\u00e4hrend RAG das Modell auf zus\u00e4tzliche Informationen aus externen data-Quellen st\u00fctzt und so seine Leistung und Relevanz verbessert. Bei der Feinabstimmung hingegen werden die Parameter des LLM mit zus\u00e4tzlichen data speziell f\u00fcr die Bed\u00fcrfnisse des Unternehmens angepasst. Das nachstehende Schema bietet einen \u00dcberblick \u00fcber den LLMOps-Workflow und veranschaulicht, wie diese Techniken in den Gesamtprozess integriert werden.<\/p>\n<\/div> Die rasanten Fortschritte in der LLM-Technologie haben einige operative Herausforderungen ans Licht gebracht, die spezielle Ans\u00e4tze erfordern.<\/p>\n Einige dieser Herausforderungen sind:<\/p>\n<\/div> Der Bedarf an Personalisierung<\/strong>: LLMs sind zwar auf riesigen Mengen von data vortrainiert, aber f\u00fcr eine optimale Leistung bei spezifischen Aufgaben ist eine Anpassung unerl\u00e4sslich. Dies hat zur Entwicklung von neuen Anpassungstechniken gef\u00fchrt, wie z.B. schnelle Technik<\/strong>, Abruf-erweiterte Generierung (RAG<\/strong>) und Feinabstimmung<\/strong>. RAG hilft dabei, das Modell auf die genauesten Informationen zu gr\u00fcnden, indem es ihm eine externe Wissensbasis zur Verf\u00fcgung stellt, w\u00e4hrend die Feinabstimmung besser geeignet ist, wenn wir m\u00f6chten, dass das Modell bestimmte Aufgaben erf\u00fcllt oder ein bestimmtes Antwortformat wie JSON oder SQL befolgt. Die Wahl zwischen RAG und Feinabstimmung h\u00e4ngt davon ab, ob wir das Wissen des Modells erweitern oder seine Leistung bei einer bestimmten Aufgabe verbessern wollen.<\/p>\n<\/div><\/li> API-\u00c4nderungen<\/strong>: Im Gegensatz zu herk\u00f6mmlichen ML-Modellen erfolgt der Zugriff auf LLMs h\u00e4ufig \u00fcber APIs von Drittanbietern, die ge\u00e4ndert oder sogar veraltet sein k\u00f6nnen, was eine kontinuierliche \u00dcberwachung und Anpassung erforderlich macht. Zum Beispiel, \u00d6ffnen Sie die Dokumentation von AI<\/a> weist ausdr\u00fccklich darauf hin, dass ihre Modelle regelm\u00e4\u00dfig aktualisiert werden, was dazu f\u00fchren kann, dass Benutzer ihre Software aktualisieren oder auf neuere Modelle oder Endger\u00e4te umsteigen m\u00fcssen.<\/p>\n<\/div><\/li> Data Drift<\/strong>, bezieht sich auf eine Verschiebung der statistischen Eigenschaften des eingegebenen data, die h\u00e4ufig in der Produktion auftritt, wenn der angetroffene data von dem data abweicht, auf dem die LLMs trainiert wurden. Dies kann dazu f\u00fchren, dass ungenaue oder veraltete Informationen generiert werden. Beim Modell GPT-3.5 zum Beispiel waren die Informationen bis September 2021 begrenzt, bevor der Stichtag wurde bis Januar 2022 verl\u00e4ngert<\/a>. Folglich konnte es keine Fragen zu neueren Ereignissen beantworten, was zu Frustration bei den Benutzern f\u00fchrte.<\/p>\n<\/div><\/li> Bewertung des Modells<\/strong>: Beim traditionellen maschinellen Lernen verlassen wir uns auf Metriken wie Genauigkeit, Pr\u00e4zision und Wiedererkennung, um unsere Modelle zu bewerten. Die Bewertung von LLMs ist jedoch wesentlich komplizierter, vor allem, wenn keine Grundwahrheit data vorliegt und wenn es sich um nat\u00fcrliche Sprachausgaben und nicht um numerische Werte handelt.<\/p>\n<\/div><\/li> \u00dcberwachung<\/strong>: Die kontinuierliche \u00dcberwachung von LLMs und LLM-basierten Anwendungen ist entscheidend. Sie ist auch komplizierter, denn sie umfasst mehrere Aspekte, die ber\u00fccksichtigt werden m\u00fcssen, um die allgemeine Effektivit\u00e4t und Zuverl\u00e4ssigkeit dieser Sprachmodelle zu gew\u00e4hrleisten. Wir werden diese Aspekte im n\u00e4chsten Abschnitt n\u00e4her erl\u00e4utern.<\/p>\n<\/div><\/li><\/ul> LLMOps baut auf dem Fundament von MLOps auf und f\u00fchrt gleichzeitig spezielle Komponenten ein, die auf LLMs zugeschnitten sind:<\/p>\n<\/div> Promptes Management von Technik und Feinabstimmung<\/strong>: LLMOps bietet Tools wie zeitnahe Versionskontrollsysteme<\/strong> um verschiedene Versionen von Prompts zu verfolgen und zu verwalten. Es l\u00e4sst sich auch integrieren mit Rahmenbedingungen f\u00fcr die Feinabstimmung<\/strong> um den Feinabstimmungsprozess zu automatisieren und zu optimieren. Ein herausragendes Beispiel f\u00fcr diese Tools ist LangSmith, ein Framework, das speziell f\u00fcr die Verwaltung von LLM-Workflows entwickelt wurde. Seine umfassenden Funktionen umfassen Promptes Versionieren<\/a>, und erm\u00f6glicht kontrollierte Experimente und Reproduzierbarkeit. Dar\u00fcber hinaus erleichtert LangSmith Feinabstimmung<\/a> von LLMs unter Verwendung von runs'data nach eventueller Filterung und Anreicherung zur Verbesserung der Modellleistung.<\/p>\n<\/div><\/li> Verwaltung von API-\u00c4nderungen<\/strong>: LLMOps legt Prozesse fest f\u00fcr \u00dcberwachung<\/strong> API-\u00c4nderungen, Alarmierung<\/strong> Betreiber auf m\u00f6gliche St\u00f6rungen und Rollbacks aktivieren<\/strong> falls erforderlich.<\/p>\n<\/div><\/li> Anpassung des Modells an Ver\u00e4nderungen data<\/strong>: LLMOps erleichtert die Anpassung von LLMs an sich entwickelnde data-Landschaften und stellt sicher, dass die Modelle relevant und leistungsf\u00e4hig bleiben, wenn sich die data-Muster \u00e4ndern. Dies k\u00f6nnte erreicht werden durch \u00dcberwachung der data-Verteilung und Ausl\u00f6sung von Anpassungsprozessen<\/strong> wenn signifikante Ver\u00e4nderungen festgestellt werden. Diese Prozesse k\u00f6nnen umfassen: LLM-spezifische Bewertung<\/strong>: LLMOps setzt neue, an LLMs angepasste Bewertungsinstrumente ein. Dazu geh\u00f6ren: LLM-spezifische \u00dcberwachung<\/strong>: LLMOps integriert eine kontinuierliche \u00dcberwachung, um LLM-Leistungsmetriken zu verfolgen, potenzielle Probleme zu identifizieren und Konzeptabweichungen oder Verzerrungen zu erkennen. Dies beinhaltet: Diese \u00dcberwachung data kann zur Verbesserung der betrieblichen Effizienz genutzt werden. Wir k\u00f6nnen das Kostenmanagement verbessern, indem wir Warnungen \u00fcber die Verwendung von Token implementieren und Strategien wie das Zwischenspeichern fr\u00fcherer Antworten anwenden. So k\u00f6nnen wir sie f\u00fcr \u00e4hnliche Abfragen wiederverwenden, ohne den LLM erneut aufrufen zu m\u00fcssen. Au\u00dferdem k\u00f6nnen wir die Latenzzeit minimieren, indem wir uns f\u00fcr kleinere Modelle entscheiden, wann immer dies m\u00f6glich ist, und die Anzahl der generierten Token einschr\u00e4nken.<\/p>\n<\/div> In diesem Artikel haben wir uns mit der Entstehung von LLMOps besch\u00e4ftigt, einem Abk\u00f6mmling von DevOps und MLOps, der speziell f\u00fcr die Bew\u00e4ltigung der operativen Herausforderungen gro\u00dfer Sprachmodelle entwickelt wurde. Lassen Sie uns abschlie\u00dfend einen visuellen Vergleich dieser drei Methoden anstellen, um ihren Anwendungsbereich im Kontext von LLM-Anwenderunternehmen zu veranschaulichen, die diese Modelle zur Erstellung von Produkten und zur L\u00f6sung von Gesch\u00e4ftsproblemen einsetzen.<\/p>\n<\/div> Die drei Methoden haben zwar gemeinsame Praktiken wie CI\/CD, Versionierung und Evaluierung, aber sie haben jeweils unterschiedliche Schwerpunkte. DevOps umfasst den gesamten Lebenszyklus der Softwareentwicklung, von der Entwicklung bis zur Bereitstellung und Wartung. MLOps erweitert DevOps, um die spezifischen Herausforderungen von Modellen f\u00fcr maschinelles Lernen anzugehen, einschlie\u00dflich der Automatisierung von Modelltraining, Bereitstellung und \u00dcberwachung. LLMOps, die j\u00fcngste Weiterentwicklung dieser Methoden, konzentriert sich speziell auf LLMs. Auch wenn LLM-Anwenderunternehmen keine eigenen Modelle entwickeln m\u00fcssen, stehen sie dennoch vor operativen Herausforderungen, einschlie\u00dflich der Verwaltung von API-\u00c4nderungen und der Anpassung von Modellen durch Techniken wie Prompt Engineering und Feinabstimmung.<\/p>\n<\/div><\/div><\/div><\/div><\/article>Grundlegende Prinzipien f\u00fcr LLMOps : DevOps und MLOps<\/h2><\/div>
LLMOps: Verwaltung der Bereitstellung und Pflege von gro\u00dfen Sprachmodellen<\/h2><\/div>
Aber zun\u00e4chst einmal: Was genau sind LLMs?<\/h2><\/div>
Wie Organisationen LLMs nutzen<\/h2><\/div>
<\/span><\/div>Warum wir LLMOps brauchen<\/h2><\/div>
Wie LLMOps diese Herausforderungen angeht<\/h2><\/div>
\n-> Umschulung oder Feinabstimmung<\/strong>: Je nach Ausma\u00df der data-Drift und den verf\u00fcgbaren Ressourcen kann entweder eine Umschulung oder eine Feinabstimmung vorgenommen werden, um die Auswirkungen zu mildern.
\n-> Dom\u00e4nenanpassung<\/strong>: Feinabstimmung des LLM auf einem dataset aus der Zieldom\u00e4ne.
\n-> Wissen destillieren<\/strong>: Trainieren Sie ein kleineres Modell, indem Sie das Wissen und die Erfahrung eines gr\u00f6\u00dferen, leistungsf\u00e4higeren und aktuelleren Modells nutzen.<\/p>\n<\/div><\/li>
\n-> Textbasierte Metriken<\/strong>, Ein statistisches Ma\u00df daf\u00fcr, wie gut das Modell in der Lage ist, das n\u00e4chste Wort in einer Sequenz vorherzusagen. Sowie BLEU- und ROUGE-Metriken, die maschinell erstellten Text mit einem oder mehreren von Menschen erstellten Referenztexten vergleichen. Sie werden in der Regel f\u00fcr \u00dcbersetzungs- und Zusammenfassungsaufgaben verwendet.
\n-> Analysieren von Einbettungen<\/strong> (Vektordarstellungen f\u00fcr W\u00f6rter oder Phrasen), um die F\u00e4higkeit des Modells zu bewerten, kontextspezifische W\u00f6rter zu verstehen und semantische \u00c4hnlichkeiten zu erfassen. Visualisierungs- und Clustering-Techniken k\u00f6nnen uns auch bei der Erkennung von Verzerrungen helfen.
\n-> Bewerter LLMs<\/strong>: Verwendung anderer LLMs zur Bewertung unseres Modells. Dies kann z.B. dadurch geschehen, dass wir der Ausgabe des bewerteten Modells eine Punktzahl zuweisen, die auf vordefinierten Metriken basiert, wie z.B. Gel\u00e4ufigkeit, Koh\u00e4renz, Relevanz und sachliche Richtigkeit.
\n-> Integration von menschlichem Feedback<\/strong>: LLMOps beinhaltet Mechanismen, um menschliches Feedback zu sammeln und in den ML-Lebenszyklus einzubeziehen, die LLM-Leistung zu verbessern und Verzerrungen zu beseitigen.
\nTruLens<\/a> ist ein Tool, das die Integration dieser Auswertungen in LLM-Anwendungen durch einen programmatischen Ansatz erm\u00f6glicht, der als Feedback-Funktionen bekannt ist.<\/p>\n<\/div><\/li>
\n-> Funktionelle \u00dcberwachung<\/strong>; indem Sie die Anzahl der Anfragen, die Antwortzeit, die Verwendung von Token, die Fehlerraten und die Kosten verfolgen.
\n-> Prompte \u00dcberwachung<\/strong>; um die Lesbarkeit zu gew\u00e4hrleisten und um Toxizit\u00e4t und andere Formen des Missbrauchs zu erkennen. W&B Prompts<\/a> ist eine Reihe von Tools, die f\u00fcr die \u00dcberwachung von LLM-basierten Anwendungen entwickelt wurden. Sie k\u00f6nnen damit die Eingaben und Ausgaben Ihrer LLMs analysieren, die Zwischenergebnisse einsehen und Ihre Prompts sicher speichern und verwalten.
\n-> \u00dcberwachung der Reaktion<\/strong>; um die Relevanz und Konsistenz des Modells zu gew\u00e4hrleisten. Dazu geh\u00f6rt auch, die Erzeugung halluzinatorischer oder fiktiver Inhalte zu verhindern und den Ausschluss von sch\u00e4dlichem oder unangemessenem Material sicherzustellen. Transparenz kann uns helfen, die Reaktion des Modells besser zu verstehen. Sie kann hergestellt werden, indem man Antwortquellen (in RAG) offenlegt oder das Modell auffordert, seine Argumentation zu begr\u00fcnden (Gedankenkette).<\/p>\n<\/div><\/li><\/ul>Fazit<\/h2><\/div>
<\/span><\/div>
![](\"https:\/\/artefact.com\/\/wp-content\/uploads\/2021\/03\/medium.png\" "\\"mittel\\"")
<\/span><\/div>