![\"Image\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/12\/Hasan-Zayour.jpg\")
Einf\u00fchrung<\/h2><\/div>Seit ihrem explosionsartigen Aufkommen Mitte 2022 hat die generative KI schnell weltweite Aufmerksamkeit erlangt. Was sich zun\u00e4chst auf die Sprachmodalit\u00e4t konzentrierte, hat sich inzwischen auf spannende neue Bereiche ausgeweitet, darunter Bild-, Audio- und Videomodelle. Anfang 2023 wurden die Spekulationen \u00fcber die potenziellen Auswirkungen der Technologie auf Unternehmen in verschiedenen Branchen immer lauter, begleitet von spannenden ersten Anwendungsf\u00e4llen. Als mehr Entwickler begannen, L\u00f6sungen mit diesen Modellen zu entwickeln, verschob sich die allgemeine Wahrnehmung in Richtung der kontinuierlichen Entwicklung neuer, gr\u00f6\u00dferer und hoffentlich besserer Versionen der am h\u00e4ufigsten verwendeten Modelle.<\/p>\n<\/div>
Auf dem Weg ins Jahr 2024 hat sich eine wichtige Erkenntnis herauskristallisiert: Beim Einsatz von KI geht es nicht einfach darum, das neueste, gr\u00f6\u00dfte Modell von der Stange zu \u00fcbernehmen. Man geht zwar h\u00e4ufig davon aus, dass KI-L\u00f6sungen von der Stange sind oder dass eine gr\u00f6\u00dfere Modellgr\u00f6\u00dfe automatisch zu besseren Ergebnissen f\u00fchrt, aber dieser Ansatz wird den speziellen Anforderungen der meisten Unternehmen kaum gerecht. In Wirklichkeit erfordern erfolgreiche Anwendungen KI-L\u00f6sungen, die ma\u00dfgeschneidert, flexibel und effizient sind.<\/p>\n<\/div>
Um dies zu erreichen, wenden wir uns an Zusammengesetzte AI-Systeme<\/strong>. Im Gegensatz zu einzelnen, monolithischen Modellen integrieren zusammengesetzte KI-Systeme mehrere spezialisierte KI-Komponenten, die jeweils f\u00fcr eine bestimmte Aufgabe optimiert sind. Diese Struktur gew\u00e4hrleistet ein hohes Ma\u00df an Anpassungsf\u00e4higkeit, Anpassungsf\u00e4higkeit und Pr\u00e4zision und verwandelt KI von einem allgemeinen Werkzeug in eine zweckgebundene L\u00f6sung. Durch die Kombination kleinerer, miteinander verbundener KI-Komponenten k\u00f6nnen Unternehmen Leistungen und Ergebnisse erzielen, die weit \u00fcber die M\u00f6glichkeiten von Standardmodellen hinausgehen. Daher argumentieren wir, dass eine strategische Vision f\u00fcr eine optimale Auswirkung auf das Gesch\u00e4ft \u00fcber alle Branchen hinweg intelligenteren Systemdesigns den Vorrang vor dem einfachen Aufbau gr\u00f6\u00dferer, rechenintensiverer Modelle geben sollte.<\/p>\n<\/div>Komplexe KI-Systeme verstehen<\/h2><\/div>Das Berkeley Artificial Intelligence Research Lab (BAIR) definiert ein zusammengesetztes KI-System als ein System \u201cdie KI-Aufgaben unter Verwendung mehrerer interagierender Komponenten bew\u00e4ltigt, einschlie\u00dflich mehrerer Aufrufe von Modellen, Retrievern oder externen Tools\u201d.\u201d<\/a>. Zum Beispiel, Retrieval Augmented Generation (RAG) System<\/a> ist ein zusammengesetztes System, das ein Large Language Model (LLM), einen Information Retrieval-Mechanismus und eine vektorisierte data-Basis kombiniert. Im Gegensatz dazu ist ein generatives KI-Modell ein statistisches Modell<\/a>; Ein LLM sagt beispielsweise das n\u00e4chste Token im Text auf der Grundlage des Trainings data voraus.<\/p>\n<\/div>In diesem Zusammenhang kann ein Modell als ein einzelner Baustein betrachtet werden, w\u00e4hrend ein zusammengesetztes KI-System eher einer Maschine gleicht, die aus mehreren Bausteinen besteht, von denen jeder eine bestimmte Funktion erf\u00fcllt, um das Gesamtziel des Systems zu erreichen.<\/p>\n<\/div>
![\"Compound](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/12\/Compound-AI-Systems-article-image-1.png\" "\\"Zusammengesetzte")
<\/span><\/div>Modelle vs. KI-Verbundsysteme. Quelle<\/a><\/em><\/p>\n<\/div>Wie sind solche Systeme hilfreich?<\/h2><\/div>Spezialisierung: Ein gro\u00dfer Hammer ist nicht das richtige Werkzeug f\u00fcr alles<\/strong><\/h3><\/div>Wenn es um spezifische Anwendungen oder Branchenbed\u00fcrfnisse geht, reicht es m\u00f6glicherweise nicht aus, sich auf ein Allzweck-KI-Modell wie GPT-4 zu verlassen. Solche Modelle sind zwar leistungsf\u00e4hig, aber sie sind f\u00fcr eine breite Palette von Aufgaben konzipiert und verf\u00fcgen m\u00f6glicherweise nicht \u00fcber das f\u00fcr bestimmte Anwendungen erforderliche Spezialwissen, was ab einem bestimmten Punkt zu einem abnehmenden Nutzen f\u00fchrt.<\/p>\n<\/div>
Ein Finanzinstitut beispielsweise, das einen Chatbot f\u00fcr die Anlageanalyse oder die Verm\u00f6gensverwaltung entwickeln m\u00f6chte, ben\u00f6tigt ein System, das sowohl Fachwissen als auch unternehmensspezifisches Know-how umfasst. Angesichts der Art der Branche g\u00e4be es Bedenken in Bezug auf den Datenschutz (das Unternehmen ben\u00f6tigt m\u00f6glicherweise L\u00f6sungen vor Ort und die ausschlie\u00dfliche Verwendung offener Modelle), die Genauigkeit (die L\u00f6sungen m\u00fcssen tadellos genau sein) und die Effizienz. Die Verwendung selbst der leistungsf\u00e4higsten Sprachmodelle als Einzell\u00f6sung w\u00e4re definitiv nicht die optimale Wahl. Stattdessen k\u00f6nnte ein zusammengesetztes KI-System durch die Integration mehrerer spezialisierter Komponenten, wie Retrieval-Augmented Generation (RAG)-Systeme und ma\u00dfgeschneiderte KI-Agenten, sehr effektiv sein. Dieser Ansatz gew\u00e4hrleistet, dass jeder Teil des Systems f\u00fcr seine spezifische Rolle optimiert ist.<\/p>\n<\/div>
Flexibilit\u00e4t: Modulare Systeme passen sich m\u00fchelos an ver\u00e4nderte Bed\u00fcrfnisse an<\/strong><\/h3><\/div>Wenn ein System aus modularen Komponenten aufgebaut ist, ist es viel einfacher, einzelne Teile zu ersetzen oder aufzur\u00fcsten. Das gleiche Prinzip gilt f\u00fcr zusammengesetzte KI-Systeme, die aus mehreren Bl\u00f6cken aufgebaut sind. Wenn eine Komponente innerhalb einer zusammengesetzten KI-L\u00f6sung veraltet ist oder neue Compliance-Anforderungen nicht mehr erf\u00fcllt, kann sie ersetzt werden, ohne dass das gesamte System \u00fcberholt werden muss. Wenn zum Beispiel ein neues, besser geeignetes Modell verf\u00fcgbar wird, kann es in das System integriert werden und die \u00e4ltere Version ersetzen. Wenn ein effizienterer Mechanismus zum Abrufen von Informationen entwickelt wird, kann er ebenfalls ausgetauscht werden, ohne dass das gesamte System unterbrochen werden muss. Diese Flexibilit\u00e4t erstreckt sich nicht nur auf Modelle und Abfragesysteme, sondern auch auf andere Komponenten, wie z.B. data-Verarbeitungseinheiten, Analysemodule oder Compliance-Module.<\/p>\n<\/div>
Skalierbarkeit: Schw\u00e4rme von intelligenten Komponenten \u00fcbertreffen einen einzelnen Riesen<\/strong><\/h3><\/div>Der modulare Charakter von Compound AI-Systemen bietet erhebliche Vorteile bei der Skalierbarkeit. Da die einzelnen Komponenten unabh\u00e4ngig voneinander skaliert werden k\u00f6nnen, k\u00f6nnen diese Systeme steigende data-Volumina und Komplexit\u00e4t effizient bew\u00e4ltigen, ohne dass eine komplette \u00dcberholung erforderlich ist.<\/p>\n<\/div>
Ein System kann skaliert werden, indem es in ein Netzwerk von Systemen repliziert wird, was theoretisch eine unendliche Skalierbarkeit erm\u00f6glicht. Aus diesem Grund kann ein einzelnes Sprachmodell, egal wie gro\u00df oder leistungsstark es ist (Stand heute), eine sehr gro\u00dfe data-Datenbank nicht effektiv nach einer bestimmten Information durchsuchen. Um die Suchf\u00e4higkeiten eines Modells zu erweitern, m\u00fcssen Sie zwangsl\u00e4ufig ein Mehrkomponentensystem erstellen, um die Suchfunktion zu verbessern. Wenn selbst einfachste Aufgaben, wie die Informationsbeschaffung, von einem einzelnen Modell nicht effektiv skaliert werden k\u00f6nnen, wird klar, dass einzelne Komponenten f\u00fcr sich genommen keine gro\u00dfen, komplexen Anwendungen unterst\u00fctzen k\u00f6nnen.<\/p>\n<\/div>
Warum Compound AI-Systeme gesch\u00e4ftlich sinnvoll sind<\/h2><\/div>Aus gesch\u00e4ftlicher Sicht geht der Einsatz von Compound AI-Systemen \u00fcber technische Raffinesse hinaus - er bietet strategische Vorteile, die direkt mit den Gesch\u00e4ftszielen \u00fcbereinstimmen. Man k\u00f6nnte sogar argumentieren, dass ein Unternehmen, das generative KI nutzen m\u00f6chte, keine andere Wahl hat, als ein zusammengesetztes System zu bauen (oder zu kaufen). Dies mag zwar einfach erscheinen, stellt aber die g\u00e4ngige Annahme in Frage, dass eigenst\u00e4ndige Modelle von der Stange ausreichen, um spezielle Anforderungen zu erf\u00fcllen.<\/p>\n<\/div>
Verbesserte Kundenzufriedenheit<\/strong><\/h3><\/div>Die fortschrittlichsten KI-Modelle allein k\u00f6nnen kein personalisiertes Erlebnis schaffen. Dies kann nur durch ein zusammengesetztes System erreicht werden, das die Bereitstellung hochgradig ma\u00dfgeschneiderter und kontextbezogener Kundenerlebnisse erm\u00f6glicht. Zum Beispiel Microsofts Benutzerdefinierte neuronale Stimme<\/a> kombiniert allgemeine LLMs mit individuellem Stimmtraining und erm\u00f6glicht es Marken, digitale Assistenten zu erstellen, die genau auf ihren einzigartigen Ton und Stil abgestimmt sind. Dieses Ma\u00df an Individualisierung ist besonders in kundenorientierten Branchen wie der Werbung von Vorteil, wo Kunden positiv reagieren, wenn sie sich besonders angesprochen und verstanden f\u00fchlen. Aus gesch\u00e4ftlicher Sicht f\u00fchrt die Kombination dieser Technologie mit der M\u00f6glichkeit, Kontext hinzuzuf\u00fcgen, zu personalisierten Ergebnissen, die letztlich die Kundenzufriedenheit erh\u00f6hen.<\/p>\n<\/div>Kosteneffizienz <\/strong><\/h3><\/div>Im Gegensatz zu Einzelmodellen, die ein festes Qualit\u00e4tsniveau zu festen Kosten bieten, bietet Compound AI flexible Kosten-Qualit\u00e4ts-Konfigurationen. So k\u00f6nnen Unternehmen beispielsweise ein kleineres, auf Anweisungen abgestimmtes Modell mit spezialisierten Komponenten wie Suchheuristiken integrieren, um qualitativ hochwertige Ergebnisse zu niedrigeren Kosten zu erzielen als mit gr\u00f6\u00dferen, eigenst\u00e4ndigen Modellen. Diese Flexibilit\u00e4t erm\u00f6glicht den Einsatz kleinerer, potenziell quelloffener Modelle, die mit gezieltem Engineering vergleichbare Ergebnisse wie teurere L\u00f6sungen liefern k\u00f6nnen.<\/p>\n<\/div>
Mehr Kontrolle und Vertrauen<\/strong><\/h3><\/div>F\u00fcr Unternehmen sind Zuverl\u00e4ssigkeit und Vertrauensw\u00fcrdigkeit der KI-Ergebnisse von entscheidender Bedeutung. Wenn man sich ausschlie\u00dflich auf einzelne Modelle verl\u00e4sst, kann es schwierig sein, durchg\u00e4ngig sachliche, gut formatierte Ergebnisse zu erzielen. Ein fr\u00fcherer Kunde aus dem Bildungssektor bat mich beispielsweise um eine L\u00f6sung f\u00fcr das automatische Ausf\u00fcllen von Bewerbungen auf der Grundlage von data und Informationen der Schule. Zun\u00e4chst verbrachte ich Monate damit, ein sequentielles System zu entwickeln, das auf fortschrittlicher Eingabeaufforderungstechnik basierte, ohne einen zusammengesetzten Ansatz zu verwenden. Die Ergebnisse wurden zwar besser, aber sie reichten nie an das heran, was wir als vollst\u00e4ndig ausgef\u00fcllte Bewerbungen pr\u00e4sentieren konnten. Erst als das Konzept der RAG eingef\u00fchrt wurde, konnten wir vollst\u00e4ndig kontrollierte Ergebnisse vorweisen. Doch selbst RAG allein reichte nicht aus. Es waren zus\u00e4tzliche Komponenten erforderlich, um die Informationen zu kategorisieren, die Kontextkoh\u00e4renz zu wahren und andere Nuancen zu behandeln. Erst dann erreichten wir die Zuverl\u00e4ssigkeit und Pr\u00e4zision, die der Kunde brauchte.<\/p>\n<\/div>
Fazit<\/h2><\/div>Ein Blick auf die aktuelle Landschaft der KI in industriellen Anwendungen zeigt einen klaren Trend: Sich auf ein einziges Modell zu verlassen, um komplexe Funktionen auszuf\u00fchren, erweist sich oft als unzuverl\u00e4ssig. Da die Anwendungsf\u00e4lle immer komplexer werden und die Akzeptanz in den Unternehmen w\u00e4chst, wird die Nachfrage nach hochspezialisierten und leistungsf\u00e4higen KI-L\u00f6sungen steigen. Um diese Nachfrage zu befriedigen, muss eine L\u00f6sungsarchitektur geschaffen werden, die erweiterte und spezialisierte Modelle einbezieht und den Fallstrick eines engen, einseitigen Anwendungsbereichs vermeidet.<\/p>\n<\/div>
Die Entwickler-Community ist voll von aufregenden Anwendungen, die von der Medizin bis zum Einzelhandel reichen und alle durch die Zusammenstellung kleinerer, spezialisierter Komponenten zu leistungsstarken, ma\u00dfgeschneiderten L\u00f6sungen entstehen.<\/p>\n<\/div>
Selbst KI allein ist nicht intelligent genug, um strategische Unternehmensziele zu erreichen. Sie muss durch eine h\u00f6here Form der orchestrierten Intelligenz erg\u00e4nzt werden.<\/p>\n<\/div>
Anhang<\/h2><\/div>Beispiele f\u00fcr Compound AI-Systeme<\/strong><\/h3><\/div>Im Folgenden finden Sie eine Sammlung wirkungsvoller und interessanter zusammengesetzter KI-Systeme, die den Nutzen dieses Konzepts verdeutlichen. Unabh\u00e4ngig von der Infrastruktur, die die Entwickler verwenden, geht es darum, zu beobachten, wie die Kombination mehrerer KI-Komponenten mit anderen Tools einen ganz bestimmten Zweck erf\u00fcllen kann.<\/p>\n<\/div>
Retrieval-Augmented Generation (RAG)<\/span><\/a><\/h4><\/div>RAG verbessert die Ausgabe eines LLM, indem es einen spezifischen Kontext liefert, der aus einer vektorisierten data-Basis stammt, die au\u00dferhalb des urspr\u00fcnglichen Trainings-data des Modells liegt. W\u00e4hrend LLMs auf umfangreichen data-Sets trainiert werden und Milliarden von Parametern nutzen, um Antworten zu generieren, geht RAG noch einen Schritt weiter. Sie erm\u00f6glicht es dem LLM, auf spezifische, aktuelle Informationen zuzugreifen und diese zu referenzieren, unabh\u00e4ngig davon, ob diese dom\u00e4nenspezifisch sind oder aus der internen Wissensbasis eines Unternehmens stammen. Dieser Prozess verbessert die Relevanz, Genauigkeit und N\u00fctzlichkeit der generierten Inhalte erheblich, ohne dass das Modell neu trainiert werden muss.<\/p>\n<\/div>
Unternehmen mit gro\u00dfen data-Sets, die eine effiziente Methode zur Organisation von internem Wissen ben\u00f6tigen, k\u00f6nnen diese L\u00f6sung vor Ort einsetzen und das Modell ihrer Wahl verwenden, um pr\u00e4zise Informationen abzurufen. So k\u00f6nnen Finanzanalysten beispielsweise schnell relevante data in historischen reports finden, ohne diese manuell durchsuchen zu m\u00fcssen. Das um diese Kontextinformationen erweiterte Modell generiert au\u00dferdem genauere und n\u00fctzlichere Antworten und rationalisiert den gesamten Prozess der Informationsbeschaffung.<\/p>\n<\/div>
Im Folgenden sehen Sie eine typische RAG-Architektur:<\/p>\n<\/div>
![\"Article:](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/12\/Compound-AI-Systems-article-image-2.png\" "\\"Artikel:")
<\/span><\/div>Allgemeine RAG-Architektur<\/em><\/p>\n<\/div>Im Folgenden finden Sie eine Tabelle mit einigen g\u00e4ngigen zusammengesetzten AI-Systemen (Quelle<\/a>):<\/p>\n<\/div>![\"Article:](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2024\/12\/Compound-AI-Systems-article-image-3.png\" "\\"Artikel:")
<\/span><\/div>Weitere Lekt\u00fcre \u00fcber andere interessante KI-Systeme<\/strong><\/h3><\/div>
Seit ihrem explosionsartigen Aufkommen Mitte 2022 hat die generative KI schnell weltweite Aufmerksamkeit erlangt. Was sich zun\u00e4chst auf die Sprachmodalit\u00e4t konzentrierte, hat sich inzwischen auf spannende neue Bereiche ausgeweitet, darunter Bild-, Audio- und Videomodelle. Anfang 2023 wurden die Spekulationen \u00fcber die potenziellen Auswirkungen der Technologie auf Unternehmen in verschiedenen Branchen immer lauter, begleitet von spannenden ersten Anwendungsf\u00e4llen. Als mehr Entwickler begannen, L\u00f6sungen mit diesen Modellen zu entwickeln, verschob sich die allgemeine Wahrnehmung in Richtung der kontinuierlichen Entwicklung neuer, gr\u00f6\u00dferer und hoffentlich besserer Versionen der am h\u00e4ufigsten verwendeten Modelle.<\/p>\n<\/div>
Auf dem Weg ins Jahr 2024 hat sich eine wichtige Erkenntnis herauskristallisiert: Beim Einsatz von KI geht es nicht einfach darum, das neueste, gr\u00f6\u00dfte Modell von der Stange zu \u00fcbernehmen. Man geht zwar h\u00e4ufig davon aus, dass KI-L\u00f6sungen von der Stange sind oder dass eine gr\u00f6\u00dfere Modellgr\u00f6\u00dfe automatisch zu besseren Ergebnissen f\u00fchrt, aber dieser Ansatz wird den speziellen Anforderungen der meisten Unternehmen kaum gerecht. In Wirklichkeit erfordern erfolgreiche Anwendungen KI-L\u00f6sungen, die ma\u00dfgeschneidert, flexibel und effizient sind.<\/p>\n<\/div>
Um dies zu erreichen, wenden wir uns an Zusammengesetzte AI-Systeme<\/strong>. Im Gegensatz zu einzelnen, monolithischen Modellen integrieren zusammengesetzte KI-Systeme mehrere spezialisierte KI-Komponenten, die jeweils f\u00fcr eine bestimmte Aufgabe optimiert sind. Diese Struktur gew\u00e4hrleistet ein hohes Ma\u00df an Anpassungsf\u00e4higkeit, Anpassungsf\u00e4higkeit und Pr\u00e4zision und verwandelt KI von einem allgemeinen Werkzeug in eine zweckgebundene L\u00f6sung. Durch die Kombination kleinerer, miteinander verbundener KI-Komponenten k\u00f6nnen Unternehmen Leistungen und Ergebnisse erzielen, die weit \u00fcber die M\u00f6glichkeiten von Standardmodellen hinausgehen. Daher argumentieren wir, dass eine strategische Vision f\u00fcr eine optimale Auswirkung auf das Gesch\u00e4ft \u00fcber alle Branchen hinweg intelligenteren Systemdesigns den Vorrang vor dem einfachen Aufbau gr\u00f6\u00dferer, rechenintensiverer Modelle geben sollte.<\/p>\n<\/div> Das Berkeley Artificial Intelligence Research Lab (BAIR) definiert ein zusammengesetztes KI-System als ein System \u201cdie KI-Aufgaben unter Verwendung mehrerer interagierender Komponenten bew\u00e4ltigt, einschlie\u00dflich mehrerer Aufrufe von Modellen, Retrievern oder externen Tools\u201d.\u201d<\/a>. Zum Beispiel, Retrieval Augmented Generation (RAG) System<\/a> ist ein zusammengesetztes System, das ein Large Language Model (LLM), einen Information Retrieval-Mechanismus und eine vektorisierte data-Basis kombiniert. Im Gegensatz dazu ist ein generatives KI-Modell ein statistisches Modell<\/a>; Ein LLM sagt beispielsweise das n\u00e4chste Token im Text auf der Grundlage des Trainings data voraus.<\/p>\n<\/div> In diesem Zusammenhang kann ein Modell als ein einzelner Baustein betrachtet werden, w\u00e4hrend ein zusammengesetztes KI-System eher einer Maschine gleicht, die aus mehreren Bausteinen besteht, von denen jeder eine bestimmte Funktion erf\u00fcllt, um das Gesamtziel des Systems zu erreichen.<\/p>\n<\/div> Modelle vs. KI-Verbundsysteme. Quelle<\/a><\/em><\/p>\n<\/div> Wenn es um spezifische Anwendungen oder Branchenbed\u00fcrfnisse geht, reicht es m\u00f6glicherweise nicht aus, sich auf ein Allzweck-KI-Modell wie GPT-4 zu verlassen. Solche Modelle sind zwar leistungsf\u00e4hig, aber sie sind f\u00fcr eine breite Palette von Aufgaben konzipiert und verf\u00fcgen m\u00f6glicherweise nicht \u00fcber das f\u00fcr bestimmte Anwendungen erforderliche Spezialwissen, was ab einem bestimmten Punkt zu einem abnehmenden Nutzen f\u00fchrt.<\/p>\n<\/div> Ein Finanzinstitut beispielsweise, das einen Chatbot f\u00fcr die Anlageanalyse oder die Verm\u00f6gensverwaltung entwickeln m\u00f6chte, ben\u00f6tigt ein System, das sowohl Fachwissen als auch unternehmensspezifisches Know-how umfasst. Angesichts der Art der Branche g\u00e4be es Bedenken in Bezug auf den Datenschutz (das Unternehmen ben\u00f6tigt m\u00f6glicherweise L\u00f6sungen vor Ort und die ausschlie\u00dfliche Verwendung offener Modelle), die Genauigkeit (die L\u00f6sungen m\u00fcssen tadellos genau sein) und die Effizienz. Die Verwendung selbst der leistungsf\u00e4higsten Sprachmodelle als Einzell\u00f6sung w\u00e4re definitiv nicht die optimale Wahl. Stattdessen k\u00f6nnte ein zusammengesetztes KI-System durch die Integration mehrerer spezialisierter Komponenten, wie Retrieval-Augmented Generation (RAG)-Systeme und ma\u00dfgeschneiderte KI-Agenten, sehr effektiv sein. Dieser Ansatz gew\u00e4hrleistet, dass jeder Teil des Systems f\u00fcr seine spezifische Rolle optimiert ist.<\/p>\n<\/div> Wenn ein System aus modularen Komponenten aufgebaut ist, ist es viel einfacher, einzelne Teile zu ersetzen oder aufzur\u00fcsten. Das gleiche Prinzip gilt f\u00fcr zusammengesetzte KI-Systeme, die aus mehreren Bl\u00f6cken aufgebaut sind. Wenn eine Komponente innerhalb einer zusammengesetzten KI-L\u00f6sung veraltet ist oder neue Compliance-Anforderungen nicht mehr erf\u00fcllt, kann sie ersetzt werden, ohne dass das gesamte System \u00fcberholt werden muss. Wenn zum Beispiel ein neues, besser geeignetes Modell verf\u00fcgbar wird, kann es in das System integriert werden und die \u00e4ltere Version ersetzen. Wenn ein effizienterer Mechanismus zum Abrufen von Informationen entwickelt wird, kann er ebenfalls ausgetauscht werden, ohne dass das gesamte System unterbrochen werden muss. Diese Flexibilit\u00e4t erstreckt sich nicht nur auf Modelle und Abfragesysteme, sondern auch auf andere Komponenten, wie z.B. data-Verarbeitungseinheiten, Analysemodule oder Compliance-Module.<\/p>\n<\/div> Der modulare Charakter von Compound AI-Systemen bietet erhebliche Vorteile bei der Skalierbarkeit. Da die einzelnen Komponenten unabh\u00e4ngig voneinander skaliert werden k\u00f6nnen, k\u00f6nnen diese Systeme steigende data-Volumina und Komplexit\u00e4t effizient bew\u00e4ltigen, ohne dass eine komplette \u00dcberholung erforderlich ist.<\/p>\n<\/div> Ein System kann skaliert werden, indem es in ein Netzwerk von Systemen repliziert wird, was theoretisch eine unendliche Skalierbarkeit erm\u00f6glicht. Aus diesem Grund kann ein einzelnes Sprachmodell, egal wie gro\u00df oder leistungsstark es ist (Stand heute), eine sehr gro\u00dfe data-Datenbank nicht effektiv nach einer bestimmten Information durchsuchen. Um die Suchf\u00e4higkeiten eines Modells zu erweitern, m\u00fcssen Sie zwangsl\u00e4ufig ein Mehrkomponentensystem erstellen, um die Suchfunktion zu verbessern. Wenn selbst einfachste Aufgaben, wie die Informationsbeschaffung, von einem einzelnen Modell nicht effektiv skaliert werden k\u00f6nnen, wird klar, dass einzelne Komponenten f\u00fcr sich genommen keine gro\u00dfen, komplexen Anwendungen unterst\u00fctzen k\u00f6nnen.<\/p>\n<\/div> Aus gesch\u00e4ftlicher Sicht geht der Einsatz von Compound AI-Systemen \u00fcber technische Raffinesse hinaus - er bietet strategische Vorteile, die direkt mit den Gesch\u00e4ftszielen \u00fcbereinstimmen. Man k\u00f6nnte sogar argumentieren, dass ein Unternehmen, das generative KI nutzen m\u00f6chte, keine andere Wahl hat, als ein zusammengesetztes System zu bauen (oder zu kaufen). Dies mag zwar einfach erscheinen, stellt aber die g\u00e4ngige Annahme in Frage, dass eigenst\u00e4ndige Modelle von der Stange ausreichen, um spezielle Anforderungen zu erf\u00fcllen.<\/p>\n<\/div> Die fortschrittlichsten KI-Modelle allein k\u00f6nnen kein personalisiertes Erlebnis schaffen. Dies kann nur durch ein zusammengesetztes System erreicht werden, das die Bereitstellung hochgradig ma\u00dfgeschneiderter und kontextbezogener Kundenerlebnisse erm\u00f6glicht. Zum Beispiel Microsofts Benutzerdefinierte neuronale Stimme<\/a> kombiniert allgemeine LLMs mit individuellem Stimmtraining und erm\u00f6glicht es Marken, digitale Assistenten zu erstellen, die genau auf ihren einzigartigen Ton und Stil abgestimmt sind. Dieses Ma\u00df an Individualisierung ist besonders in kundenorientierten Branchen wie der Werbung von Vorteil, wo Kunden positiv reagieren, wenn sie sich besonders angesprochen und verstanden f\u00fchlen. Aus gesch\u00e4ftlicher Sicht f\u00fchrt die Kombination dieser Technologie mit der M\u00f6glichkeit, Kontext hinzuzuf\u00fcgen, zu personalisierten Ergebnissen, die letztlich die Kundenzufriedenheit erh\u00f6hen.<\/p>\n<\/div> Im Gegensatz zu Einzelmodellen, die ein festes Qualit\u00e4tsniveau zu festen Kosten bieten, bietet Compound AI flexible Kosten-Qualit\u00e4ts-Konfigurationen. So k\u00f6nnen Unternehmen beispielsweise ein kleineres, auf Anweisungen abgestimmtes Modell mit spezialisierten Komponenten wie Suchheuristiken integrieren, um qualitativ hochwertige Ergebnisse zu niedrigeren Kosten zu erzielen als mit gr\u00f6\u00dferen, eigenst\u00e4ndigen Modellen. Diese Flexibilit\u00e4t erm\u00f6glicht den Einsatz kleinerer, potenziell quelloffener Modelle, die mit gezieltem Engineering vergleichbare Ergebnisse wie teurere L\u00f6sungen liefern k\u00f6nnen.<\/p>\n<\/div> F\u00fcr Unternehmen sind Zuverl\u00e4ssigkeit und Vertrauensw\u00fcrdigkeit der KI-Ergebnisse von entscheidender Bedeutung. Wenn man sich ausschlie\u00dflich auf einzelne Modelle verl\u00e4sst, kann es schwierig sein, durchg\u00e4ngig sachliche, gut formatierte Ergebnisse zu erzielen. Ein fr\u00fcherer Kunde aus dem Bildungssektor bat mich beispielsweise um eine L\u00f6sung f\u00fcr das automatische Ausf\u00fcllen von Bewerbungen auf der Grundlage von data und Informationen der Schule. Zun\u00e4chst verbrachte ich Monate damit, ein sequentielles System zu entwickeln, das auf fortschrittlicher Eingabeaufforderungstechnik basierte, ohne einen zusammengesetzten Ansatz zu verwenden. Die Ergebnisse wurden zwar besser, aber sie reichten nie an das heran, was wir als vollst\u00e4ndig ausgef\u00fcllte Bewerbungen pr\u00e4sentieren konnten. Erst als das Konzept der RAG eingef\u00fchrt wurde, konnten wir vollst\u00e4ndig kontrollierte Ergebnisse vorweisen. Doch selbst RAG allein reichte nicht aus. Es waren zus\u00e4tzliche Komponenten erforderlich, um die Informationen zu kategorisieren, die Kontextkoh\u00e4renz zu wahren und andere Nuancen zu behandeln. Erst dann erreichten wir die Zuverl\u00e4ssigkeit und Pr\u00e4zision, die der Kunde brauchte.<\/p>\n<\/div> Ein Blick auf die aktuelle Landschaft der KI in industriellen Anwendungen zeigt einen klaren Trend: Sich auf ein einziges Modell zu verlassen, um komplexe Funktionen auszuf\u00fchren, erweist sich oft als unzuverl\u00e4ssig. Da die Anwendungsf\u00e4lle immer komplexer werden und die Akzeptanz in den Unternehmen w\u00e4chst, wird die Nachfrage nach hochspezialisierten und leistungsf\u00e4higen KI-L\u00f6sungen steigen. Um diese Nachfrage zu befriedigen, muss eine L\u00f6sungsarchitektur geschaffen werden, die erweiterte und spezialisierte Modelle einbezieht und den Fallstrick eines engen, einseitigen Anwendungsbereichs vermeidet.<\/p>\n<\/div> Die Entwickler-Community ist voll von aufregenden Anwendungen, die von der Medizin bis zum Einzelhandel reichen und alle durch die Zusammenstellung kleinerer, spezialisierter Komponenten zu leistungsstarken, ma\u00dfgeschneiderten L\u00f6sungen entstehen.<\/p>\n<\/div> Selbst KI allein ist nicht intelligent genug, um strategische Unternehmensziele zu erreichen. Sie muss durch eine h\u00f6here Form der orchestrierten Intelligenz erg\u00e4nzt werden.<\/p>\n<\/div> Im Folgenden finden Sie eine Sammlung wirkungsvoller und interessanter zusammengesetzter KI-Systeme, die den Nutzen dieses Konzepts verdeutlichen. Unabh\u00e4ngig von der Infrastruktur, die die Entwickler verwenden, geht es darum, zu beobachten, wie die Kombination mehrerer KI-Komponenten mit anderen Tools einen ganz bestimmten Zweck erf\u00fcllen kann.<\/p>\n<\/div> RAG verbessert die Ausgabe eines LLM, indem es einen spezifischen Kontext liefert, der aus einer vektorisierten data-Basis stammt, die au\u00dferhalb des urspr\u00fcnglichen Trainings-data des Modells liegt. W\u00e4hrend LLMs auf umfangreichen data-Sets trainiert werden und Milliarden von Parametern nutzen, um Antworten zu generieren, geht RAG noch einen Schritt weiter. Sie erm\u00f6glicht es dem LLM, auf spezifische, aktuelle Informationen zuzugreifen und diese zu referenzieren, unabh\u00e4ngig davon, ob diese dom\u00e4nenspezifisch sind oder aus der internen Wissensbasis eines Unternehmens stammen. Dieser Prozess verbessert die Relevanz, Genauigkeit und N\u00fctzlichkeit der generierten Inhalte erheblich, ohne dass das Modell neu trainiert werden muss.<\/p>\n<\/div> Unternehmen mit gro\u00dfen data-Sets, die eine effiziente Methode zur Organisation von internem Wissen ben\u00f6tigen, k\u00f6nnen diese L\u00f6sung vor Ort einsetzen und das Modell ihrer Wahl verwenden, um pr\u00e4zise Informationen abzurufen. So k\u00f6nnen Finanzanalysten beispielsweise schnell relevante data in historischen reports finden, ohne diese manuell durchsuchen zu m\u00fcssen. Das um diese Kontextinformationen erweiterte Modell generiert au\u00dferdem genauere und n\u00fctzlichere Antworten und rationalisiert den gesamten Prozess der Informationsbeschaffung.<\/p>\n<\/div> Im Folgenden sehen Sie eine typische RAG-Architektur:<\/p>\n<\/div> Allgemeine RAG-Architektur<\/em><\/p>\n<\/div> Im Folgenden finden Sie eine Tabelle mit einigen g\u00e4ngigen zusammengesetzten AI-Systemen (Quelle<\/a>):<\/p>\n<\/div>Komplexe KI-Systeme verstehen<\/h2><\/div>
<\/span><\/div>Wie sind solche Systeme hilfreich?<\/h2><\/div>
Spezialisierung: Ein gro\u00dfer Hammer ist nicht das richtige Werkzeug f\u00fcr alles<\/strong><\/h3><\/div>
Flexibilit\u00e4t: Modulare Systeme passen sich m\u00fchelos an ver\u00e4nderte Bed\u00fcrfnisse an<\/strong><\/h3><\/div>
Skalierbarkeit: Schw\u00e4rme von intelligenten Komponenten \u00fcbertreffen einen einzelnen Riesen<\/strong><\/h3><\/div>
Warum Compound AI-Systeme gesch\u00e4ftlich sinnvoll sind<\/h2><\/div>
Verbesserte Kundenzufriedenheit<\/strong><\/h3><\/div>
Kosteneffizienz <\/strong><\/h3><\/div>
Mehr Kontrolle und Vertrauen<\/strong><\/h3><\/div>
Fazit<\/h2><\/div>
Anhang<\/h2><\/div>
Beispiele f\u00fcr Compound AI-Systeme<\/strong><\/h3><\/div>
Retrieval-Augmented Generation (RAG)<\/span><\/a><\/h4><\/div>
<\/span><\/div><\/span><\/div>Weitere Lekt\u00fcre \u00fcber andere interessante KI-Systeme<\/strong><\/h3><\/div>