Sprachmodell-Provider-Management: Bringen Sie Ihr eigenes LLM mit
Verwalten Sie mehrere Sprachmodell-Provider direkt in der UI. Weisen Sie bestimmte Modelle einzelnen Agents zu, rotieren Sie API-Schlüssel ohne Ausfallzeiten und behalten Sie die Kontrolle über Ihren KI-Stack.
Nicht jedes Team möchte für jeden Agent das gleiche Modell verwenden. Einige Aufgaben erfordern ein schnelles, kostengünstiges Modell. Andere profitieren von einem leistungsfähigeren Modell. Und einige Organisationen haben bestehende Vereinbarungen mit spezifischen Providern, die sie einhalten müssen.
Agentwise gibt Ihnen jetzt vollständige Kontrolle über die Sprachmodelle, die Ihre Agenten antreiben – und macht es einfach, das System an Ihre sich ändernden Anforderungen anzupassen.
Was ist neu
Mehrere Provider an einem Ort — Verbindungen zu OpenAI, Azure OpenAI und anderen unterstützten Providern direkt in der Agentwise-UI hinzufügen und verwalten. Keine Notwendigkeit, Konfigurationsdateien zu bearbeiten oder Services neu zu starten.
Modellzuweisung pro Agent — Jeder Agent kann sein eigenes Modell zugewiesen bekommen. Ihr kundengerichteter Agent kann auf einem anderen Modell laufen als Ihr interner HR-Assistent. Sie entscheiden.
Modellgruppierung nach Art — Modelle werden nach ihren Fähigkeiten (Chat, Embedding, Transkription, etc.) organisiert, wodurch es einfach wird, das richtige Modell für die richtige Aufgabe auszuwählen.
Schlüsselrotation ohne Ausfallzeiten — Aktualisieren oder rotieren Sie API-Schlüssel für jeden Provider, ohne laufende Agenten zu unterbrechen. Der Übergang erfolgt sauber im Hintergrund.
Webhook-Endpunkte und Transkriptions-Clients — Die Konfiguration auf Provider-Ebene unterstützt auch Webhook-Endpunkte und Transkriptions-Clients, was Voice- und Echtzeit-Anwendungsfälle neben standardmäßigem Chat ermöglicht.
Warum das wichtig ist
Die KI-Modelllandschaft bewegt sich schnell. Neue Modelle werden häufig veröffentlicht, die Preisgestaltung ändert sich, und was heute das Beste ist, kann in sechs Monaten nicht mehr das Beste sein. Mit Ihrer Provider-Konfiguration in Agentwise – statt in die Infrastruktur eingebettet – können Sie sich anpassen, ohne ein Ingenieursprojekt zu starten.
Es bedeutet auch, dass Organisationen mit Anforderungen zur Datenresidenz sicherstellen können, dass die richtigen Modelle in den richtigen Regionen, unter den richtigen Verträgen laufen.