Zum Inhalt springen
AI.info

The Pulse

LangChains LangSmith Tool Gateway geht in den Plus- und Enterprise-Tarifen in die Beta

Das LangSmith Tool Gateway leitet Tool-Aufrufe von KI-Agenten über eine verwaltete Ebene für Zugangsdaten, Zugriffsrichtlinien und optionale Traces. Die öffentliche Beta ist in ausgewählten Cloud-Regionen für die Plus- und Enterprise-Tarife verfügbar.

LangChains LangSmith Tool Gateway geht in den Plus- und Enterprise-Tarifen in die Beta

Mit der öffentlichen Beta des LangSmith Tool Gateway können KI-Agenten Tool-Anfragen über eine verwaltete Ebene für Zugangsdaten, Zugriffsrichtlinien und optionale Traces leiten. LangChain hat die Funktion am 19. November als Teil seiner LangSmith Agent Platform veröffentlicht.

Die öffentliche Beta ist für die LangSmith-Plus- und Enterprise-Tarife verfügbar. Sie läuft in LangSmith Cloud in den Regionen GCP US, GCP EU, GCP APAC und AWS US, ist aber in der Region Azure US nicht verfügbar.

Eine Verbindung zu Agenten-Tools

Das Gateway sitzt zwischen Agenten und den MCP-Servern, die sie aufrufen. Es identifiziert die Aufrufer, wendet Richtlinien an, fügt gespeicherte Zugangsdaten hinzu und leitet zulässige Anfragen an den jeweiligen Server weiter.

LangChain positioniert es neben seinem bestehenden LLM Gateway, das Modellaufrufe steuert und Funktionen wie Ausgabenlimits, Ratenbegrenzungen sowie die Schwärzung persönlicher Daten und Geheimnisse bietet. Das Tool Gateway konzentriert sich dagegen auf die Tools, die Agenten verwenden, und kann Informationen zu diesen Aufrufen zu Agenten-Traces hinzufügen.

Nutzer können einen MCP-Server per URL registrieren oder einen integrierten Server aktivieren. Ein Tool-Kit bündelt ausgewählte Tools von Servern und stellt sie unter einer MCP-URL bereit; es kann mit einem Workspace geteilt oder für den persönlichen Gebrauch genutzt werden. In einem Suchmodus kann ein Agent sein Kit abfragen und die für die aktuelle Aufgabe relevanten Tools laden, statt gleich die gesamte Liste zu laden.

Das Unternehmen hostet integrierte Server für Dienste wie Google, Microsoft, Salesforce, GitHub und Linear. Zu den weiteren in der Ankündigung aufgeführten integrierten Funktionen gehören Suchdienste und das Auslesen von Webseiten; für einige ist ein API-Schlüssel erforderlich.

Zugangsdaten und Steuerungsmöglichkeiten

Das Gateway kann ein Tool mit den Zugangsdaten eines einzelnen Nutzers aufrufen; ein Identitätsanbieter identifiziert dabei den Nutzer. Bei Agenten, die ohne angemeldete Person laufen, kann ein Administrator Zugangsdaten für den Agenten hinterlegen oder ein Profil mit gemeinsam genutzten Zugangsdaten einrichten.

Wenn das Konto eines Nutzers nicht verbunden wurde, gibt der Aufruf einen Anmeldelink zurück. Fehlt einem Agenten oder Profil die erforderliche Zugangsinformation, muss ein Administrator sie verbinden, bevor der Agent das Tool aufrufen kann, heißt es in der Dokumentation.

Administratoren können Ablehnungsrichtlinien für Nutzer, Dienstschlüssel oder Kombinationen davon auf Organisations- oder Workspace-Ebene festlegen. Genehmigungsrichtlinien können den Nutzer im MCP-Client auffordern, einen Aufruf vor seiner Ausführung zu bestätigen. Eine Genehmigung durch einen separaten Prüfer ist nicht verfügbar.

Ein Kit legt fest, welche Tools ein Agent sieht, ist aber selbst keine Zugriffskontrolle: Derselbe Aufrufer kann einen anderen Endpunkt erreichen, der alle für diesen Aufrufer verfügbaren Tools bereitstellt. Tools sind standardmäßig zugelassen; Richtlinien legen fest, welche Tools ein Aufrufer verwenden darf. Wenn mehrere Richtlinien zutreffen, hat eine Ablehnungsrichtlinie Vorrang.

Protokolle und Einschränkungen der Beta

Wenn das Tracing von Tool-Aufrufen aktiviert ist, zeichnet das Gateway unter anderem das Tool, den Server, den Nutzer, das Ergebnis und die Dauer auf. Der Trace erfasst weder die an das Tool gesendeten noch die von ihm zurückgegebenen Daten. Enterprise-Tarife umfassen außerdem ein Audit-Protokoll, das für die gesamte Organisation festhält, welches Tool ausgeführt wurde und wessen Identität es verwendet hat.

Die Beta verbindet sich über Streamable HTTP over HTTPS mit entfernten MCP-Servern. Zu den dokumentierten Limits gehören eine Anfragengröße von 1 MB, eine Antwortgröße von 8 MB und eine Zeitüberschreitung von 60 Sekunden, bis der Server mit der Antwort beginnt. Das angegebene Ratenlimit beträgt 100 Anfragen pro Sekunde, mit Spitzen von bis zu 1.000.

Quellen

  1. Originalquelle · Blogbeitrag LangChain · Langsmith tool gateway langchain.com

Weitere gelesene Seiten

  1. LangChain · Seite 2 docs.langchain.com
  2. LangChain · Tool gateway how it works docs.langchain.com

Unternehmen in dieser Meldung

Verwandte Meldungen

Entdecken

Weitere Artikel