Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Auf der vorherigen Seite wurde gezeigt, wie das Umschließen eines LLM in einem Agent Ihnen eine dauerhafte Identität, Anweisungen und Sitzungsverwaltung bietet. Aber auch mit all dem kann der Agent nur Inhalte (Text, Bilder usw.) generieren – er kann den heutigen Aktienkurs nicht nachschlagen, eine E-Mail senden oder Ihre Datenbank abfragen. Es antwortet basierend auf dem Wissen, das während des Trainings integriert wurde, und auf jedem Kontext, den Sie in der Eingabeaufforderung bereitstellen.
Tools überbrücken diese Lücke. Sie geben dem Agenten die Möglichkeit, handeln zu können – über seine Schulungsdaten hinaus zu erreichen und mit der realen Welt zu interagieren. Das Hinzufügen von Tools ist der einzige wirkungsvollste Schritt, den Sie ausführen können, um einen Agent wirklich nützlich zu machen.
Wann Sie dies verwenden sollten
Fügen Sie Ihrem Agent Tools hinzu, wenn:
- Der Agent benötigt Zugriff auf Echtzeit- oder externe Daten – Livepreise, Wetter, Datenbankdatensätze, Suchergebnisse – das ist nicht in den Schulungsdaten des Modells enthalten.
- Der Agent muss Maßnahmen ergreifen – Senden von E-Mails, Erstellen von Tickets, Aufrufen von APIs, Schreiben von Dateien – anstatt nur Inhalte zu produzieren.
Überlegungen
| Überlegung | Einzelheiten |
|---|---|
| Latenz | Jeder Toolaufruf fügt eine Rückreise hinzu – das Modell generiert eine Toolanforderung, der Code wird ausgeführt, und das Ergebnis wird zurückgesendet, ehe das Modell fortfahren kann. Das Multitool erweitert dies. |
| Tokenaufwand | Tooldefinitionen (Namen, Beschreibungen, Parameterschemas) sind in jeder Aufforderung enthalten. Mehr Werkzeuge bedeuten weniger verfügbare Tokens für den Gesprächsverlauf und die Antwort des Modells. |
| Debuggingkomplexität | Wenn ein Fehler auftritt, kann sich die Ursache in der Toolauswahl des Modells, den ausgewählten Argumenten oder der Ausführung des Tools befinden. Sie debuggen Logik und Code zusammen. |
| Reliability | Das Modell ruft möglicherweise Tools falsch auf, übergibt ungültige Argumente oder ruft ein Tool auf, wenn es nicht erforderlich ist. Gute Beschreibungen und die Toolgenehmigung mildern dies ab, beseitigen es jedoch nicht vollständig. |
Warum Agents Tools benötigen
Wie in DEN LLM-Grundlagen behandelt, wird ein LLM geschult, um Token zu generieren – einschließlich eines speziellen strukturierten Formats, das einen Toolaufruf darstellt. Aber das Modell selbst führt nie etwas aus. Es ist Ihre Anwendung (oder Das Agent Framework), die die Ausgabe des Modells analysiert, die tatsächliche Funktion ausführt und das Ergebnis zurückgibt.
Dies bedeutet, dass Tools nicht ändern, was das Modell ist – sie ändern, was Ihr Agent tun kann. Ohne Werkzeuge ist ein Agent ein Gesprächspartner. Mit Werkzeugen wird daraus ein Bediener.
Betrachten Sie einen Reiseveranstalter. Ohne Tools kann es Flüge diskutieren und Reiserouten basierend auf allgemeinem Wissen vorschlagen. Mit Tools kann folgendes möglich sein:
- Durchsuchen einer Flight-API nach Echtzeitverfügbarkeit und Preisen
- Buchen eines Fluges im Namen des Benutzers
Jede dieser Aktionen erfordert ein Tool – ein Teil des Codes, den der Agent aufrufen kann, um mit der Außenwelt zu interagieren.
Funktionsweise der Toolaufrufschleife
Wenn Sie einem Agenten Werkzeuge bereitstellen, verwaltet das Agent Framework automatisch eine Toolaufrufschleife:
┌──────────────────────────────────────────────────────┐
│ User: "What's the weather in Seattle?" │
└──────────────┬───────────────────────────────────────┘
▼
┌──────────────────────────────────────────────────────┐
│ Agent sends messages + tool definitions to LLM │
└──────────────┬───────────────────────────────────────┘
▼
┌───────────────┐
│ LLM responds │
└───┬───────┬───┘
│ │
Tool call? No ──────────────────────────┐
│ │
▼ ▼
┌─────────────────────────────┐ ┌─────────────────────────────┐
│ Agent Framework executes │ │ Final response: │
│ the tool (e.g., │ │ "It's cloudy in Seattle │
│ get_weather("Seattle")) │ │ with a high of 15°C." │
└──────────────┬──────────────┘ └─────────────────────────────┘
│
▼
┌─────────────────────────────┐
│ Agent sends tool result │
│ back to the LLM │
└──────────────┬──────────────┘
│
└──────► (back to "LLM responds")
Wichtige Punkte:
- Sie müssen die Schleife nicht schreiben. Das Agent-Framework behandelt das Erkennen von Toolaufrufen in der Antwort des Modells, das Ausführen der Tools und das Zurückfüttern von Ergebnissen. Sie definieren die Tools; der Rahmen orchestriert den Rest.
- Mehrere Toolaufrufe pro Drehung. Das Modell kann mehrere Tools (potenziell parallel) aufrufen, bevor eine endgültige Antwort erstellt wird – oder verkettete Toolaufrufe, bei denen die Ausgabe eines Aufrufs den nächsten beeinflusst.
- Das Modell entscheidet, wann Tools aufgerufen werden sollen. Basierend auf der Anforderung des Benutzers und den von Ihnen bereitgestellten Toolbeschreibungen beurteilt das Modell, ob ein Tool benötigt wird. Gute Toolbeschreibungen führen zu einer besseren Auswahl von Tools.
Tipp
Eine praktische exemplarische Vorgehensweise zum Hinzufügen Ihres ersten Tools und zum Anzeigen dieser Schleife in Aktion finden Sie in Schritt 2: Hinzufügen von Tools im Lernprogramm "Erste Schritte".
Arten von Tools
Agent Framework unterstützt mehrere Kategorien von Tools. Die Wahl des richtigen Agenten hängt davon ab, was der Agent tun muss und wo sich die Fähigkeit befindet.
Funktionstools
Funktionstools sind benutzerdefinierte Funktionen, die Sie beim Agent schreiben und registrieren. Sie werden in Ihrem Prozess ausgeführt, sodass Sie die vollständige Kontrolle über die Logik, Sicherheitsgrenzen und Fehlerbehandlung erhalten.
Verwenden Sie Funktionstools in folgenden Fällen:
- Sie verfügen über benutzerdefinierte Geschäftslogik, die der Agent aufrufen muss (Abfragen einer Datenbank, Aufrufen einer internen API, Ausführen einer Berechnung)
- Sie benötigen das Tool für die Ausführung in Ihrer Umgebung mit Zugriff auf Ihre Ressourcen.
- Sie möchten Typensicherheit zur Kompilierzeit und Testbarkeit
Funktionstools sind die am häufigsten verwendeten und flexiblen Werkzeugtypen. Die meisten Agents beginnen hier.
MCP-Tools (Model Context Protocol – Modellkontextprotokoll)
MCP ist ein offener Standard, der definiert, wie Anwendungen LlMs Tools bereitstellen. Anstatt die Toollogik selbst zu schreiben, stellen Sie eine Verbindung mit einem MCP-Server her, der eine Reihe von Tools über ein Standardprotokoll verfügbar macht – ähnlich wie eine REST-API Endpunkte verfügbar macht.
Agent Framework unterstützt zwei Varianten:
| Geschmack | Was es ist | Wann man es verwenden sollte |
|---|---|---|
| Gehostete MCP-Tools | MCP-Server, die von Microsoft Foundry oder anderen Anbietern gehostet und verwaltet werden | Sie möchten schlüsselfertigen Zugriff auf allgemeine Funktionen (z. B. Dateisuche, Codeausführung) ohne Verwaltung der Infrastruktur |
| Lokale MCP-Tools | MCP-Server, die Sie selbst betreiben oder zu denen Sie von jedem Anbieter aus eine Verbindung herstellen können | Sie verfügen über einen benutzerdefinierten oder Drittanbieter-MCP-Server, oder Sie benötigen Tools, die in Ihrer eigenen Umgebung ausgeführt werden. |
Verwenden Sie MCP-Tools in folgenden Fällen:
- Ein vordefinierter MCP-Server bietet bereits die benötigten Funktionen.
- Sie möchten Tools für mehrere Agents oder Anwendungen über einen gemeinsam genutzten Server wiederverwenden.
- Sie integrieren sich in einen Drittanbieterdienst, der einen MCP-Endpunkt verfügbar macht
Vom Anbieter gehostete Tools
Einige Anbieter bieten integrierte Tools, die in der Infrastruktur des Anbieters ausgeführt werden , ohne dass lokaler Code erforderlich ist. Dazu zählen:
| Werkzeug | Was es tut |
|---|---|
| Codedolmetscher | Führt Code in einer Sandkastenumgebung in der Infrastruktur des Anbieters aus. |
| Dateisuche | Durchsucht Dateien, die Sie an den Anbieter uploaden |
| Websuche | Durchsucht das Web nach Echtzeitinformationen |
Verwenden Sie vom Anbieter gehostete Tools, wenn:
- Sie benötigen Funktionen wie Codeausführung oder Websuche, ohne das Tool selbst zu erstellen oder zu hosten
- Der Anbieter bietet bereits eine verwaltete Version an, die Ihren Anforderungen entspricht.
Hinweis
Die Verfügbarkeit von vom Anbieter gehosteten Tools variiert je nach Anbieter. Sehen Sie die Werkzeugübersicht für die vollständige Anbietersupport-Matrix.
Hinweis
Einige LLM-Anbieter können gehostete Tools in ihrer Infrastruktur während der Ableitung ausführen, z. B. die Antwort-API von OpenAI. Stellen Sie sich diese Rückschlüsse als semi-agentische Dienste vor, die die Ableitung mit der Toolausführung kombinieren. Es ändert sich nicht, wie das zugrunde liegende Modell funktioniert, bedeutet aber, dass die Toolausführung im Rahmen der Antwortgenerierung des Diensts erfolgen kann. Diese Dienste können keine lokalen Tools ausführen, die in Ihrer eigenen Infrastruktur ausgeführt werden müssen.
Auswählen des richtigen Tooltyps
| Frage | Empfehlung |
|---|---|
| Habe ich benutzerdefinierte Geschäftslogik? | Funktionstools – Schreiben und Registrieren eigener Funktionen |
| Gibt es einen MCP-Server, der bereits das tut, was ich brauche? | MCP-Tools – stellen Sie eine Verbindung her, anstatt von Grund auf neu zu erstellen, z. B. den GitHub MCP-Server |
| Benötige ich Codeausführung, Dateisuche oder Websuche? | Vom Anbieter gehostete Tools – überprüfen Sie, ob Ihr Anbieter sie unterstützt. |
| Benötige ich Tools aus mehreren Kategorien? | Kombinieren Sie sie – Agents können Funktionstools, MCP-Tools und vom Anbieter gehostete Tools gleichzeitig verwenden. |
Toolbeschreibungen sind wichtig
Das Modell wählt Tools basierend auf ihren Namen und Beschreibungen aus. Eine vage Beschreibung führt zu einer schlechten Toolauswahl – das Modell ruft möglicherweise das falsche Tool auf, überspringt ein Tool, das es verwenden sollte, oder übergibt falsche Argumente.
Schreiben Sie Toolbeschreibungen auf die gleiche Weise, wie Sie ein API-Dokument schreiben: Sagen Sie, was das Tool tut, was jeder Parameter bedeutet und was es zurückgibt. Je klarer die Beschreibung, desto besser ist das Urteil des Modells.
Tipp
Tooldefinitionen (Namen, Beschreibungen, Parameterschemas) sind in der Eingabeaufforderung enthalten und verwenden Token im Kontextfenster. Wenn Sie viele Tools registrieren, kann der Aufwand erheblich sein. Registrieren Sie nur die Tools, die der Agent tatsächlich benötigt.
Toolgenehmigung: Human-in-the-Loop
Einige Aktionen sind vertraulich – Geldtransfer, Löschen von Datensätzen, Senden von E-Mails. Möglicherweise möchten Sie nicht, dass der Agent diese Tools autonom ausführt. Mit der Toolgenehmigung können Sie eine menschliche Bestätigung anfordern, bevor ein Tool ausgeführt wird.
Wenn ein Tool als Genehmigung gekennzeichnet ist, hält der Agent vor der Ausführung an und gibt eine Antwort zurück, die angibt, dass die Genehmigung erforderlich ist. Ihre Anwendung ist dafür verantwortlich, dies dem Benutzer zu präsentieren und seine Entscheidung zurückzugeben.
Dieses Muster wird häufig als Mensch-in-the-Loop bezeichnet und ist für die Erstellung vertrauenswürdiger Agenten unerlässlich, die Folgeaktionen ausführen.
Häufige Probleme
| Fallstrick | Leitlinien |
|---|---|
| Zu viele Tools | Jede Tooldefinition verwendet Token. Registrieren Sie nur die Tools, die für den Zweck des Agenten relevant sind. |
| Vage Beschreibungen | "Macht Dinge mit Daten" hilft dem Modell nicht. Seien Sie spezifisch: "Abfragt die Bestandsdatenbank nach der Produktverfügbarkeit anhand der SKU." |
| Keine Fehlerbehandlung | Tools können fehlschlagen (Netzwerkfehler, ungültige Eingabe). Geben Sie eindeutige Fehlermeldungen zurück, damit das Modell aus gründen kann, was nicht geklappt hat, und versuchen Sie es erneut, oder informieren Sie den Benutzer. |
| Übermäßig erlaubte Tools | Ein Tool, das eine beliebige SQL-Abfrage ausführen kann, ist ein Sicherheitsrisiko. Stimmen Sie Werkzeuge auf bestimmte, gut definierte Vorgänge ab. |
| Fehlende Genehmigung für vertrauliche Aktionen | Wenn ein Tool unumkehrbare Änderungen vornehmen kann, fügen Sie die Genehmigung des Tools hinzu, um einen Menschen im Prozess zu halten. |
Besondere Erwähnung: Code-Interpreter-Tool
Wie in den LLM-Grundlagen erläutert, können LLMs Fehler in präzisen Berechnungen und formaler Logik machen. Dies liegt daran, dass LLMs Antworten Token für Token anhand des Musterabgleichs generieren – sie berechnen nicht tatsächlich. Ein LLM, das aufgefordert wird, zwei große Zahlen zu multiplizieren, führt keine arithmetischen Berechnungen durch; vielmehr wird vorhergesagt, wie das Ergebnis auf Grundlage der Trainingsdaten aussehen könnte. Dies funktioniert überraschend oft, aber bei Randfällen schlägt es unvorhersehbar fehl.
Der Codedolmetscher löst dies, indem der Agent Code in einer Sandkastenumgebung schreiben und ausführen kann. Anstatt die Antwort zu erraten, schreibt das Modell ein Python Skript, das es genau berechnet, führt es aus und verwendet das überprüfte Ergebnis in seiner Antwort.
Hinweis
Das Modell kann jedes Mal ein etwas anderes Skript schreiben, wenn es aufgefordert wird, dasselbe Problem zu lösen, aber die Ergebnisse sollten hauptsächlich konsistent sein.
Warnung
Code-Interpreter ist kein Ersatz für sorgfältige Überlegungen seitens des Menschen. Überprüfen Sie immer die Arbeit des Agenten, und überprüfen Sie die Ergebnisse bei Bedarf unabhängig voneinander.
Geben Sie Ihrem Agenten den Code-Interpreter, wenn es notwendig ist:
- Durchführen präziser Berechnungen – Finanzmodellierung, statistische Analyse, Einheitenumwandlungen – bei denen eine ungefähre "beste Vermutung" nicht akzeptabel ist.
- Transformieren oder Analysieren von Daten – Analysieren von CSVs, Aggregatzeilen, Generieren von Diagrammen oder Neuformen strukturierter Daten.
- Verarbeiten von Dateien – Lesen hochgeladener Dokumente, Extrahieren von Inhalten, Konvertieren von Formaten oder Generieren neuer Dateien.
- Überprüfen Sie ihre eigene Begründung – schreiben Sie Testcode, um einen logischen Anspruch zu überprüfen, bevor sie dem Benutzer präsentiert wird.
Tipp
Codedolmetscher kann ein vom Anbieter gehostetes Tool sein – der Code wird in der Infrastruktur des Anbieters in einer Sandbox und nicht in Ihrer Umgebung ausgeführt. Dadurch ist die Verwendung sicher, ohne sich Gedanken über willkürlichen Code machen zu müssen, der auf Ihren Servern ausgeführt wird. Details zum Einrichten finden Sie in der Codedolmetscherreferenz .
Nächste Schritte
Sobald Ihr Agent Über Tools verfügt, besteht der nächste Schritt darin, mehr über Fähigkeiten zu erfahren – tragbare Anleitungspakete, Referenzmaterial und Skripts, die Agents Domänenkompetenz bieten, die sie bei Bedarf laden können.
Gehen Sie tiefer:
- Übersicht über Tools – alle Tooltypen und Anbieterunterstützungsmatrix
- Funktionstools – detaillierte Funktionstoolreferenz
- Hosted MCP Tools — Microsoft Foundry MCP-Server oder andere Anbieter
- Lokale MCP-Tools – benutzerdefinierte MCP-Server
- Toolgenehmigung – Mensch-in-der-Schleife für Werkzeuge
- Schritt 2: Hinzufügen von Tools – praktisches Lernprogramm