Referenz für Agenten

Wenn Sie angepasste Agenten erstellen, lesen Sie diesen Artikel für weitere Informationen zu wichtigen Einstellungen wie Anweisungen und Ausgabeschemata. Eine schrittweise Einrichtungsanleitung finden Sie unter Angepasste Agenten erstellen. Eine Einführung finden Sie unter Braze Agents und Häufig gestellte Fragen.

Modelle

Wenn Sie einen Agenten einrichten, können Sie das Modell auswählen, das er zur Generierung von Antworten verwendet. Sie haben zwei Möglichkeiten: ein von Braze bereitgestelltes Modell verwenden oder Ihren eigenen API-Schlüssel einbinden.

Wichtig

Das von Braze bereitgestellte Auto-Modell ist für Modelle optimiert, deren Denkfähigkeiten ausreichen, um Aufgaben wie Katalogsuche und Segmentzugehörigkeit auszuführen. Bei der Verwendung anderer Modelle empfehlen wir, Tests durchzuführen, um sicherzustellen, dass Ihr Modell für Ihren Anwendungsfall geeignet ist. Möglicherweise müssen Sie Ihre Anweisungen anpassen, um unterschiedliche Detailstufen oder schrittweises Denken für Modelle mit unterschiedlichen Geschwindigkeiten und Fähigkeiten bereitzustellen.

Option 1: Ein von Braze bereitgestelltes Modell verwenden

Dies ist die einfachste Option, die keine zusätzliche Einrichtung erfordert. Braze ermöglicht den direkten Zugriff auf große Sprachmodelle (LLMs). Um diese Option zu verwenden, wählen Sie Auto aus – dabei werden Gemini-Modelle verwendet.

Wichtig

Sollten Sie beim Erstellen eines Agenten die Option Braze Auto nicht in der Dropdown-Liste Model sehen, wenden Sie sich an Ihren Customer-Success-Manager, um zu erfahren, wie Sie die Berechtigung zur Nutzung des Braze Auto-Modells erhalten.

Option 2: Eigenen API-Schlüssel einbinden

Mit dieser Option können Sie Ihr Braze-Konto mit Anbietern wie OpenAI, Anthropic oder Google Gemini verbinden. Wenn Sie Ihren eigenen API-Schlüssel von einem LLM-Anbieter verwenden, werden die Token-Kosten direkt über Ihren Anbieter und nicht über Braze abgerechnet.

Wir empfehlen, regelmäßig die neuesten Modelle zu testen, da ältere Modelle nach einigen Monaten möglicherweise eingestellt oder als veraltet markiert werden. Sie können sich auch für Benachrichtigungen der Agentenkonsole unter Präferenzen für Benachrichtigungen anmelden, um benachrichtigt zu werden, wenn Braze erkennt, dass ein Modell nicht mehr verfügbar ist oder Abrechnungsprobleme mit Ihrem LLM-Anbieter auftreten.

So richten Sie dies ein:

1. Gehen Sie zu Partnerintegrationen > Technologie-Partner und suchen Sie Ihren Anbieter.
2. Geben Sie Ihren API-Schlüssel vom Anbieter ein.
3. Wählen Sie Speichern.

Anschließend können Sie zu Ihrem Agenten zurückkehren und Ihr Modell auswählen.

Wenn Sie ein von Braze bereitgestelltes LLM verwenden, agieren die Anbieter eines solchen Modells als Unterauftragsverarbeiter von Braze, vorbehaltlich der Bestimmungen des Datenverarbeitungszusatzes (DPA) zwischen Ihnen und Braze. Wenn Sie sich dafür entscheiden, Ihren eigenen API-Schlüssel einzubinden, gilt der Anbieter Ihres LLM-Abos gemäß dem Vertrag zwischen Ihnen und Braze als Drittanbieter.

Denkstufen

Einige LLM-Anbieter ermöglichen es Ihnen, die Denkstufe eines ausgewählten Modells anzupassen. Denkstufen definieren den Umfang der Überlegungen, die das Modell vor der Antwort durchführt – von schnellen, direkten Antworten bis hin zu längeren Argumentationsketten. Dies beeinflusst die Antwortqualität, Latenz und den Token-Verbrauch.

Wir empfehlen, mit Minimal zu beginnen und die Antworten Ihres Agenten zu testen. Anschließend können Sie die Denkstufe auf Niedrig oder Mittel anpassen, wenn der Agent Schwierigkeiten hat, genaue Antworten zu liefern. In seltenen Fällen kann eine hohe Denkstufe erforderlich sein, wobei diese Stufe zu hohen Token-Kosten und längeren Antwortzeiten oder einem höheren Risiko von Timeout-Fehlern führen kann. Wenn Ihr Agent Schwierigkeiten hat, mehrstufiges Denken mit angemessenen Antwortzeiten in Einklang zu bringen, sollten Sie Ihren Anwendungsfall in mehrere Agenten aufteilen, die in einem Canvas oder Katalog zusammenarbeiten können.

Braze verwendet für ausgehende LLM-Aufrufe dieselben IP-Bereiche wie für Connected-Content. Die Bereiche sind in der Connected-Content-IP-Zulassungsliste aufgeführt. Wenn Ihr Anbieter IP-Zulassungslisten unterstützt, können Sie den Schlüssel auf diese Bereiche beschränken, sodass nur Braze ihn verwenden kann.

Wichtig

Wenn Sie ein von Braze bereitgestelltes LLM verwenden, agieren die Anbieter eines solchen Modells als Unterauftragsverarbeiter von Braze, vorbehaltlich der Bestimmungen des Datenverarbeitungszusatzes (DPA) zwischen Ihnen und Braze. Wenn Sie sich dafür entscheiden, Ihren eigenen API-Schlüssel einzubinden, gilt der Anbieter Ihres LLM-Abos gemäß dem Vertrag zwischen Ihnen und Braze als Drittanbieter.

Das richtige Modell bestimmen

Jeder LLM-Anbieter bietet eine leicht unterschiedliche Mischung aus Modellfähigkeiten, Kosten und Denkstufen. Hier sind einige allgemeine Richtlinien und Best Practices:

• Für Kosteneffizienz sollten Sie zuerst Modelle mit niedrigeren Token-Kosten testen, bevor Sie zu teureren Modellen wechseln. Passen Sie nur dann auf teurere Modelle an, wenn günstigere Modelle mit dem Anwendungsfall Schwierigkeiten haben oder inkonsistente bzw. ungenaue Ergebnisse liefern.
• Für Geschwindigkeit und Performance-Effizienz sollten Sie zuerst niedrigere Denkstufen testen, bevor Sie höhere Denkstufen verwenden. Passen Sie nur dann auf höhere Denkstufen an, wenn niedrigere Denkstufen mit dem Anwendungsfall Schwierigkeiten haben oder inkonsistente bzw. ungenaue Ergebnisse liefern.
• Wenn günstigere Modelle oder niedrigere Denkstufen mit dem Anwendungsfall Schwierigkeiten haben oder inkonsistente bzw. ungenaue Ergebnisse liefern, sollten Sie auf teurere Modelle oder höhere Denkstufen umsteigen.
• Achten Sie beim Testen darauf, Zuverlässigkeit und Genauigkeit mit Token-Verbrauch und Aufrufdauer in Einklang zu bringen.
• Jeder Anwendungsfall kann ein anderes optimales Modell und eine andere optimale Denkstufe haben. Wir empfehlen gründliches Testen, um konsistente Qualität ohne Timeouts sicherzustellen.

Aufruf-Rate-Limits

Die folgenden Aufruf-Rate-Limits gelten pro Workspace:

• Von Braze bereitgestelltes Modell: 5.000 Aufrufe pro Minute
• Eigener API-Schlüssel: 5.000 Aufrufe pro Minute

Wenn viele Nutzer:innen gleichzeitig einen Agenten-Schritt aufrufen, reiht Braze die Aufrufe gemäß diesen Limits in eine Warteschlange ein, sodass die Verarbeitung bei Sendungen mit hohem Volumen länger dauern kann.

Rate-Limit-Fehler

Wenn der LLM-Anbieter während eines Canvas-Agenten-Schritts einen Rate-Limit-Fehler zurückgibt, wiederholt Braze die Anfrage kontinuierlich mit exponentiellem Backoff, bis der Aufruf erfolgreich ist oder Braze feststellt, dass er nicht abgeschlossen werden kann. Katalog-Agenten wiederholen Rate-Limit-begrenzte Aufrufe nicht.

Wenn alle Canvas-Wiederholungsversuche erschöpft sind, zeigt das Detailpanel Logs den Status Error und die Anbieternachricht (z. B. Rate limit exceeded) unter Ausgabe an. Wiederholungsversuche sind in den Logs sichtbar, einschließlich des allerersten Aufrufs unabhängig von seinem endgültigen Erfolg oder Misserfolg. Wenn es bei einer bestimmten Nutzerin bzw. einem bestimmten Nutzer vier Wiederholungsversuche braucht, um schließlich einen Erfolg zu erzielen, können Sie die Nutzer-ID suchen und alle fünf Einträge (Original plus vier Wiederholungen) in den Logs sehen. Das Original und die ersten drei Wiederholungen zeigen dabei Error mit Rate limit exceeded an.

Anweisungen verfassen

Anweisungen sind die Regeln oder Richtlinien, die Sie dem Agenten geben (System-Prompt). Sie legen fest, wie sich der Agent bei jeder Ausführung verhalten soll. Systemanweisungen können bis zu 25 KB groß sein.

Wenn Sie Ihren Agenten mit BrazeAI Operator unter Verwendung einer Startvorlage erstellt haben, überprüfen Sie die vorausgefüllten Anweisungen und bearbeiten Sie diese nach Bedarf.

Hier sind einige allgemeine Best Practices für den Einstieg in das Prompting:

1. Beginnen Sie mit dem Ziel vor Augen. Formulieren Sie zuerst das Ziel.
2. Weisen Sie dem Modell eine Rolle oder Persona zu („Sie sind ein …“).
3. Legen Sie einen klaren Kontext und klare Vorgaben fest (Zielgruppe, Länge, Tonfall, Format).
4. Fordern Sie Struktur an („Geben Sie JSON/Aufzählungsliste/Tabelle zurück …“).
5. Zeigen statt erklären. Fügen Sie einige hochwertige Beispiele bei.
6. Teilen Sie komplexe Aufgaben in geordnete Schritte auf („1. Schritt … 2. Schritt …“).
7. Fördern Sie das logische Denken („Überlegen Sie die einzelnen Schritte im Kopf und geben Sie dann eine prägnante endgültige Antwort“ oder „Erläutern Sie kurz Ihre Entscheidung“).
8. Testen, überprüfen und iterieren. Kleine Optimierungen können zu erheblichen Qualitätssteigerungen führen.
9. Behandeln Sie Sonderfälle, fügen Sie Sicherheitsvorkehrungen hinzu und ergänzen Sie Ablehnungsanweisungen.
10. Messen und dokumentieren Sie, was intern für die Wiederverwendung und Skalierung funktioniert.

Beispiele

Für Startkonfigurationen in der Agentenkonsole siehe Agentenvorlagen, erstellt mit Operator. Für vollständige Anweisungsbeispiele, die Sie kopieren oder anpassen können, besuchen Sie die Anwendungsfallbibliothek für Braze Agents.

Liquid verwenden

Die Einbindung von Liquid in die Anweisungen Ihres Agenten kann dessen Antworten eine zusätzliche Ebene der Personalisierung verleihen. Sie können die genaue Liquid-Variable angeben, die der Agent erhält, und diese in den Kontext Ihres Prompts einfügen. Anstatt beispielsweise explizit „Vorname“ zu schreiben, können Sie das Liquid-Snippet {{${first_name}}} verwenden:

1
Tell a one-paragraph short story about this user, integrating their {{${first_name}}}, {{${last_name}}}, and {{${city}}}. Also integrate any context you receive about how they are currently thinking, feeling, or doing. For example, you may receive {{context.${current_emotion}}}, which is the user's current emotion. You should work that into the story.

Im Abschnitt Logs der Agentenkonsole können Sie die Details zu den Ein- und Ausgabedaten des Agenten überprüfen, um zu verstehen, welcher Wert aus Liquid gerendert wird.

Für Katalog-Agenten verwenden Sie Felder im Abschnitt Ausgabe anstelle von JSON Schema. Sie können dennoch Anweisungen verfassen, die das Modell auffordern, eine Schlüssel-Wert-Ausgabe zu liefern, die diesen Feldnamen entspricht.

Weitere Informationen zu Best Practices für Prompting finden Sie in den Leitfäden der folgenden Modellanbieter:

• OpenAI
• Anthropic
• Gemini

Ausgaben

Wenn Sie Ihren Agenten mit BrazeAI Operator unter Verwendung einer Startvorlage erstellt haben, überprüfen Sie das vorausgefüllte Ausgabeschema und bearbeiten Sie es nach Bedarf.

Einfache Schemata

Einfache Schemata sind eine einfache Ausgabe, die ein Agent zurückgibt. Dies kann ein String, eine Zahl, ein Boolescher Wert, ein String-Array oder ein Zahlen-Array sein.

Wenn Sie beispielsweise Stimmungswerte von Nutzer:innen aus einer einfachen Feedback-Umfrage erfassen möchten, um die Zufriedenheit Ihrer Kund:innen nach Erhalt eines Produkts zu ermitteln, können Sie Number als einfaches Schema auswählen, um das Ausgabeformat zu strukturieren.

Wichtig

Arrays sind nur für Canvas-Agenten verfügbar, nicht für Katalog-Agenten.

Erweiterte Schemata

Erweiterte Schema-Optionen umfassen die manuelle Strukturierung von Feldern oder die Verwendung von JSON.

• Felder: Eine No-Code-Methode, um eine konsistente Agentenausgabe zu erzwingen.
• JSON: Ein Code-Ansatz zur Erstellung eines präzisen Ausgabeformats, bei dem Sie Variablen und Objekte innerhalb des JSON-Schemas verschachteln können. Nur für Canvas-Agenten verfügbar, nicht für Katalog-Agenten.

Wir empfehlen die Verwendung erweiterter Schemata, wenn der Agent eine Datenstruktur mit mehreren strukturiert definierten Werten zurückgeben soll, anstatt einer einzelnen Ausgabe. Dadurch kann die Ausgabe besser als konsistente Kontextvariable formatiert werden.

Fallback-Ausgabe

Fallback-Werte sind nur für Canvas-Schritt-Agenten verfügbar. Im Abschnitt Ausgabe der Agentenkonsole für einen Canvas-Agenten können Sie Werte definieren, die Braze verwendet, wenn ein Aufruf fehlschlägt.

Für JSON-Schemata liest Braze das Schema und generiert ein Eingabefeld für jede Eigenschaft, sodass Sie einen Fallback-Wert pro Schlüssel festlegen können. Für Felder-Schemata geben Sie einen Fallback-Wert für jedes Feld ein. Für einfache Schemata geben Sie einen einzelnen Fallback-Wert ein. Canvas-Agenten unterstützen Liquid in Fallback-Werten.

Informationen zu den Einrichtungsschritten finden Sie unter Fallback-Werte konfigurieren. Informationen zum Laufzeitverhalten in Canvas finden Sie unter Fehlerbehandlung und Fallback-Verhalten.

Beispielsweise können Sie ein Ausgabeformat innerhalb eines Agenten verwenden, der eine Beispiel-Reiseroute für Nutzer:innen basierend auf einem eingereichten Formular erstellen soll. Das Ausgabeformat ermöglicht es Ihnen festzulegen, dass jede Agentenantwort Werte für tripStartDate, tripEndDate und destination enthalten soll. Jeder dieser Werte kann aus Kontextvariablen extrahiert und in einem Nachrichtenschritt zur Personalisierung mit Liquid eingefügt werden.

• felder
• json schema

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
{
  "type": "object",
  "properties": {
    "sentiment": {
      "type": "string"
    },
    "reasoning": {
      "type": "string"
    }
  },
  "required": [
    "sentiment",
    "reasoning"
  ]
}

Kataloge und Felder

Wählen Sie bestimmte Kataloge aus, die ein Agent referenzieren soll, und geben Sie Ihrem Agenten den Kontext, den er benötigt, um Ihre Produkte und andere nicht-nutzerbezogene Daten zu verstehen. Agenten verwenden Tools, um nur die relevanten Einträge zu finden und diese an das LLM zu senden, um den Token-Verbrauch zu minimieren.

Wenn Sie einen Katalog-Agenten in einem Katalogfeld bereitstellen, aktivieren Sie die Pflichtfeld-Steuerung und wählen Sie aus, welche ausgewählten Spalten für die Ausführung erforderlich sind, bevor der Agent aufgerufen wird. Der Agent überspringt eine Zeile nur dann, wenn eine dieser Pflichtspalten leer ist oder fehlt – beispielsweise ein gender-Feld, das noch nicht ausgefüllt wurde. Ausgewählte Spalten sind standardmäßig als Pflichtfelder markiert, aber Sie können Spalten entfernen, die leer sein dürfen, ohne die Ausführung zu blockieren. Dies verhindert verschwendete Token bei unvollständigen Daten.

Katalog-Agenten berücksichtigen auch die Spaltenreihenfolge, wenn Eingabefelder voneinander abhängen. Wenn Spalte D aus den Spalten B und C generiert werden soll, führt der Agent Spalte D erst aus, wenn B und C Werte für diese Zeile enthalten.

Informationen zu Bereitstellungsszenarien und Beispielen finden Sie unter Katalog-Agenten verwenden und Best Practices für Katalog-Agenten.

Segmentzugehörigkeitskontext

Sie können bis zu fünf Segmente auswählen, anhand derer der Agent die Segmentzugehörigkeit jedes Nutzers bzw. jeder Nutzerin abgleichen kann, wenn der Agent in einem Canvas verwendet wird. Angenommen, Ihr Agent hat die Segmentzugehörigkeit für ein Segment „Treue-Nutzer:innen“ ausgewählt und wird in einem Canvas eingesetzt. Wenn Nutzer:innen einen Agenten-Schritt aufrufen, kann der Agent prüfen, ob jede Nutzerin bzw. jeder Nutzer Mitglied der in der Agentenkonsole angegebenen Segmente ist, und die Zugehörigkeit (oder Nicht-Zugehörigkeit) als Kontext für das LLM verwenden.

Markenrichtlinien

Sie können Markenrichtlinien auswählen, an die sich Ihr Agent bei seinen Antworten halten soll. Wenn Sie beispielsweise möchten, dass Ihr Agent SMS-Texte erstellt, um Nutzer:innen zur Anmeldung für eine Fitnessstudio-Mitgliedschaft zu motivieren, können Sie dieses Feld verwenden, um Ihre vordefinierte, motivierende Richtlinie zu referenzieren.

Nutzerspezifischer Interaktionsverlauf

Die Interaktionsdaten von Nutzer:innen umfassen ihre letzten Campaign- und Canvas-Öffnungen, Klicks und Conversion-Daten. Sie können diesen Kontext beispielsweise einbeziehen, damit ein Agent ihn bei der Auswertung in einem Canvas referenzieren kann. Der nutzerspezifische Interaktionsverlauf kann auch dazu beitragen, einen Agenten zu beeinflussen, dessen Aufgabe es ist, personalisierte Nachrichtentexte zu verfassen.

Agenten duplizieren

Um Verbesserungen oder Iterationen eines Agenten zu testen, können Sie einen Agenten duplizieren und anschließend Änderungen vornehmen, um diese mit dem Original zu vergleichen. Sie können das Duplizieren von Agenten auch als Versionskontrolle nutzen, um Änderungen in den Agentendetails und etwaige Auswirkungen auf Ihr Messaging zu verfolgen. So duplizieren Sie einen Agenten:

1. Bewegen Sie den Mauszeiger über die Zeile des Agenten und wählen Sie das -Menü aus.
2. Wählen Sie Duplizieren.

Agenten archivieren

Wenn Sie weitere angepasste Agenten erstellen, können Sie die Seite Agentenmanagement organisieren, indem Sie Agenten archivieren, die nicht aktiv verwendet werden. So archivieren Sie einen Agenten:

1. Bewegen Sie den Mauszeiger über die Zeile des Agenten und wählen Sie das -Menü aus.
2. Wählen Sie Archivieren.