Skip to main content

LLM-Verbindungen erstellen

Zugriffskontrollen für Admins

Benutzer mit der Vollbenutzer-Rolle können standardmäßig LLM-Verbindungen erstellen. Um den Zugriff auf LLM-Verbindungen einzuschränken, weisen Sie stattdessen eine benutzerdefinierte Rolle zu, für die die LLM-Konnektivitätsfunktion deaktiviert ist. Erfahren Sie mehr über Benutzerrollen und Funktionen.

Um Large Language Models (LLMs) mit Ihren KI-Tools zu verwenden, müssen Sie Alteryx One mit dem LLM Ihrer Wahl verbinden. Das geht so:

  1. Gehen Sie in Ihrem Alteryx One-Konto zur Seite Daten und wählen Sie die Registerkarte Verbindungen aus.

  2. Wählen Sie Neue Verbindung aus. Weitere Informationen zum Erstellen der Verbindung finden Sie im Fenster Verbindung erstellen.

  3. Sie können die Suchleiste verwenden, um Ihr LLM zu finden, oder LLMs auswählen, um die Liste so zu filtern, dass nur verfügbare LLM-Verbindungen angezeigt werden.

  4. Wählen Sie Ihr gewünschtes LLM aus und geben Sie die Konfigurationsdetails ein.

Nachdem Sie die Verbindung erstellt haben, steht das LLM über das LLM-Überschreibung-Tool und Eingabeaufforderung-Tool in Designer für Sie zur Verfügung. Wenn Sie die LLM-Verbindung für andere Benutzer:innen erstellt haben, teilen Sie die Verbindung mit ihnen über die Seite „Connections“ (Verbindungen).

Wichtig

Jede LLM-Verbindung hat unterschiedliche Konfigurationsanforderungen, sowohl in Bezug auf die Einrichtung, die im LLM selbst erforderlich ist, als auch hinsichtlich der Konfigurationseinstellungen in Alteryx One.

Weitere Informationen finden Sie in den LLM-spezifischen Konfigurationsdetails unten.

Amazon Bedrock

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • AWS-Regionsname: Geben Sie die Region Ihres AWS-Kontos ein (z. B. US-West).

  • Anmeldedaten-Typ: Derzeit ist der AWS-Zugangsschlüssel die einzige Option. Geben Sie die AWS-Zugangsschlüssel-ID und den geheimen AWS-Zugangsschlüssel für das Konto ein, das Sie verbinden möchten. Weitere Informationen finden Sie in der IAM-Dokumentation von AWS. Es wird empfohlen, eine IAM-Rolle zu erstellen und die entsprechenden Zugangsschlüssel zu verwenden.

    • Fügen Sie für umfassende Berechtigungen AmazonBedrockFullAccess zur IAM-Rolle hinzu.

    • Fügen Sie für minimale Berechtigungen die folgenden Berechtigungen zur IAM-Rolle hinzu:

      • bedrock:InvokeModel

      • bedrock:InvokeModelWithResponseStream

      • bedrock:ListFoundationModels

      • bedrock:GetFoundationModel

Anthropic

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren Anthropic-API-Schlüssel ein. Rufen Sie Ihren API-Schlüssel über die Anthropic-Konsole ab.

Azure AI Foundry

Connection Information

  • Connection Name: Provide a descriptive connection name that users will reference when using this connection later.

  • Connection Description (optional): Provide a description for the connection.

  • Azure AI Foundry API Base URL: Enter your Azure AI Foundry base URL (for example, https://<account_name>.services.ai.azure.com).

  • Azure Foundry API Version: Enter your Azure AI Foundry API version (for example, 2024-02-01).

  • Model List: Enter a comma-separated list of models (for example, gpt-4o-mini). Use the deployed model name for each model.

    Anmerkung

    Make sure that your selected models are deployed with the correct names. Otherwise, you can’t make requests with them in the Prompt tool.

Credential Information

There are 2 Credential Types that you can select for Azure AI Foundry.

API Key

  1. Credential Type: Select API Key.

  2. Azure AI Foundry API Key: Enter your Azure AI Foundry API key.

OAuth Client

Use OAuth 2.0 to authenticate your Azure AI Foundry connection. Configure these fields:

Wichtig

If you update your connection, select Authenticate for your OAuth client. Otherwise, the connection breaks.

  1. Credential Type: Select OAuth 2.0.

  2. Oauth Client: Select the OAuth client to use. Then select Authenticate to validate it. To create an OAuth client, follow these steps:

    Anmerkung

    Only Arbeitsbereich-AdministratorWorkspace Admin can create and share OAuth clients. If you don’t have permission, contact your Arbeitsbereich-AdministratorWorkspace Admin.

    1. Go to Workspace Admin > OAuth Clients.

    2. Select New.

    3. Enter the OAuth client details:

      • Name: Enter a descriptive name.

      • Technology: Select azure_ai_foundry.

      • Grant Type: Select Client Credentials.

      • Client ID: Contact your IT team for setup. Provide this setup guide as reference.

      • Client Secret: Contact your IT team for setup. Provide this setup guide as reference.

      • Client Secret Expiration Date: Select a future expiration date.

      • Token URL: Enter https://login.microsoftonline.com/{tenant_id}/oauth2/v2.0/token. Replace {tenant_id} with your tenant ID. To get your tenant ID, contact your IT team. Provide this setup guide as reference.

      • Scopes: Enter https://ai.azure.com/.default.

      • Access Token Expiry: Enter the token lifetime in seconds.

Anmerkung

Select Authenticate before you select Test Connection. Then select Create to save the connection.

Azure OpenAI-Dienst

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

Es gibt zwei Anmeldedatentypen, die Sie für Azure OpenAI auswählen können.

Azure AAC-Anmeldedaten

Konfigurieren Sie Ihre Azure-Verbindung direkt in Alteryx One. Konfigurieren Sie diese Felder:

Anmerkung

Bevor Sie Inhaltsaufrufe generieren können, müssen Sie zunächst ein Modell bereitstellen. Erfahren Sie zunächst, wie Sie ein Azure OpenAI-Modell erstellen und bereitstellen.

  1. Azure API-Schlüssel: Geben Sie Ihren Azure OpenAI -API-Schlüssel ein. Sie müssen zunächst den Leitfaden zur Azure-API-Verwaltung befolgen, um Ihr Modell für die Verwendung mit der Azure OpenAI-API einzurichten.

  2. Azure API-Basis-URL: Geben Sie Ihre Azure-Basis-URL ein (z. B. https://<account_name>.openai.azure.com).

  3. Azure API-Version: Geben Sie Ihre Azure API-Version ein (z. B. 2024-10-21).

  4. Azure Client-ID: Wenden Sie sich an Ihr IT-Team, um Hilfe bei der Erstellung dieses Parameters zu erhalten. Legen Sie diesen Einrichtungsleitfaden als Referenz bereit.

  5. Azure Tenant-ID: Wenden Sie sich an Ihr IT-Team, um Hilfe bei der Erstellung dieses Parameters zu erhalten. Legen Sie diesen Einrichtungsleitfaden als Referenz bereit.

  6. Azure Client-Geheimnis: Wenden Sie sich an Ihr IT-Team, um Hilfe bei der Erstellung dieses Parameters zu erhalten. Legen Sie diesen Einrichtungsleitfaden als Referenz bereit.

  7. Azure-Abonnement-ID: Geben Sie Ihre Azure-Abonnement-ID ein. Sie finden sie unter Ressourcengruppen > Ihre Ressourcengruppe > Abonnement > Ihr Abonnement > Abonnement-ID. Alternativ können Sie AI Foundry aufrufen, Ihren Kontonamen und dann das Foundry-Portal auswählen, um die Informationen zu finden.

  8. Azure-Ressourcengruppenname: Geben Sie Ihren Azure-Ressourcengruppennamen ein. Sie finden sie unter Resource Groups (Ressourcengruppen) > Ihre Ressourcengruppe. Alternativ können Sie AI Foundry aufrufen, Ihren Kontonamen und dann das Foundry-Portal auswählen, um die Informationen zu finden.

  9. Azure-(Ressourcen)Kontoname: Geben Sie Ihren Azure-Kontonamen ein. Sie finden diese auf der AI Foundry-Seite.

OAuth-Client

Verwenden Sie OAuth 2.0, um Ihre Azure-Verbindung zu authentifizieren. Konfigurieren Sie diese Felder:

Anmerkung

Bevor Sie Inhaltsaufrufe generieren können, müssen Sie zunächst ein Modell bereitstellen. Erfahren Sie zunächst, wie Sie ein Azure OpenAI-Modell erstellen und bereitstellen.

Wichtig

Wenn Sie Ihre Verbindung aktualisieren, wählen Sie Authentifizieren für Ihren OAuth-Client aus. Andernfalls wird die Verbindung unterbrochen.

  1. Azure API-Basis-URL: Geben Sie Ihre Azure-Basis-URL ein (z. B. https://<account_name>.openai.azure.com).

  2. Azure API-Version: Geben Sie Ihre Azure API-Version ein (z. B. 2024-10-21).

  3. Modellliste: Geben Sie eine durch Komma getrennte Liste von Modellen ein (z. B. gpt-5,gpt-4o,custom). Verwenden Sie den bereitgestellten Modellnamen für benutzerdefinierte Modelle.

    Anmerkung

    Stellen Sie sicher, dass die ausgewählten Modelle mit den korrekten Namen bereitgestellt werden. Andernfalls können Sie im Eingabeaufforderung-Tool keine Anfragen mit ihnen stellen.

  4. OAuth-Client: Wählen Sie den zu verwendenden OAuth-Client aus. Wählen Sie dann Authentifizieren aus, um es zu validieren. Um einen OAuth-Client zu erstellen, führen Sie die folgenden Schritte aus:

    Anmerkung

    Nur Arbeitsbereich-Administrator kann OAuth-Clients erstellen und freigeben. Wenn Sie keine Berechtigung haben, wenden Sie sich an Ihren Arbeitsbereich-Administrator.

    1. Gehen Sie zu Arbeitsbereich-Administrator > OAuth-Clients.

    2. Wählen Sie Neu aus.

    3. Geben Sie die Details zum OAuth-Client ein:

      • Name: Geben Sie einen Beschreibungsnamen ein.

      • Technologie: Wählen Sie Azure aus.

      • Genehmigungstyp – Wählen Sie Client-Anmeldedaten aus.

      • Kunden-ID: Kontaktieren Sie Ihr IT-Team für die Einrichtung. Legen Sie diesen Einrichtungsleitfaden als Referenz bereit.

      • Client-Geheimnis: Wenden Sie sich zur Einrichtung an Ihr IT-Team. Legen Sie diesen Einrichtungsleitfaden als Referenz bereit.

      • Ablaufdatum des Client-Geheimnisses: Wählen Sie ein zukünftiges Ablaufdatum aus.

      • Token-URL: Geben Sie https://login.microsoftonline.com/{tenant_id}/oauth2/v2.0/token ein. Ersetzen Sie {tenant_id} durch Ihre Tenant-ID. Wenden Sie sich an Ihr IT-Team, um Ihre Tenant-ID zu erhalten. Legen Sie diesen Einrichtungsleitfaden als Referenz bereit.

      • Geltungsbereiche: Geben Sie https://cognitiveservices.azure.com/.default ein.

      • Ablauf des Zugriffstokens: Geben Sie die Tokengültigkeitsdauer in Sekunden ein.

Cohere

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren Cohere-API-Schlüssel ein. Erfahren Sie, wie Sie Ihren API-Schlüssel über Ihr Cohere-Konto erhalten.

Databricks

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

DeepSeek

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren DeepSeek-API-Schlüssel ein. Erfahren Sie, wie Sie Ihren API-Schlüssel über Ihr DeepSeek-Konto erhalten.

Google Vertex AI

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist Vertex Credential JSON die einzige Option.

  • Vertex-Anmeldedaten: Kopieren Sie die JSON-Datei, die Ihre Dienstkontenschlüssel enthält, und fügen Sie sie ein. Erfahren Sie, wie Sie Dienstkontenschlüssel in der Google Cloud erstellen.

Groq

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren GroqCloud-API-Schlüssel ein. Erfahren Sie, wie Sie Ihren API-Schlüssel über Ihr GroqCloud-Konto erstellen.

Hugging Face

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

  • Modellliste: Geben Sie eine Liste der Modelle ein, die mit dieser Verbindung verwendet werden sollen. Trennen Sie Modelle durch Kommas (z. B. meta-llama/Llama-Prompt-Guard-2-86M, meta-llama/Llama-3.3-70B-Instruct, katanemo/Arch-Router-1.5B). Stellen Sie sicher, dass jedes Modell auf Hugging Face mit dem Hugging Face-Inferenzanbieter bereitgestellt ist, Texterstellung unterstützt und dass Sie Zugriff darauf haben. Ab sofort werden nur Modelle unterstützt, die mit dem eigenen Inferenzanbieter von Hugging Face bereitgestellt wurden.

    Anmerkung

    Stellen Sie sicher, dass die Modellnamen korrekt sind. Wenn die Namen falsch sind, können Sie im Eingabeaufforderung-Tool keine Anfragen an sie stellen.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren Hugging Face-Benutzerzugriffstoken ein. Erfahren Sie, wie Sie Ihr Benutzerzugriffstoken über Ihr Hugging Face-Konto erstellen.

Mistral

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren Mistral-API-Schlüssel ein. Erfahren Sie, wie Sie Ihren API-Schlüssel über Ihr Mistral-Konto erstellen.

OpenAI

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren OpenAI-API-Schlüssel ein. Erfahren Sie, wie Sie Ihren API-Schlüssel über Ihr OpenAI-Konto erstellen.

OpenAI-kompatibel

Verwenden Sie OpenAI-kompatible Verbindungen, um eine Verbindung zu LLM-APIs herzustellen, die der OpenAI API-Spezifikation entsprechen.

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • Basis-URL: API-Endpunkt für Ihren OpenAI-kompatiblen Anbieter oder Ihr benutzerdefiniertes Modell (z. B. https://your-custom-endpoint.com/v1).

  • API-Schlüssel: Geben Sie den API-Schlüssel für Ihren OpenAI-kompatiblen Anbieter oder Ihr benutzerdefiniertes Modell ein.

Perplexity

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren Perplexity-API-Schlüssel ein. Erfahren Sie, wie Sie Ihren API-Schlüssel über Ihr Perplexity-Konto erstellen.

xAI

Verbindungsinformationen

  • Verbindungsname: Geben Sie einen beschreibenden Verbindungsnamen an, unter dem Benutzer:innen diese Verbindung später wiederfinden können.

  • Verbindungsbeschreibung (optional): Geben Sie eine Beschreibung für die Verbindung an.

Anmeldedaten

  • Anmeldedatentyp: Derzeit ist der API-Schlüssel die einzige Option.

  • API-Schlüssel: Geben Sie Ihren xAI-API-Schlüssel ein. Erfahren Sie, wie Sie Ihren API-Schlüssel über Ihr xAI-Konto erstellen.

In diesem Abschnitt: