az ml online-endpoint
Note
Diese Referenz ist Teil der ml-Erweiterung für die Azure CLI (Version 2.15.0 oder höher). Die Erweiterung wird automatisch installiert, wenn Sie einen az ml-Onlineendpunkt Befehl ausführen. Erfahren Sie mehr über Erweiterungen.
Verwalten von Azure ML-Onlineendpunkten.
Azure ML-Endpunkte bieten eine einfache Schnittstelle zum Erstellen und Verwalten von Modellbereitstellungen. Jeder Endpunkt kann über eine oder mehrere Bereitstellungen verfügen, sodass der Datenverkehr von einem einzelnen Bewertungsendpunkt bei Bedarf an mehrere Bereitstellungen bereitgestellt werden kann. Dies ist nützlich für Szenarien wie das kontrollierte Rollout.
Azure ML unterstützt zwei Arten von Endpunkten: Online und Batch. Onlineendpunkte unterstützen die Echtzeit-Ableitung, während Batchendpunkte für die Offlinebatchbewertung verwendet werden.
Befehle
| Name | Beschreibung | Typ | Status |
|---|---|---|---|
| az ml online-endpoint create |
Erstellen Sie einen Endpunkt. |
Extension | GA |
| az ml online-endpoint delete |
Löschen eines Endpunkts. |
Extension | GA |
| az ml online-endpoint get-credentials |
Listen Sie die Token/Schlüssel für einen Onlineendpunkt auf. |
Extension | GA |
| az ml online-endpoint invoke |
Rufen Sie einen Endpunkt auf. |
Extension | GA |
| az ml online-endpoint list |
Endpunkte in einem Arbeitsbereich auflisten. |
Extension | GA |
| az ml online-endpoint regenerate-keys |
Generieren Sie die Schlüssel für einen Onlineendpunkt neu. |
Extension | GA |
| az ml online-endpoint show |
Details für einen Endpunkt anzeigen. |
Extension | GA |
| az ml online-endpoint update |
Aktualisieren eines Endpunkts. |
Extension | GA |
az ml online-endpoint create
Erstellen Sie einen Endpunkt.
Um einen Endpunkt zu erstellen, stellen Sie eine YAML-Datei mit der Onlineendpunktkonfiguration bereit. Wenn der Endpunkt bereits vorhanden ist, schlägt er fehl. Wenn Sie vorhandenen Endpunkt aktualisieren möchten, verwenden Sie az ml Online-Endpunktupdate.
az ml online-endpoint create --resource-group
--workspace-name
[--auth-mode]
[--file]
[--local {false, true}]
[--name]
[--no-wait]
[--set]
[--web]
Beispiele
Erstellen eines Endpunkts aus einer YAML-Spezifikationsdatei
az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Optionale Parameter
Die folgenden Parameter sind optional, aber je nach Kontext kann mindestens ein Parameter erforderlich sein, damit der Befehl erfolgreich ausgeführt werden kann.
Authentifizierungsmethode für den Endpunkt. Zulässige Werte: Schlüssel, aml_token. Standard: Taste.
Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlineendpunktspezifikation enthält. Die YAML-Referenzdokumente für Den Onlineendpunkt finden Sie unter: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.
Endpunkt lokal erstellen. Hinweis: Datenverkehr und Authentifizierung werden lokal nicht unterstützt. Sie können "az ml online-deployment create --local" direkt verwenden. Wenn kein Endpunkt vorhanden ist, wird ein Endpunkt erstellt.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
| Zulässige Werte: | false, true |
Name des Onlineendpunkts.
Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert ist "False".
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=value.
Zeigen Sie die Details des Endpunkts in Azure ML Studio in einem Webbrowser an.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
az ml online-endpoint delete
Löschen eines Endpunkts.
az ml online-endpoint delete --name
--resource-group
--workspace-name
[--local {false, true}]
[--no-wait]
[--yes]
Beispiele
Löschen eines Onlineendpunkts, einschließlich aller Bereitstellungen
az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Optionale Parameter
Die folgenden Parameter sind optional, aber je nach Kontext kann mindestens ein Parameter erforderlich sein, damit der Befehl erfolgreich ausgeführt werden kann.
Löschen Sie den lokalen Endpunkt.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
| Zulässige Werte: | false, true |
Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert ist "False".
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Zur Bestätigung nicht auffordern.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
az ml online-endpoint get-credentials
Listen Sie die Token/Schlüssel für einen Onlineendpunkt auf.
az ml online-endpoint get-credentials --name
--resource-group
--workspace-name
Beispiele
Auflisten der Schlüssel für einen Onlineendpunkt
az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
az ml online-endpoint invoke
Rufen Sie einen Endpunkt auf.
Sie können einen Onlineendpunkt mit einigen Anforderungsdaten aufrufen. Dies erfolgt in Echtzeit, und die Bewertungsergebnisse werden sofort zurückgegeben.
az ml online-endpoint invoke --name
--resource-group
--workspace-name
[--deployment-name]
[--local {false, true}]
[--request-file]
Beispiele
Aufrufen eines Onlineendpunkts mit einigen Anforderungsdaten
az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace
Aufrufen eines Onlineendpunkts für eine bestimmte Bereitstellung
az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Optionale Parameter
Die folgenden Parameter sind optional, aber je nach Kontext kann mindestens ein Parameter erforderlich sein, damit der Befehl erfolgreich ausgeführt werden kann.
Name der Bereitstellung, die als Ziel verwendet werden soll.
Rufen Sie den lokalen Endpunkt auf. Dies funktioniert nur, wenn für diesen Endpunkt eine lokale Bereitstellung erstellt wurde.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
| Zulässige Werte: | false, true |
Lokaler Pfad zur JSON-Datei, die die Anforderungsdaten enthält.
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
az ml online-endpoint list
Endpunkte in einem Arbeitsbereich auflisten.
az ml online-endpoint list --resource-group
--workspace-name
[--local {false, true}]
Beispiele
Auflisten aller Onlineendpunkte in einem Arbeitsbereich
az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace
Auflisten aller Batchendpunkte in einem Arbeitsbereich
az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace
Listet alle Onlineendpunkte in einem Arbeitsbereich mithilfe des Arguments --query auf, um eine JMESPath-Abfrage für die Ergebnisse von Befehlen auszuführen.
az ml online-endpoint list --query "[].{Name:name}" --output table --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Optionale Parameter
Die folgenden Parameter sind optional, aber je nach Kontext kann mindestens ein Parameter erforderlich sein, damit der Befehl erfolgreich ausgeführt werden kann.
Listet alle lokalen Endpunkte auf.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
| Zulässige Werte: | false, true |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
az ml online-endpoint regenerate-keys
Generieren Sie die Schlüssel für einen Onlineendpunkt neu.
az ml online-endpoint regenerate-keys --name
--resource-group
--workspace-name
[--key-type]
[--no-wait]
Beispiele
Neu generieren der Schlüssel für einen Onlineendpunkt
az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Optionale Parameter
Die folgenden Parameter sind optional, aber je nach Kontext kann mindestens ein Parameter erforderlich sein, damit der Befehl erfolgreich ausgeführt werden kann.
Der Typ des zu generierenden Schlüssels. Zulässige Werte: primär, sekundär.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | primary |
Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert ist "False".
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
az ml online-endpoint show
Details für einen Endpunkt anzeigen.
az ml online-endpoint show --name
--resource-group
--workspace-name
[--local {false, true}]
[--web]
Beispiele
Anzeigen der Details für einen Batchendpunkt
az ml online-endpoint show --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Zeigen Sie den Bereitstellungsstatus eines Endpunkts mithilfe des Arguments --query an, um eine JMESPath-Abfrage für die Ergebnisse von Befehlen auszuführen.
az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}" --output table --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Optionale Parameter
Die folgenden Parameter sind optional, aber je nach Kontext kann mindestens ein Parameter erforderlich sein, damit der Befehl erfolgreich ausgeführt werden kann.
Zeigen Sie den lokalen Endpunkt an.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
| Zulässige Werte: | false, true |
Zeigen Sie die Details des Endpunkts in Azure ML Studio in einem Webbrowser an.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
az ml online-endpoint update
Aktualisieren eines Endpunkts.
Die Eigenschaften "description", "tags" und "traffic" eines Endpunkts können aktualisiert werden. Darüber hinaus können neue Bereitstellungen zu einem Endpunkt hinzugefügt werden, und vorhandene Bereitstellungen können aktualisiert werden.
az ml online-endpoint update --resource-group
--workspace-name
[--add]
[--file]
[--force-string]
[--local {false, true}]
[--mirror-traffic]
[--name]
[--no-wait]
[--remove]
[--set]
[--traffic]
[--web]
Beispiele
Aktualisieren eines Endpunkts aus einer YAML-Spezifikationsdatei
az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace
Aktualisieren der Datenverkehrseinstellungen für einen Endpunkt
az ml online-endpoint update --name my-online-endpoint --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.
Optionale Parameter
Die folgenden Parameter sind optional, aber je nach Kontext kann mindestens ein Parameter erforderlich sein, damit der Befehl erfolgreich ausgeführt werden kann.
Fügen Sie einer Liste von Objekten ein Objekt hinzu, indem Sie ein Pfad- und Schlüsselwertpaar angeben. Beispiel: --add property.listProperty <key=value, string or JSON string>.
| Eigenschaft | Wert |
|---|---|
| Parametergruppe: | Generic Update Arguments |
| Standardwert: | [] |
Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlineendpunktspezifikation enthält. Die YAML-Referenzdokumente für Den Onlineendpunkt finden Sie unter: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.
Wenn Sie "set" oder "add" verwenden, behalten Sie Zeichenfolgenliterale bei, anstatt zu versuchen, in JSON zu konvertieren.
| Eigenschaft | Wert |
|---|---|
| Parametergruppe: | Generic Update Arguments |
| Standardwert: | False |
Aktualisieren sie den lokalen Endpunkt.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
| Zulässige Werte: | false, true |
Leitet einen doppelten Prozentsatz des Livedatenverkehrs an einen Zug einer Bereitstellung weiter.
Name des Onlineendpunkts.
Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert ist "False".
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Entfernen sie eine Eigenschaft oder ein Element aus einer Liste. Beispiel: --remove property.list <indexToRemove> ODER --remove propertyToRemove.
| Eigenschaft | Wert |
|---|---|
| Parametergruppe: | Generic Update Arguments |
| Standardwert: | [] |
Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=<value>.
| Eigenschaft | Wert |
|---|---|
| Parametergruppe: | Generic Update Arguments |
| Standardwert: | [] |
Leerzeichentrennte Schlüsselwertpaare in Anführungszeichen für die Datenverkehrseinstellungen für den Endpunkt.
Zeigen Sie die Details des Endpunkts in Azure ML Studio in einem Webbrowser an.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |
Ausgabeformat.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | json |
| Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
| Eigenschaft | Wert |
|---|---|
| Standardwert: | False |