Zentraler Informatikdienst

KI-Modelle über die Microsoft Foundry nutzen

Für:  Studierende  Mitarbeiter*innen

Diese Anleitung hilft Ihnen, KI-Modelle über die Microsoft Foundry in Azure bereitzustellen und zu nutzen.

Voraussetzungen

Sie haben Microsoft Azure bestellt und bereits Zugang zum Microsoft-Azure-Portal und den darin inkludierten Services erhalten.

Hinweis

Diese Anleitung basiert auf der englischsprachigen Oberfläche von Microsoft Azure. Um zu dieser Spracheinstellung zu wechseln:

  1. Klicken Sie im Azure Portal in der blauen Leiste oben auf das Zahnrad-Symbol ⚙.
  2. Wählen Sie im Menü links Sprache und Region.
  3. Wählen Sie im Drop-down Sprache den Eintrag English.

  1. Azure-Portal öffnen – Microsoft Foundry – Create a resource
  2. Subscription, Resource group, Name, Region, Default project name eingeben – Reiter Review + create
  3. Ressource öffnen – Go to Foundry portal
  4. Model catalog – Modell wählen – Use this model
  5. Deployment type ändern (darf nicht Global enthalten) – Deploy
  6. Models + endpoints – Open in playground oder Endpoint

Ausführliche Anleitung

1. Foundry-Ressource erstellen

  1. Öffnen Sie das Azure-Portal.
  2. Geben Sie Microsoft Foundry in der Suchleiste ganz oben ein.
  3. Wählen Sie im Suchergebnis Microsoft Foundry im Abschnitt Services.
  4. Klicken Sie auf Create a resource im Kasten Create a Foundry Resource.

2. Foundry-Ressource konfigurieren

  1. Wählen Sie über die Drop-downs Subscription und Resource group, wo die Ressource erstellt werden soll.
  2. Geben Sie unter Name einen Namen für die Foundry-Ressource ein.
  3. Wählen Sie die Region, das heißt das Azure-Rechenzentrum, in dem die Ressource erstellt werden soll. 
    Aufgrund von Datenschutz- und Datensicherheitsmaßnahmen sind innerhalb der Azure-Umgebung der Universität Wien nur einige europäische Azure-Regionen verfügbar. Je nach ausgewählter Region können die verfügbaren Modelle variieren. Wenn Sie die neuesten Modelle wie ChatGPT-5.2 nutzen möchten, empfiehlt der ZID derzeit die Region Sweden Central.
  4. Geben Sie einen Namen unter Default project name ein.
  5. Bearbeiten Sie die Einstellungen in den anderen Reitern (Storage, Network etc.), falls Sie eine bestimmte Konfiguration benötigen. Andernfalls klicken Sie auf den letzten Reiter Review + create und erstellen Sie die Ressource.

3. Foundry-Ressource und -Portal öffnen

  1. Nach einigen Sekunden erscheint eine Benachrichtigung, dass die Ressource erfolgreich erstellt wurde.
  2. Öffnen Sie die neu erstellte Ressource.
  3. Klicken Sie auf Go to Foundry portal.

4. Modell bereitstellen

Hinweis

Die Modelle werden regelmäßig von Microsoft aktualisiert.

  1. Das Foundry-Portal öffnet sich in einem neuen Browser-Tab.
  2. Um ein Modell bereitzustellen, klicken Sie im Menü links auf Model catalog.
  1. Wählen Sie das Modell, das Sie bereitstellen möchten, indem Sie auf dessen Namen klicken. Sie können auch die Suchleiste nutzen, um verfügbare Modelle zu finden.
  2. Nachdem Sie das gewünschte Modell ausgewählt haben, können Sie weitere Details auf der jeweiligen Modellseite einsehen.
  3. Um das Modell in Ihrem Foundry-Projekt bereitzustellen, klicken Sie auf Use this model.

5. Modell konfigurieren

  1. Ein Konfigurationsmenü öffnet sich.
  2. Ändern Sie den Bereitstellungstyp über Deployment type in einen, dessen Name nicht Global enthält, etwa Data Zone Standard. Dadurch wird sichergestellt, dass Daten ausschließlich in der Europäischen Union verarbeitet werden. 
    Bereitstellungstypen, die keine Datenverarbeitung innerhalb der EU garantieren, werden durch Richtlinien blockiert und können nicht genutzt werden.

Hinweis

Wenn Sie ein Modell verwenden möchten, das nur mit dem Bereitstellungstyp Global Standard verfügbar ist, und Sie keine sensiblen Daten verarbeiten wollen: Schreiben Sie an digital.zid(at)univie.ac.at und beschreiben Sie Ihren Use Case. Dieser wird an den Datenschutzbeauftragten der Universität Wien weitergeleitet. 

Erst nach Erhalt der Genehmigung kann die Sperrrichtlinie für Ihr Azure-Abonnement deaktiviert werden.

  1. Klicken Sie auf Deploy.
  2. Klicken Sie im Menü links auf Models + endpoints, um die Bereitstellung anzuzeigen. Diese Ansicht enthält auch eine vollständige Liste aller Bereitstellungen in Ihrem Foundry-Projekt.

6. Modell nutzen

  1. Klicken Sie im Menü links auf Models + endpoints.
  2. Klicken Sie auf das gewünschte Modell.
  3. Klicken Sie auf Open in playground, um das Modell in Ihrer aktiven Browsersitzung zu nutzen.
  4. Alternativ können Sie den Endpoint und API-Key abrufen, um das Modell in eine externe Anwendung einzubinden.

Nach oben