Microsoft Azure

AI 服務

• Azure AI Foundry 中的 Azure OpenAI：OpenAI 的 GPT 與推理模型，以及開放與合作夥伴模型目錄。
• 用於建置與執行代理的 Foundry Agent Service；用於檢索的 Azure AI Search。
• Azure AI Content Safety 與評估工具；Azure Machine Learning 用於自訂訓練。

GPU 與加速器

• 搭載 InfiniBand 的 ND H100 v5、ND H200 v5 與 ND GB200 v6 虛擬機器。
• 具備 GPU 節點集區的 AKS；提供 AMD MI300X 選項。

代理與身分

• Microsoft Entra ID 搭配受控身分與工作負載身分；以 Entra Agent ID 管理代理程式身分。
• 適用於管理員的條件式存取與 Privileged Identity Management。

安全與資料

• AI 資源的私有端點與網路隔離；客戶自行管理的金鑰。
• 內容過濾器與提示詞防護，抵禦越獄與間接提示詞注入。
• Defender for Cloud 與 Purview，用於 AI 安全態勢與資料治理。

擴展與最佳化

• 提供可預測延遲的佈建吞吐量單位（PTU）；以全域與資料區域部署分散負載。
• 批次 API，以較低成本處理大型離線作業。

英國與歐盟區域

英國南部與英國西部，並提供歐盟資料區域部署。

注意事項

模型可用性與配額因區域與部署類型而異；請及早為上線預留 PTU。