最適合: 希望以託管方式取用多種基礎模型、具備完善治理，並可選擇自行訓練與託管模型的企業。
AI 服務
- Amazon Bedrock：以單一 API 取用來自 Anthropic（Claude）、Meta（Llama）、Mistral、Cohere、Amazon Nova 等的基礎模型，並提供用於 RAG 的 Knowledge Bases、Guardrails、批次推論與模型評估。
- Bedrock AgentCore：為以任何框架建構的正式環境代理，提供受管執行環境、記憶、閘道、身分與可觀測性。
- Amazon SageMaker AI：訓練、微調與託管，搭配 SageMaker HyperPod 提供具韌性的大規模訓練叢集。
- 適用於開發人員與業務使用者的 Amazon Q。
GPU 與加速器
- EC2 P5（H100）、P5e/P5en（H200）、P6（Blackwell）與 GB200 UltraServers。
- AWS Trainium 與 Inferentia 執行個體，提供更低成本的訓練與推論。
- 使用 EKS 搭配 Karpenter 進行 GPU 自動擴縮；容量區塊用於預留 GPU 時間。
代理與身分
- 以 AgentCore Identity 管理代理憑證及對第三方工具的 OAuth；每個工作負載皆使用 IAM 角色。
- EKS Pod Identity 或 IRSA，讓容器永遠不必持有長期金鑰。
安全與資料
- Bedrock 不會使用您的提示詞或輸出內容來訓練基礎模型。
- PrivateLink（VPC 端點）讓模型流量不經過網際網路；KMS 加密；CloudTrail 記錄每一次呼叫。
- 內容過濾、禁止主題、PII 遮蔽與事實依據檢查的防護機制。
擴展與最佳化
- 跨區域推論設定檔可吸收流量尖峰；佈建吞吐量則保證容量。
- 提示詞快取、批次推論與智慧提示詞路由，降低每次請求的成本。
英國與歐盟區域
倫敦（eu-west-2）與歐盟區域；請依區域確認模型可用性。
注意事項
各模型的配額（每分鐘權杖數與請求數）需在上線前充分提早申請提高。
Workstation 如何協助: 我們設計 Bedrock 架構、評估並提高配額、在 AgentCore 上建置代理程式，並將 AWS 連接至您的地端 GPU。
以 Amazon Bedrock 大規模擴展 AI →雲端上適用於 LLM、代理程式與資料的 CI/CD →保護 LLM 與代理程式 API →AI 代理程式 harness →AI 的身分識別與驗證 →
我們合作的其他供應商
標誌為各所有者之商標，僅用於識別各平台，並取自 Wikimedia Commons。圖表由 Workstation 團隊製作。