使用 Amazon SageMaker JumpStart 部署与评估模型

Amazon SageMaker JumpStart 提供了一套结合 SageMaker Python SDK v3 快速部署预训练模型、评估性能并在测试完成后清理端点的工作流。该流程可测量单次请求的延迟、预估输出词数与每秒生成词数。JumpStart 还支持通过预配置端点针对低成本或低延迟等场景进行优化，并支持从 Hugging Face 深度链接一键跳转部署。