截至 2024 年 1 月 30 日,DeepSeek-R1 模型已通过 Amazon Bedrock Marketplace 和 Amazon Bedrock 自定义模型导入功能在 Amazon Bedrock 上线。自那时起,数千家客户已在 Amazon Bedrock 中部署了这些模型。客户高度评价其强大的安全护栏和全面的工具,确保了 AI 的安全部署。如今,我们通过提供包括全新无服务器解决方案在内的更多选择,使 DeepSeek 在 Amazon Bedrock 中的使用变得更加便捷。

全托管的 DeepSeek-R1 模型现已在 Amazon Bedrock 正式上线。亚马逊云科技(Amazon)是首家将 DeepSeek-R1 作为全托管正式上线模型提供的云服务提供商(CSP)。通过 亚马逊云科技上的 DeepSeek,您可以加速创新并实现切实的业务价值,而无需管理复杂的基础设施。借助 Amazon Bedrock 全托管服务中的单一 API,您可以利用 DeepSeek-R1 的强大能力为生成式 AI 应用程序提供动力,并享受其广泛的功能和工具集。

据 DeepSeek 介绍,其模型在 MIT 许可下公开发布,并在推理、编码和自然语言理解方面表现出色。这些能力为智能决策支持、软件开发、数学问题解决、科学分析、数据洞察以及全面的知识管理系统提供了强大支持。

与所有 AI 解决方案一样,在生产环境中实施时,请仔细考虑数据隐私要求,检查输出中的偏见,并监控结果。在实施像 DeepSeek-R1 这样的公开模型时,请考虑以下因素:

数据安全——您可以利用 Amazon Bedrock 的企业级安全、监控和成本控制功能,这些功能对于大规模负责任地部署 AI 至关重要,同时您还能完全掌控自己的数据。用户的输入和模型输出不会与任何模型提供商共享。默认情况下,您可以使用这些关键的安全功能,包括数据静态和传输中的加密、细粒度的访问控制、安全的连接选项,以及在 Amazon Bedrock 中与 DeepSeek-R1 模型交互时下载各种合规认证。

负责任的人工智能——您可以通过 Amazon Bedrock Guardrails 实施根据应用需求和负责任的 AI 政策定制的保障措施。这包括内容过滤、敏感信息过滤以及可自定义的安全控制等关键功能,通过上下文基础和自动推理检查来防止幻觉。这意味着您可以通过过滤生成式 AI 应用中的不良和有害内容,按照自定义的策略集控制用户与 Bedrock 中 DeepSeek-R1 模型的交互。

模型评估——您可以通过 Amazon Bedrock 的模型评估工具,在几步之内通过自动或人工评估来评估和比较模型,包括 DeepSeek-R1,从而为您的用例识别最佳模型。您可以选择使用预设指标(如准确性、鲁棒性和毒性)进行自动评估,也可以选择人工评估工作流来处理主观或自定义指标(如相关性、风格和品牌语音一致性)。模型评估提供了内置的精选数据集,您也可以使用自己的数据集。

我们强烈建议将 Amazon Bedrock Guardrails 和 Amazon Bedrock 模型评估功能与您的 DeepSeek-R1 模型集成,为您的生成式 AI 应用程序提供强大的保护。如需了解更多信息,请访问 亚马逊云科技 。

在 Amazon Bedrock 中开始使用 DeepSeek-R1 模型
如果您是首次使用 DeepSeek-R1 模型,请前往 Amazon Bedrock 控制台,在左侧导航栏中选择“配置”下的“模型访问”。要访问全托管的 DeepSeek-R1 模型,请在 DeepSeek 中申请 DeepSeek-R1 的访问权限。申请通过后,您即可在 Amazon Bedrock 中访问该模型。

接下来,若要在 Amazon Bedrock 中测试 DeepSeek-R1 模型,请在左侧菜单栏中选择“Playground”下的“Chat/Text”。然后在左上角选择“选择模型”,在模型分类中选择“DeepSeek”,并选择“DeepSeek-R1”作为具体模型。最后,点击“应用”即可

使用选定的 DeepSeek-R1 模型,我运行了以下提示示例:

一个家庭有 5,000 美元用于为明年的度假储蓄。他们可以将这笔钱存入年利率为 2% 的储蓄账户,或者存入年利率为 4% 的定期存款,但在度假前无法动用这笔资金。如果他们在这一年中需要 1,000 美元用于紧急支出,他们应该如何在这两种选择之间分配资金,以最大化他们的度假基金?

此提示需要复杂的思维链,并生成非常精确的推理结果。

如需了解更多关于提示语的使用建议,请参考 DeepSeek-R1 模型提示语指南

通过选择“查看 API 请求”,您还可以使用 AWS 命令行界面(AWS CLI)和 AWS SDK 中的代码示例访问该模型。您可以使用 us.deepseek.r1-v1:0 作为模型 ID。

以下是 AWS CLI 命令的示例:

aws bedrock-runtime invoke-model \
       --model-id us.deepseek.r1-v1:0 \
       --body "{\"prompt\": \"<|begin_of_sentence|><|User|>Type_Your_Prompt_Here<|Assistant|><think>\n\", \"max_tokens\": 512, \"temperature\": 0.5, \"top_p\": 0.9}" \
       --cli-binary-format raw-in-base64-out \
       --region us-west-2 \
       invoke-model-output.txt

该模型同时支持 InvokeModel 和 Converse API。以下 Python 代码示例展示了如何使用 Amazon Bedrock 的 Converse API 向 DeepSeek-R1 模型发送文本消息以实现文本生成。如需了解更多信息,请访问 AWS 文档中的 DeepSeek 模型推理参数和响应。 

import boto3
from botocore.exceptions import ClientError

# Create a Bedrock Runtime client in the AWS Region you want to use.
client = boto3.client("bedrock-runtime", region_name="us-west-2")

# Set the model ID, e.g., DeepSeek-R1 Model.
model_id = "us.deepseek.r1-v1:0"

# Start a conversation with the user message.
user_message = "Type_Your_Prompt_Here"
conversation = [
    {
        "role": "user",
        "content": [{"text": user_message}],
    }
]

try:
    # Send the message to the model, using a basic inference configuration.
    response = client.converse(
        modelId=model_id,
        messages=conversation,
        inferenceConfig={"maxTokens": 512, "temperature": 0.5, "topP": 0.9},
    )

    # Extract and print the response text.
    response_text = response["output"]["message"]["content"][0]["text"]
    print(response_text)

except (ClientError, Exception) as e:
    print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}")
    exit(1)

 要在 DeepSeek-R1 模型上启用 Amazon Bedrock Guardrails,请在左侧导航栏中选择“保障措施”下的“Guardrails”,并根据需要配置过滤器来创建 Guardrail。例如,如果您设置了“政治”一词的过滤器,Guardrails 将识别提示中的该词汇并向您显示被阻止的消息。

您可以通过不同的输入测试 Guardrail,以评估其性能。您可以通过设置禁止主题、词汇过滤器、敏感信息过滤器和阻止消息来优化 Guardrail,直到其完全符合您的需求。

如需了解更多关于 Amazon Bedrock Guardrails 的信息,请访问 亚马逊云科技文档中的 使用 Amazon Bedrock Guardrails 阻止模型中的有害内容,或查阅 亚马逊云科技 机器学习博客频道中关于 Amazon Bedrock Guardrails 的深度文章。

现已推出 DeepSeek-R1 现已在美国东部(北弗吉尼亚)、美国东部(俄亥俄)和美国西部(俄勒冈)亚马逊云科技区域通过跨区域推理在 Amazon Bedrock 中全面托管。查看完整区域列表以获取未来更新。了解更多信息,请访问 DeepSeek in Amazon Bedrock 产品页面和 Amazon Bedrock 定价页面。

立即在 Amazon Bedrock 控制台中试用 DeepSeek-R1 模型,并将反馈发送至 Amazon re:Post for Amazon Bedrock 或通过您常用的 Amazon 支持联系人。

— Channy

更新于2025年3月10日 — 修复了模型选择和模型 ID 的截图。

更新于2025年3月13日 — 添加了 DeepSeek-R1 模型提示和模型推理参数及响应的指南链接。
如需了解更多,请关注DeepSeek – Amazon Bedrock 中的模型 – Amazon

Logo

助力广东及东莞地区开发者,代码托管、在线学习与竞赛、技术交流与分享、资源共享、职业发展,成为松山湖开发者首选的工作与学习平台

更多推荐