自动警报和异常检测
您可以配置 CloudWatch 警报来通知您异常行为或非标准输出。
例如，您可以设置警报，当一定数量的输出包含不适当的内容时，或者当特定主题的输出突然增加时，触发警报。
这使得有效地检测和应对异常并保持生成性人工智能的可靠性成为可能。
该过程所需的劳动力比手动监控少得多。
审计日志存储和合规性
从合规性和内部审计的角度来看，保留审计日志也很重要。
使用 CloudWatch Logs，所有用户输入和模型响应都可以被记录并安全存储。
这使您可以审查过去的输出以识别问题或提供监管审计的证据。
此外，分析存储的日志数据可以提供数据来评估护栏的有效性并提供持续改进。
Guardrails 支持的大规模语言模型的类型和特点
Guardrails 与大型语言模型 (LLM) 一起使用时效果最佳，使用 Amazon Bedrock 时可支持大型语言模型 (LLM)。
这些模型具有不同的特点，旨在适应不同的应用。
例如，一些模型擅长高级自然语言生成，而其他模型则提供快速响应。
本节提供有关 Guardrails 支持的主要语言模型及其特点的详细信息。
Amazon Titan Text
Amazon Titan Text 是 Amazon Bedrock 提供的 LLM 之一，具有先进的自然语言处理功能。
该模型用途广泛，包括客户支持、自动报告和创意写作生成。
其定义特征是能够产生准确且一致的输出。
Titan Text 还具有高度可定制性，可以针对特定行业和用例进行微调。
这允许根据企业的需求进行高级输出。
Anthropic Claude 的特点和优势
Anthropic Claude 是一门法学硕士学位，其设计特点是注重安全性和道德性。
该模型经过训练，不太可能 突尼斯电报数据 生成不适当的内容，因此特别适合敏感环境。
它还在用户交互期间提供一致的响应和可靠的性能。
因此，建议在需要严格监管的领域（例如医疗和金融行业）使用它。
Meta Llama 2 性能和应用
Meta Llama 2 是一款能够快速高效地生成自然语言的 LLM。
该模型在大型数据集上进行训练，可以处理广泛的主题。
它的独特之处在于其轻量级架构，这使其适用于需要高响应速度的实时应用程序。
例如，它可以有效地用于聊天机器人和实时支持。
此外，由于它可以在低资源环境中运行，因此被广泛应用于各种系统。
与其他受支持的法学硕士 (LLM) 的比较
Amazon Bedrock 支持的其他 LLM 包括行业特定模型和高度准确的翻译模型。
每个模型都有不同的特点，您可以根据自己的应用选择最佳的模型。
例如，如果您需要高级翻译功能，专用翻译模型是一个不错的选择，而 Titan Text 则擅长创意生成任务。
Guardrails 与这些模型协同工作，以解决各种用例。