跳到正文
原文
AWS 机器学习· Urvish Saraiya·· 4 小时前AI 评分49

Octave 如何在 Amazon Bedrock 上构建安全多租户 AI 底座

How Octave built a secure multi-tenant AI foundation on Amazon Bedrock

AI 导读

Octave 针对受监管行业的严格数据隔离需求,在 Amazon Bedrock 上构建了三层多租户 AI 底座,将单个用例的部署时间缩短 50%。该架构使用 Cohere Embed v4 为超 20 亿份文档生成嵌入向量并存入各租户专属向量库,并通过隔离的 microVM 会话调用 Anthropic Claude 模型。

来源:AWS 机器学习 · aws.amazon.com