AWS Machine Learning Blog 发布于 09/02 00:03

Tokenomics at scale: How Jamf built real-time spend enforcement for Amazon Bedrock

(翻译)规模化Token经济学:Jamf如何为Amazon Bedrock构建实时支出执行

查看原文

资讯摘要

As generative AI adoption scales, cost governance becomes a top challenge. Learn how Jamf built real-time, per-user spend enforcement for Amazon Bedrock using IAM Customer Managed Policies, an Amazon Athena cost view, and a serverless AWS Lambda loop that applies tiered model limits in near-real-tim

AI 摘要

本文介绍Jamf如何构建基于Amazon Bedrock的实时AI支出治理系统。通过IAM客户管理策略、Athena成本视图和Lambda强制循环,实现按用户每日预算限制模型访问,并在80%和100%阈值时自动降级,同时保留低成本模型以保证生产力,还提供了异常处理流程与运维经验。

AI 问答

亚马逊Bedrock如何实现用户级别的实时支出限制?

该方案通过Amazon Athena查询每天每个工程师的Bedrock调用成本和token消耗,由Lambda定时每15分钟检查,再通过更新IAM客户管理策略(CMP)在用户下次调用时限制其使用更高成本的模型,例如在达到日预算80%时禁止访问Claude Opus,达到100%时禁止访问Claude Sonnet,但仍保留Haiku供其继续工作。

如何解决临时需要更高预算的工程师?

方案提供Slack命令/bedrock-limit,管理员可以为工程师设置带过期时间的自定义额度,写入DynamoDB并用TTL自动清理,Lambda读取后按新阈值执行。

打开原文

更多资讯

从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43把记忆交给CPU,大模型会变快量子位 · 09/16 11:07Cloudflare将每天90亿次请求的JavaScript CDN迁移到其开发者平台InfoQ 中文 · 09/16 17:10F-Droid 上的应用有多少是在 AI 帮助下编写的?Solidot · 09/15 20:45豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39CLARITY法案投票失败 加密监管立法再度搁浅金色财经 · 09/16 08:55从 270 分钟到 18 分钟:B 端产品经理如何主导一个 AI 达人撮合系统人人都是产品经理 · 09/16 09:37从”边卖边补”到”准备好再卖”:产品商品化的四步闭环人人都是产品经理 · 09/15 14:11芯片从业者拆解OpenAI造芯,还能再快3个月?雷峰网 · 09/16 18:38别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15派早报:豆包发布手机助手消费者版,绿联发布首款雷电 5 显卡坞等少数派 · 09/15 08:06强化学习大本营新作:如何破解「学新忘旧」困局雷峰网 · 09/15 10:18OpenAI万亿IPO推迟背后 四本账与三条投资路径金色财经 · 09/16 11:27NVIDIA中国开发者日定档10月苏州,现场设认证考试与黑客松决赛Solidot · 09/15 14:44无效的管理者和疲惫的基层:浅论考核指标的漂移人人都是产品经理 · 09/16 15:06FAST 发现极短周期、最轻双中子星系统Solidot · 09/16 19:09当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35Mistral 与 Mozilla 合作推出 Firefox Smart WindowSolidot · 09/16 18:53产品经理的体面,是一块不能失守的 “括约肌”人人都是产品经理 · 09/15 16:09前高通算法研发经理跨界AI算力板检测,获近亿元战略投资丨36氪首发36氪 · 09/15 09:30耐克、妮维雅、谷歌的警示:品类,正在误导品牌战略!人人都是产品经理 · 09/15 09:42AI 负责创造,人来干脏活,这事儿能否停一下?InfoQ 中文 · 09/15 08:08Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月Solidot · 09/16 18:30对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04横扫四榜,DM0.5 凭什么面面俱到?雷峰网 · 09/15 10:22数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57圆桌:新能源:后时代的深水淘金 | 36氪 2026产业未来大会36氪 · 09/15 17:56Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose EachNVIDIA Technical Blog · 09/16 01:00读完斯坦福116页AI实施手册,我最大的感受是:别再盯着模型了人人都是产品经理 · 09/15 12:14