初创公司探索部署混合AI架构以降低商业模型负载与成本
Start here
2026年11月6日,arXiv发布相关论文披露,软件公司Grayhat Developers探索并采用了一种混合AI架构。该公司此前每月使用Claude和Codex等商业模型消耗超过25.93 billion tokens。为优化资源,团队将商业智能体用于处理复杂任务,同时引入自托管的本地模型,接管低复杂度任务以及Outline、Plane等工具的协同操作。通过将占商业负载30%至40%的协同任务转移至本地,预计可减少27%至36%的商业AI负载或等效成本。
AI-generated from reports · Updated 4 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 人工智能搭建专属工作栈:在科技初创公司部署自托管 AI 与工具
软件公司 Grayhat Developers 采用混合 AI 架构,由商业智能体处理复杂任务,本地模型接管低复杂度任务及 Outline、Plane 等工具的协同。针对此前使用 Claude 和 Codex 每月超 25.93 billion tokens 的消耗,团队将占商业负载 30%~40% 的协同任务本地化,预计减少 27%~36% 的商业 AI 负载或等效成本。
Story heat trend
Current heat 9·Comparable peak 10(Nov 6 14:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.