来自实战 第 №310

AI 与软件的实用决策指南

选择模型、验证软件与规划交付的技术指南。

最新文章

最新比较、实用指南与工程经验。

将硬件内存容量与本地 LLM 模型大小进行匹配 AI 与智能体

你的硬件能运行哪个本地 LLM?llmfit 使用指南

llmfit 能在下载模型前按硬件条件给出排序。本指南解释适配度、速度、质量、上下文、MoE 与量化,并说明上线前还必须完成哪些验证。

Claude Code 通过本地 CLIProxyAPI 网关编排 GPT-5.6 Sol AI 与智能体

用 CLIProxyAPI 在 Claude Code 中运行 GPT-5.6 Sol

保留 Claude Code 的智能体编排能力,把模型调用路由到 GPT-5.6 Sol。这份可直接复制的教程补全了流传中的别名,锁紧代理,并逐层验证连接。

用于本地 AWS 集成测试的 Floci、LocalStack 与 AWS SAM 对比 交付与 QA

Floci 对比 LocalStack:2026 年 AWS 本地模拟器选型指南

从服务覆盖、行为保真度、许可、CI 适配到低风险迁移,核查 Floci、LocalStack、AWS SAM 与真实 AWS 的采购差异。

一条语音波形分向托管的 Miso TTS API 与私有自托管 GPU AI 与智能体

Miso TTS 本地部署对比 API:成本、延迟与显存真相

Miso TTS 富有表现力且开放权重,但 110 ms 指托管在 H100 上的 API,并非本地推理。部署前应比较硬件、价格、许可证与生产风险。

MCP 客户端向资源服务器出示绑定受众的令牌,服务器在运行任何工具前先对照身份提供方校验它 AI 与智能体

企业级 MCP 授权架构:多租户参考设计

OAuth 2.1、绑定受众的令牌、禁止令牌透传,是规范的硬性要求。其余的,多租户隔离、按工具的 scope、委托访问与审计,都是你要自己设计的参考架构。两张图讲清整条信任边界。

数据无关向量量化把 float32 embedding 转换成字节数少 16 倍的 2-bit 原始代码 AI 与智能体

把 RAG 向量压缩到 2-bit:数据无关量化能上生产了吗?

TurboQuant 已进入 Qdrant 1.18,TurboVec 也达到 1.0 版。了解 16 倍究竟适用于什么、当前基准如何,以及需要测试什么。

欧盟 AI Act 第50条透明度义务映射为面向 SaaS 聊天机器人、AI 智能体与生成内容的落地清单 商业与监管

面向 SaaS 与 AI 智能体的欧盟 AI Act 第50条落地清单

第50条已于2026年8月2日起适用,欧盟委员会也已启动执法。这份工程清单帮你核查聊天机器人与智能体告知、机器可读标记、深度伪造标签、日志和审计证据,并立即补齐缺口。

同一台服务器上八个各自隔离的按 rank 划分的 KV 缓存,坍缩成一个所有服务进程都能读取的共享主机侧缓存层 AI 与智能体

LMCache 报告共享 KV 缓存让平均 TTFT 降低 13.7 倍

LMCache 报告在一项 Qwen3-235B 多轮基准中,平均 time-to-first-token 从 3.98s 降至 0.29s。本文解释结果能证明什么、不能证明什么,以及如何用自己的负载验证复用。

从精确性、runtime 证据与生产条件对比 BF16 权重无损压缩和 8-bit GGUF 量化 AI 与智能体

LLM 权重无损压缩 vs 8-bit GGUF:哪些已具备生产条件?

基于事实比较 GLM-5.2、BF16 精确解码、Q8 量化、既有系统、runtime 证据、集群经济性与 14 天 pilot。

只收重要内容

获取下一篇一线笔记

有新文章时发送一封简短邮件,不使用跟踪像素,也不发送填充内容。