首页 /文章

文章

全部入门与导航基础理论大模型专题应用开发工程与基础设施行业与场景伦理、安全与合规综合项目与职业成长
工程与基础设施 数据工程 1训练基础设施 0推理服务与成本优化 3MLOps / LLMOps 1监控、日志与安全 0交易系统设计 0安全开发 1

全部内容 · 共 10 篇 · 最新在前

安全开发

NIST SP 800-218:安全软件开发框架(SSDF)完全引入

NIST SP 800-218 把软件开发全流程的安全要求收成一张清单——从需求到维护每个阶段该做什么。本文覆盖 SSDF 定位、设计哲学、16 项实践清单、实施指南,以及与国标 GB/T、ISO 27001 的对照、NIST 官方工具与配套参考标准。附 SSDF 与 SDLC 的关系图。

浏览 35 次 2026-09-26 →
推理服务与成本优化

LLM 应用的成本核算——Token 计费到单位经济

LLM 应用的成本核算方法。按 Token 计费、成本归因、单位经济三层展开,给出各层所需表格与公式,并梳理优化杠杆与治理要点,供核算成本毛利。

浏览 27 次 2026-09-22 →
推理服务与成本优化

LLM 网关架构——路由、限流与成本控制

LLM 网关的架构设计。讨论多模型接入场景下的网关定位,列出核心能力、五类路由策略与三维限流设计,并对比自研、开源与托管方案。

浏览 15 次 2026-09-22 →
MLOps / LLMOps

LLM 服务可观测性——指标、追踪与告警设计

LLM 服务的可观测性设计。说明传统 APM 的不足,提出三层信号模型与八项核心指标,涵盖追踪、日志、告警与成本归因,可用于搭建观测体系。

浏览 12 次 2026-09-22 →
数据工程

向量数据库选型——性能、成本与适用场景

向量数据库的选型方法。从数据与负载边界出发,对比四类主流 ANN 索引的权衡与产品能力,给出成本模型与场景决策路径,供结合查询分布验证。

浏览 12 次 2026-09-22 →
工程与基础设施

48G 内存的 MacBook 跑 MiniMax H3:端侧视频生成的带宽瓶颈

以 48G 内存 MacBook 跑 MiniMax H3 实测为背景,拆解端侧视频生成真正瓶颈:内存带宽、权重体积、显存复用机制;N 卡、云端 API、Apple 芯片三条路径成本对照与选型建议。

浏览 45 次 2026-09-21 →
工程与基础设施

Qwen3.8 本地部署:显存门槛与部署方法

Qwen3.8 本地部署:硬件门槛三档、显存需求表(按量化档位)、Ollama 与 vLLM 两条路线、五个去重常见问题、Mac M 系列说明。

浏览 35 次 2026-09-21 →
工程与基础设施

本地大模型三向实操指南

2026 本地 LLM 三大硬件方向实操: DGX Spark 双机 / RTX PRO 5000 48GB / M5 Mac, 含 VRAM 预算与买前 3 考

浏览 45 次 2026-09-21 →
推理服务与成本优化

免费额度机制与组合用法

2026 Q3 六大免费额度机制图鉴 + 7 大 Coding Plan 平台入口与机制 + 3 个组合用法

浏览 31 次 2026-09-21 →
工程与基础设施

本地大模型入门指南 — DGX Spark / Mac M5 / RTX 5000

浏览 140 次 2026-09-21 →