科技
共 23 篇文章
算力租赁怎么选:按卡时、按 token 还是包月
三种计费方式对应三种负载形态,选错就是白烧钱。附一份包含隐藏成本的选型清单——存储、出网流量和闲置才是大头。
AI 生成内容的标识:发布前该做哪几件事
国内对 AI 生成合成内容有明确的标识要求,分显式和隐式两种。个人博主发图发文前,最低限度要做到什么。
开源大模型许可证:权重和代码是两回事
一个模型“开源”不代表能商用。权重许可证与代码许可证是分开的,商用前要逐条核对的几件事我都列出来了。
本地跑大模型:显存怎么估,Ollama 怎么上手
先算清楚显存够不够,再决定要不要本地部署。附一份估算公式和现实的能力预期——本地模型适合干什么,不适合干什么。
AI 时代的备份:哪些要备,哪些不用备
模型权重重下就行,微调产物丢了就真没了。把 AI 组件加进备份清单时,得先分清哪些是可重放的。
从提示词工程到上下文工程
上下文窗口不是硬盘,是预算。把每一 token 都当成有成本的资源来分配,效果差距就出来了。
AI 编程工具怎么选:补全、对话与智能体的区别
三类工具的能力边界完全不同,尤其第三类会真的执行 shell 命令——选型之外,更该先想清楚给它什么权限。
RAG 入门:从切分到召回的一条完整链路
给模型外挂知识库这件事,真正难的不是调 API,而是中间那几步工程。我按实际会出问题的顺序走一遍。
向量数据库到底解决了什么问题
它不存储向量这么简单——它解决的是“按意思找”这件事在千万级数据量下还要快。以及,什么时候你其实不需要它。
大模型 API 的账怎么算:token、上下文与缓存
很多人第一笔 API 账单都比预期高,原因通常不是单价贵,而是没意识到多轮对话的上下文是累计计费的。