本地模型启动失败排查 AI栈

本地模型启动失败时，按日志第一条报错排查模型路径、文件完整性、显存内存、端口占用和启动参数，并用最少参数复现，避免只盯最后一行。
AI 开发 调试工具 模型部署
Alexer 发布于 
20 0

AI 审查结果误报处理 AI栈

AI 审查的误报多因缺少上下文或与项目约定冲突。做法是把文件、调用方一起提供给审查工具复核，确认误报后写进项目规则文件，并带上原因、精确路径和负责人；重跑审查验证效果。忽略范围别按全局规则关闭，否则会漏掉真问题。
AI 开发 调试工具 代码分析
Alexer 发布于 
19 0

Embedding 接口调用 AI栈

Embedding 接口把文本转成向量，供语义搜索与 RAG 召回使用。文中给出兼容 OpenAI 格式的最小调用示例，说明批量提交、按 index 对齐返回顺序，以及长文本切块、换模型后必须整库重算两个常见坑。
AI 开发 RAG 模型部署
Alexer 发布于 
14 0

输出被截断怎么处理 AI栈

输出被截断先看响应里的 finish_reason：为 length 说明 max_tokens 太小，为 stop 说明 stop 参数和正文撞了，提示上下文超限则要裁短输入或分段生成。示例给出了一次调用并打印结束原因的最小写法，同时提醒别漏算输入加输出的总长度、别乱传短符号当 stop。
AI 开发 调试工具 模型部署
Alexer 发布于 
13 0

向量数据库基础 AI栈

向量数据库负责存向量、按相似度取最近的几条。先切块并用同一个模型把文本转成向量入库，查询时把问题转成向量调接口取回原文。示例用 Chroma 内存模式跑通，注意建库和查询的 embedding 模型要保持一致，只存向量不存原文会导致召回后没法用。
AI 开发 调试工具 RAG
Alexer 发布于 
12 0

Embedding 向量概念 AI栈

Embedding 是把文本变成固定长度向量，意思接近的文本向量也接近。用法是文本转向量、存库、查询时算余弦相似度取最相似的几条。示例给出可直接运行的余弦相似度计算，并点出换模型必须重建索引、长文本要先切块两个坑。
AI 开发 RAG 模型部署
Alexer 发布于 
19 0

提示词变量占位写法 AI栈

讲清提示词变量占位写法：用固定占位符把 prompt 里会变的部分挖成坑，运行时填值复用模板。给出 Python string.Template 的最小可跑示例，并提醒 JSON 花括号冲突和用户输入二次替换两个常见坑。
AI 开发 Prompt 代码分析
Alexer 发布于 
19 0

MCP 工具声明格式 AI栈

MCP 工具声明由 name、description、inputSchema 三部分组成，说明工具名、用途和参数结构。写清楚描述、对齐参数与 required，模型才能正确调用，避免误调或传参失败。
AI 开发 Agent Prompt
Alexer 发布于 
25 0
blogger
Alexer
这家伙很懒，什么也没留下...

最新评论

链接

搜索