【AI】Prompt Injection 攻防:AI Agent 的安全边界在哪
1. 一个和 SQL 注入完全不同的注入做过 Web 安全的人听到「注入」,第一反应是 SQL 注入,解法也很清楚:参数化查询,把数据和代码彻底分离。 Prompt Injection 看起来很像,但有个根本区别:LLM 的「数据」和「指令」在同一个通道里,而且都是自然语言。 SQL: 查询...
【AI】LLM 应用评测体系:从 LLM-as-a-Judge 到生产级 Eval
1. 传统测试为什么不够用假设你写了一个函数: def add(a, b): return a + b assert add(1, 2) == 3 # 通过 这个断言永远成立。但换成 LLM 应用: result = llm.invoke("帮我把这句话改得更专业:这个方案我觉...
【AI】AI Agent 记忆系统设计:从上下文窗口到长期记忆
1. 一个被反复混淆的概念很多项目在介绍自己的 Agent 时会说:「它有记忆,因为它把历史对话都带上了。」 这不叫记忆,这叫上下文窗口。 两者的差别可以用人来类比: 上下文窗口相当于你此刻的工作台面。台面有限,放多了就乱,人一走开全部清空。 记忆相当于你的大脑和笔记。你不在工位的时候,事情...
【AI】推理模型选型指南:什么时候该让模型「深度思考」
1. 推理模型的兴起2024 年底到 2025 年,大模型领域最显著的变化之一是推理模型(Reasoning Model) 的普及。 OpenAI 的 o1、o3 系列,DeepSeek 的 R1,Anthropic 的 Claude 系列中的 extended thinking 模式,Goo...
【AI】MCP 协议深度解析:AI Agent 的「USB-C 时刻」
1. 一个熟悉的困境如果你做过 AI Agent,下面这段经历大概率不陌生: 先为 Claude 写了一套工具定义 换到 GPT,发现参数格式要重写 再支持一下国内模型,又是一套 每个 Agent 框架(LangChain、AutoGen、CrewAI)又各有各的封装 想把同一个数据库查询能...
【AI】从 Prompt Engineering 到 Context Engineering:AI 应用的范式转移
1. 为什么要从 Prompt 到 Context过去两年,”Prompt Engineering” 几乎是每个想用好大模型的人都要学的技能。精心设计角色、任务描述、输出格式,往往就能让模型在单轮对话中达到意想不到的效果。 但当我们从「问答」走向「办事」——也就是构建 AI Agent 时,这...
【AI】两个仓库之间的数字对不上:构建期同步与它的三层兜底
症状:总数对得上,单项开始偏移我的个人主页(lucky845.top)上有一块「站点档案」和一张「技术栈」柱状图,数字来自博客。 一开始这些数字是手写死的。博客那边发一篇新文章,主页纹丝不动——要我自己想起来去改。 我以为问题不大,直到某天做了一次逐项比对: 项 主页写死 博客真实值 状...
【AI】Flutter Web 首屏白屏七八秒:三处真实原因的排查记录
症状我给自己的 DeepSeek 用量监控写了 Web 版(deepseek-monitor),部署在 monitor.lucky845.top。 功能都正常,但打开网页要瞪着一片纯白等七八秒。不是「慢一点」,是白得让人以为站点挂了。 这篇文章记录真实的排查过程。三个原因都很反直觉,而且第一个...
【AI】给 AI 编码代理立规矩:一套行为协议技能的设计
起因:最贵的一句话是「已完成」用 AI 编码代理写代码,最先崩溃的不是代码质量,是信任。 我遇到过这些情况,相信你也不陌生: 它说「已修复」,你问「跑过测试吗」,它回「应该没问题」; 报错信息明明摆在屏幕上,它开始猜「可能是环境问题」; 同一个思路改了三遍参数,还叫「继续尝试」; 修完一个点...
【AI】本地跑大模型:Ollama 安装、选模型与 API 调用
问题背景有些活不适合交给云端模型:写了一半的内部文档、还没公开的代码、需要反复调用几百次的小任务。这些场景下「本地跑一个模型」比想象中实用——数据不出机器,没有按次计费,断网也能用。 Ollama 是目前上手成本最低的一条路:一条命令装好,一条命令跑模型,还顺手提供了原生 HTTP API 和...
【AI】把 DeepSeek 的用量数据做成六端监控面板
问题背景用 DeepSeek API 的人都会遇到一个场景:想知道这个月花了多少钱、缓存命中率怎么样、哪个模型最烧钱,就得打开浏览器、登录 platform.deepseek.com、翻到用量页。手机上更麻烦——网页版在移动端体验一般,而且每次都要重新登录。 我给自己写了个监控应用(deeps...
【AI】用 AstrBot 和 OneBot 部署一个 QQ 机器人
问题背景在 QQ 里挂一个 AI 机器人,需求通常长这样:它能回私聊,能进群接话,能记住你说过的事,最好还能看图、听语音。听着像个小项目,真动手会发现要先搞明白一堆名词——AstrBot、OneBot、NapCat、go-cqhttp、协议端、框架端,每个都能单独写一篇。 这些名词其实是三个层...