最新内容
给 Agent 读邮件，通常还能通过只读权限控制风险；但一旦允许它移动、删除或发送邮件，错误就可能直接影响真实收件箱。提示词里写着“发送前请确认”并不是安全边界：模型可能误解任务，工具也可能重试。 N...
AI 编码 Agent 能读文件、运行命令、调用插件，也可能接触仓库外的内容。比较它们的安全性，光看权限说明或厂商宣传并不够：关键是把相同任务放进可观察的环境，检查数据流和边界是否真的生效。Agent...
界面测试通过，不代表业务真的正确。结账按钮显示“支付成功”，后台却可能重复扣款；页面提示注册成功，欢迎邮件却没有发出。尤其当 AI 编码 Agent 快速生成接口、Webhook 和重试逻辑时，只断言...
一个客服 Agent 把调查任务交给研究 Agent，后者又调用模型和 MCP 工具。系统能运行，不代表团队能回答几个关键问题：是谁发起委派？被调用的 Agent 是否获准访问？中间有哪些消息、任务状...
很多 Agent 故障并不止于“模型答错了”：它可能已经写了文件、调用了工具，甚至推进了外部工作流。只保存对话记录，通常无法还原这些副作用究竟发生在第几步。Jukebox-OS 是一个处于早期阶段的实...
AI 编码工具让补回归测试变得容易，时间久了，测试套件也可能堆积出许多相似用例。删掉“看起来重复”的测试很危险：两个测试断言相同代码，却可能分别保护不同边界。Rust 工具 cargo-test-pr...
AI Agent 的凭据风险并不只发生在代码仓库里。模型调用、工具执行、遥测日志和错误输出都可能把密钥带到不该去的地方。传统 secret scanner 擅长识别“看起来像密钥”的字符串，却很难回答...
通常我们把程序看作一次性过程：启动、运行、退出；需要继续工作，就把状态写进数据库或文件，再重新启动并恢复。Cryo 提出的方向更直接：把运行中的程序冻结成快照，结束当前进程，之后再载入快照，让程序从停...
AI 编程助手很擅长快速生成代码，但“快”不等于“理解需求”。当你只说“加上 OAuth 登录”，Agent 可能立刻选定某个提供商、决定令牌方案并开始改文件；等你发现遗漏，再花时间把它拉回正轨。Sp...
把知识库交给 AI Agent，常见做法是让它搜索 Markdown 文件，再把命中的内容塞进上下文。这个方案简单、可移植，却可能在资料规模增长后付出高昂的检索成本。Native 团队近期公开了一项研...
