Tag: LLM
All the articles with the tag "LLM".
-
AI 工程能力地图：从模型到生产
Published: at 11:52 AMAndrew Ng 将 AI 工程拆成六类能力：理解模型、准备上下文、设计 Agent、建立评测、运行生产系统和掌握机器学习基础。本文把这张地图整理成一套判断学习重点与工程工作的框架。
-
ChatGPT Agent 循环优化：Harness、API 与推理层的三层提效实践
Published: at 12:39 AMBytebytego 与 OpenAI 工程师深入交流，拆解了 ChatGPT Agent 在 Harness 接入层、API 中间层和推理层分别采用了哪些优化手段来降低单次任务成本。文章梳理了持久 WebSocket、增量请求、缓存感知路由、推测解码等 11 项具体技术及其协同关系。
-
从 GPT-2 到 KimiK3：七年 22580 倍的架构演进
Published: at 11:56 PM从 GPT-2 的 softmax attention 出发，历经 Linear Attention、DeltaNet、Gated DeltaNet、Kimi Linear，最终到达 KimiK3 的混合架构。七年内模型参数增长 22580 倍，但真正的变化发生在注意力机制如何存储、更新和检索信息的方式上。
-
GitHub Copilot Token 效率优化：缓存、工具搜索与传输层改进
Published: at 11:55 PMVS Code 团队详解 GitHub Copilot agent 在按量计费模式下如何通过延长提示缓存、按需加载工具定义、切换 WebSocket 传输等手段降低 token 消耗和延迟，并公开了在不同模型上 A/B 实验的量化和生产验证数据。
-
用 AI Agent 把自然语言转成 SQL：三种方案的实验对比
Published: at 02:00 AM微软 ISE 团队对比了 GitHub Copilot CLI、Microsoft Agent Framework 和 Azure Databricks AI/BI Genie 三种 NL-to-SQL 方案，在 LiveSQLBench 上进行系统实验。核心发现：运行时查询验证是准确率的命门，去掉后准确率从 76.92% 跌至 38.46%；领域提示（domain hints）能额外提升 14 个百分点；剩余 ~25% 的失败几乎都来自业务逻辑语义误解。
-
.NET AI 核心构建块：Microsoft.Extensions.AI 详解
Published: at 12:20 AM微软发布了面向 .NET 开发者的 AI 基础构建块系列，本文聚焦第一块：Microsoft.Extensions.AI（MEAI）。它提供统一的 LLM 访问接口，支持 OpenAI、OllamaSharp、Azure OpenAI 等多家提供商，并内置结构化输出、中间件、多模态内容等能力，是构建 .NET 智能应用的基础。
-
Claude Opus 4.7 系统提示词变化全解析
Published: at 01:02 AMAnthropic 是少数公开发布系统提示词的 AI 厂商。本文梳理 Claude Opus 4.6 到 4.7 系统提示词的核心变更，包括行动优先策略、tool_search 机制、内容安全扩充以及冗余措辞的清理。
