DeepSeek 开源推理框架 Deepinfer，降低模型自建部署成本
DeepSeek 在 GitHub 开源内部推理框架 Deepinfer，目标是降低自行部署模型时的算力与能耗成本。该框架在推理阶段把负载更均匀地分配到可用处理器核心，用投机解码加快响应，并在输出前改善结果结构；目前仅支持 DeepSeek-V4.1-Flash，后续将开放更多自家模型。硬件上需要 SM100 架构的 Nvidia GPU 或华为 Ascend 950 NPU，因此并非面向个人用户。
匹配字段摘要、正文
←搜索结果
搜索“GitHub”
REA 走红：Supabase CEO 用 Claude 玩梗复刻
作者称 REA: Reverse Engineer Anything 是近期 GitHub 和 X 上最火的开源项目。Supabase CEO kiwicopple 也来玩梗，说用 12 个 Claude agents 并行跑了 6 小时“逆向工程”出 Supabase；作者调侃 Supabase 本来就是开源的。
匹配字段摘要、正文
SoMark 开源 1.3B 文档解析模型 OXR，三项基准居首
SoMark 开源 1.3B 文档解析模型 OXR，在 olmOCR-Bench、OmniDocBench 和 DocParsingBench 上排名第一，在单张 RTX PRO 6000 上的吞吐为 GLM-OCR 的 3.05 倍，是速度对比中最快的开源结果。OXR 在 post-training 阶段引入 RSI：由 VLM 评估自身输出，rollout 分歧标记不确定性，再由单独的聚类模型归因，据此生成下一轮定向数据。Rohan Paul 称 OXR 是首个在文档解析中使用 RSI 的模型，GitHub 链接见评论。
匹配字段摘要、正文
fal 与 Fireworks AI 提前上线 EAGLE-4 推理加速方案
fal 宣布与 Fireworks AI 合作提前上线 EAGLE-4，并附技术博客说明其原理及对创作工作流的意义。被引用的 Eagle 原帖称 EAGLE-4 是其最快的版本，在 Qwen3.8-27B 上使用 TokenSpeed 达到 961.6 tokens/s（BF16、4× NVIDIA B300、TP4、单请求、T=0），并给出 GitHub 地址。
匹配字段摘要
NVIDIA 发布 Cosmos3-H-Dreams 实时手术世界模型
NVIDIA 于 2026 年 10 月 20 日发布 Cosmos3-H-Dreams，这是一个面向机器人手术的实时、动作条件生成式世界模型，基于 CMR Surgical Versius 系统的临床胆囊切除录像微调，模型权重与配套代码同日公开。模型约 151.7 亿参数，采用 Mixture-of-Transformers 架构，在单张 RTX PRO 6000 GPU 上以 832 x 480 分辨率实现 30.0 FPS（四步去噪）和 43.2 FPS（两步去噪）。模型卡称其按 NVIDIA Open Model License 可用于商业或非商业用途，GitHub 仓库采用 Apache-2.0 许可，并附有教师微调与 Self-Forcing 蒸馏的步骤说明。
匹配字段摘要、正文
Microsoft 在巴黎 Frontier Tour 上发布多项云主权新工具
Microsoft CEO Satya Nadella 与云业务负责人 Douglas Phillips 在巴黎 Frontier Tour 上发布模块化云主权方案，让企业按每项计算任务自行决定控制、透明度和本地执行程度。新增 Sovereign Control Panel 汇总 Azure 主权信号，并逐步推出数据守卫与记录 Microsoft 工程师远程操作的 Production Touch Ledger。Azure Managed HSM 外部密钥管理已广泛可用，Azure Local 侧新增 DocumentDB、Blob Storage、GitHub Enterprise Local 和 Foundry Local。德国计算机学会（GI）等批评这类方案只是表层附加控制，底层软件栈仍由美国厂商掌握。
匹配字段摘要、正文
RTX Spark：真实场景下的本地 AI
Thurrott 文章指出，本地 AI 虽免费、离线且私密，但模型远小于云端前沿模型，能力差距不会弥合，只能按场景做到够用。混合 AI 需要能力足够的编排器，而目前主流 AI 助手中尚无此类能力；微软正推动 GitHub Copilot 应用和 Windows 11 中的 Copilot 支持混合 AI 编排。Copilot+ PC 已预装 40 多个面向特定用例的 SLM，部分功能需先从 Microsoft Store 下载模型。
匹配字段摘要、正文
Respan 发布 Rust 开源 AI 网关，替代两年 LiteLLM 封装代码
Respan 发布用 Rust 编写的开源 AI 网关，用一个精简内核加插件替代此前围绕 LiteLLM 构建的 10 万多行封装代码。转折点是 2026 年 1 月一次常规 LiteLLM 升级引发间歇性连接失败，回滚后原因仍未查明，此后团队不再直接升级 LiteLLM。新网关借鉴 Nginx 思路，把模型供应商、路由、MCP 工具、实时语音和安全控制拆为插件，Mistral 供应商插件仅 22 行代码；自定义插件需编译进网关二进制，且按注册顺序执行，缓存若排在安全检查之前可能绕过检查。网关目前仍为 pre-alpha，可从 GitHub 下载预构建二进制运行。
匹配字段摘要、正文
DeepSeek 开源生产推理框架 DeepInfer
DeepSeek 开源了支撑其生产服务的推理框架 DeepInfer，采用 Apache 2.0 许可证发布在 GitHub 上。目前该框架只支持 DeepSeek-V4.1-Flash 一个模型，默认加载周末发布的 1017 版本，可运行在 Nvidia SM100 Blackwell GPU 和华为昇腾 950 NPU 上，不支持 Hopper 等较旧的 Nvidia 架构。DeepSeek 称单个集群每天服务 155 万亿 token，并暂未开源与内部基础设施强耦合的 KV cache 管理和负载均衡代码。
匹配字段摘要、正文
REA 被指并非颠覆性逆向算法，而是把 Ghidra 与大模型串成工作流
作者在看完嗷嗷镜的实测拆解后认为，GitHub 上爆火的开源项目 REA（Reverse Engineer Anything）并没有发明新的逆向算法，本质是在终端接收指令后自动调用 Ghidra 和 file 命令反编译成伪代码，再让大模型用自然语言解释逻辑。作者指出，反编译出的变量名看似对得上，其实是模型根据编程习惯盲猜，报告越顺溜越容易把猜测当事实，用于安全审计存在幻觉风险。作者还提到官方协议限定只能用于研究自己拥有或获授权的软件，并认为这种把老工具串成 SOP 工作流的封装对新手仍有参考价值。
匹配字段摘要、正文
Arm 用 Google AI Edge Model Explorer 为自定义边缘编译器带来可视化图调试
Arm 基于 Google AI Edge Model Explorer 的插件架构开发了开源适配器，支持 TOSA、VGF 和 PTE 等模型格式，可在图上直接检查编译器 IR、对比 NPU 委派与 CPU 回退，并叠加周期级性能追踪。借助该工具，Arm 在 VGF 图中发现 ExecuTorch Arm 后端引入的多余 TRANSPOSE 算子，并在 Ethos-U NPU 上定位到单个 TRANSPOSE 节点是主要延迟瓶颈。这些适配器现已通过 PyPI 或 GitHub 提供。
匹配字段摘要、正文
面壁 MiniCPM-V 4.7 在 iPhone 上实现 20.51 tokens/sec
面壁智能的 MiniCPM-V 4.7 在 iPhone 18 Pro Max（12GB）上实现 20.51 tokens/sec 的平均解码速度，相比同一设备未优化的 SSD 专家加载基线提速 6.07 倍。该速度来自 Lookahead Expert Scheduling（LES）、优化的专家加载、细粒度量化和 DSpark 投机解码。模型已在 GitHub 和 Hugging Face 开放。
匹配字段摘要
ghfind 采用 MiniCPM-V 4.7 作为主模型
开源 GitHub 评分与吐槽平台 ghfind 日访问量 12K，现已将 MiniCPM-V 4.7 API 作为主模型。用户输入 GitHub 用户名即可获得 0–100 价值与信任分、五档评级之一、基于公开数据的犀利吐槽和改进建议，六维评分与十项红旗信号可区分持续贡献与刷星、机器人活动和 PR farming。开发者称单次分析输入 30–50KB 并需输出结构化 JSON，MiniCPM-V 4.7 在这些任务上成功率接近 100%。
匹配字段摘要、正文
REA 爆火后产品经理抱团防御，仿冒仓库已植入木马
钛媒体 AGI 梳理了逆向工程 Agent 工具 REA 爆火后的连锁反应：产品经理们开始把密钥和核心逻辑搬出客户端、加壳混淆，并援引 Thales 的 Sentinel Envelope Plus 和 Quarkslab 8 月的文章寻找对策。文章同时记录了质疑声音，Elias Bachaalany 称其为炒作，指出 GhidraMCP、IDA Pro MCP 等工具在 2025 年已实现 AI 逆向分析。此外，一个模仿 rea.tools 的 GitHub 组织 rea-tools 发布带毒压缩包 rea-x64.7z，被举报时已下载 172 次，REA 维护者随后在 README 中明确只认三个官方入口。
匹配字段摘要、正文
Asymptote Labs 获 550 万美元种子轮，监控并管控企业 AI 智能体
Asymptote Labs 完成 550 万美元种子轮融资，由 Tower Research Ventures 领投，Lytical Ventures、1984 Ventures 和 South Park Commons 参投，资金用于工程、产品开发、招聘和市场拓展。其方案由 MIT 许可的开源遥测层 Beacon 与企业级检测、响应和治理平台组成，Beacon 可记录 Claude Code、Codex、Cursor 等 20 多个 agent harness 的活动，并归一化为扩展 OpenTelemetry 的运行时数据模型。公司称 Beacon 的 GitHub star 数 9 月增长超 460%，并登上 GitHub 全球趋势榜第 3 位。
匹配字段摘要、正文
AI 逆向工程热潮兴起，克隆软件与设备改造正在扩散
404 Media 报道，近期出现用 AI 替换智能电视系统、复活被厂商放弃的物联网设备、克隆商业软件功能的热潮，GitHub 项目 Reverse Engineer Anything 已获超过 34.2 万星。文章引用开源政治研究者 Mike Nolan 的观点称，用 AI 重建所需功能的门槛降低，但维护成本仍在，克隆软件可能不够可靠。作者认为这类 AI 克隆常带有使用者无法修复的缺陷，并可能被装到联网硬件上，带来安全与竞争层面的现实影响。
匹配字段摘要、正文
Google 完成 Coral NPU 32 位架构并发布 v1.0 编译器
Google 发布 Coral NPU 完整 32 位架构（含新增 Matrix Execution Unit，可配置至 1 TOPS、推理平均功耗目标 10mW）和基于 IREE/MLIR 的开源 Coral Compiler v1.0，支持 JAX、PyTorch、TensorFlow 模型直接编译到该硬件。完整 32 位 RTL 已在 GitHub 开放，Synaptics 同步推出搭载第二代 Coral NPU IP 的 Astra SR200 系列 MCU（400 GOPS）和 Coralboard SR 开发套件，Coralboard SL（1 TOPS）经 DigiKey 全球发售。两代产品共用同一架构与编译器，模型优化一次即可部署到毫瓦级可穿戴设备或 1 TOPS 板卡。
匹配字段摘要、正文
Cursor 发布 Agent SDK，支持用代码定义并一键部署智能体
Cursor 发布 Agent SDK，这是其构建 Bugbot、Security Reviewer 和 Rollouts 等托管智能体所用的框架，开发者可用代码定义智能体并通过 agent-sdk deploy 一条命令部署到 Cursor 基础设施。智能体以小型软件项目组织，提示词用 Markdown 编写、工具用 TypeScript 函数定义，可响应 GitHub、GitLab、Bitbucket 的 PR 事件，并内置 evals 与事件回放。也可打包为单个 Node 进程运行在自有基础设施上。
匹配字段摘要、正文
Sakana AI 提出 QD-Rec 推荐方法，用 Quality-Diversity 探索提升推荐质量与多样性
Sakana AI 提出推荐方法 QD-Rec，把候选与说明选择理由的假设成对作为推荐单位，由生成 AI 参考历史优质假设不断生成新假设，并借助 Quality-Diversity 思路保留不同切口的推荐。在 M&A、客户定向、论文推荐三个任务上，QD-Rec 在多数设置下平均评分高于每次从零生成假设的基线，构建的推荐集合规模也更大。代码与多领域实现示例已在 GitHub 公开。
匹配字段摘要、正文
MiniCPM-V 4.7 升至 Hugging Face Trending 第二
面壁智能宣布 MiniCPM-V 4.7 升至 Hugging Face Trending 第二位。该模型包含 35B-A3B MoE 版本，可在 iOS 和 Android 上以约 3GB 内存运行；1B 版本在 OCR、数学和视频理解上表现较强。官方同时给出了 Hugging Face 模型页和 GitHub 仓库链接。
匹配字段摘要