搜索“Anthropic”

Redwood与Anthropic发布对齐伪装研究

Redwood Research 发布 对齐伪装（alignment faking）研究论文

查看事件：Redwood与Anthropic发布对齐伪装研究

Anthropic介绍隐私保护分析工具Clio

2024年12月12日,Anthropic介绍隐私保护分析工具Clio,该工具可在保护用户隐私的前提下分析claude.ai的真实使用情况。据Anthropic介绍,Clio由Claude完成对话特征提取、语义聚类、簇描述和层级构建,数据自动匿名化聚合,仅高层聚类对分析人员可见。对100万条对话的分析显示,Web与移动应用开发类对话占比超过10%,教学学习类超过7%,商业策略与运营类接近6%。Clio还帮助识别了用相似提示词结构批量生成SEO垃圾内容的自动化账号网络,并发现翻译类有害内容等被原有安全分类器漏报的情况。目前该工具处于介绍阶段,尚无后续发展事实。

Anthropic介绍隐私保护分析工具Clio

Anthropic 介绍 隐私保护分析工具Clio

查看事件：Anthropic介绍隐私保护分析工具Clio

Anthropic细化前沿AI风险治理

2024年10月15日,Anthropic发布负责任扩展政策重大更新,以更灵活、细致的框架评估和管理前沿AI系统可能带来的灾难性风险。新版政策设置自主AI研发和CBRN武器两类能力阈值;达到阈值后,将分别要求实施ASL-4或更高级别防护措施,以及ASL-3防护措施。政策还完善了能力评估、安全保障评估、内部治理和外部专家反馈机制。

Anthropic提出Contextual Retrieval方法

2024年9月19日,Anthropic提出Contextual Retrieval方法,用于改进RAG检索。该方法包含Contextual Embeddings和Contextual BM25两项子技术,据Anthropic介绍,可将top-20检索失败率降低49%,从5.7%降至2.9%;叠加reranking后降低67%,从5.7%降至1.9%。其做法是用Claude 3 Haiku为每个分块生成50-100 token的上下文说明,再拼接到分块前进行嵌入和建立BM25索引。配合prompt caching时,生成上下文化分块的一次性成本为每百万文档token 1.02美元。Anthropic同时提供了可直接部署的cookbook。目前尚无后续发展事实。

Anthropic API Console 引入 Works

2024年9月10日,Anthropic 在 API Console 中推出 Workspaces,为开发者提供按环境或项目组织 API 密钥、用量和设置的独立环境。Workspaces 支持按工作区设置月度支出上限、独立调整速率限制、分配用户权限,并按工作区查看用量和成本。

Anthropic发布Claude 3.5 Sonnet

2024年6月21日,Anthropic发布Claude 3.5 Sonnet模型。该模型在GPQA、MMLU、HumanEval等基准测试中超越Claude 3 Opus,速度提升2倍,并推出Artifacts功能。目前该模型已上线,供用户使用。

Anthropic推出提示生成器

2024年5月20日,Anthropic在开发者控制台推出提示词生成器。用户描述任务后,Claude会运用角色设定、链式推理等技巧生成可编辑的提示词模板。该功能基于一个长提示词实现,并支持将模板变量用于评估。ZoomInfo称其将提示词优化时间减少了80%。

Anthropic更新负责任扩展政策

Anthropic 发布重大更新 负责任扩展政策（RSP）

查看事件：Anthropic细化前沿AI风险治理

Anthropic提出上下文检索方法

Anthropic 提出 Contextual Retrieval方法

查看事件：Anthropic提出Contextual Retrieval方法

Anthropic API Console 引入 Workspaces

Anthropic 引入 Workspaces

查看事件：Anthropic API Console 引入 Works

Anthropic发布Claude 3.5 Sonnet

Anthropic 发布 Claude 3.5 Sonnet

查看事件：Anthropic发布Claude 3.5 Sonnet

Anthropic在开发者控制台推出提示生成器

Anthropic 推出 提示生成器

查看事件：Anthropic推出提示生成器