上周四,在旧金山举办的首届开发者大会上,人工智能初创公司Anthropic发布了最新一代“前沿”或尖端人工智能模型Claude Opus 4和Claude Sonnet 4。这家估值超610亿美元的公司在一篇博文中表示,备受期待的新模型Opus是“全球最佳编码模型”,能够“在需要持续专注且涉及数千步骤的长期任务中保持稳定性能”。由新模型驱动的人工智能代理可对数千个数据源展开分析,并执行复杂操作。
她补充道,Claude Opus 4 增添了若干新功能,例如能更精准地执行指令,且在“记忆”能力上实现了提升。佩恩提到,从过往情况来看,这些系统难以记住所有历史操作,但此次“特意开发了长期任务感知能力”。该模型借助类似文件系统的机制来追踪进度,并策略性地调用记忆数据以规划后续步骤,如同人类会依据现实状况调整计划与策略。
Claude 4 Opus所推出的安全协议,其严格程度远超以往任何一款Anthropic模型。该公司的《负责任扩展政策》(RSP)作为一项公开承诺,最初于2023年9月发布,其中明确规定:“除非实施可将风险控制在可接受范围内的安全与保障措施,否则不会训练或部署可能引发灾难性伤害的模型。”Anthropic由OpenAI前员工于2021年创立,他们担忧OpenAI过于追求速度与规模,而忽略了安全与治理。
截至目前,Anthropic的所有模型均依照其《负责任扩展政策》被归为人工智能安全等级2(以下简称ASL-2),该等级“为人工智能模型设定了安全部署与模型安全的基础标准”。Anthropic发言人表示,公司并未排除新模型 Claude Opus 4达到ASL-2门槛的可能性,不过,公司正积极依据更为严格的ASL-3安全标准推出该模型——该标准要求强化防范模型被盗用和滥用的保护措施,涵盖构建更强大的防御机制,以杜绝有害信息泄露或防止对模型内部“权重”的访问。
上周四,在旧金山举办的首届开发者大会上,人工智能初创公司Anthropic发布了最新一代“前沿”或尖端人工智能模型Claude Opus 4和Claude Sonnet 4。这家估值超610亿美元的公司在一篇博文中表示,备受期待的新模型Opus是“全球最佳编码模型”,能够“在需要持续专注且涉及数千步骤的长期任务中保持稳定性能”。由新模型驱动的人工智能代理可对数千个数据源展开分析,并执行复杂操作。
她补充道,Claude Opus 4 增添了若干新功能,例如能更精准地执行指令,且在“记忆”能力上实现了提升。佩恩提到,从过往情况来看,这些系统难以记住所有历史操作,但此次“特意开发了长期任务感知能力”。该模型借助类似文件系统的机制来追踪进度,并策略性地调用记忆数据以规划后续步骤,如同人类会依据现实状况调整计划与策略。
Claude 4 Opus所推出的安全协议,其严格程度远超以往任何一款Anthropic模型。该公司的《负责任扩展政策》(RSP)作为一项公开承诺,最初于2023年9月发布,其中明确规定:“除非实施可将风险控制在可接受范围内的安全与保障措施,否则不会训练或部署可能引发灾难性伤害的模型。”Anthropic由OpenAI前员工于2021年创立,他们担忧OpenAI过于追求速度与规模,而忽略了安全与治理。
截至目前,Anthropic的所有模型均依照其《负责任扩展政策》被归为人工智能安全等级2(以下简称ASL-2),该等级“为人工智能模型设定了安全部署与模型安全的基础标准”。Anthropic发言人表示,公司并未排除新模型 Claude Opus 4达到ASL-2门槛的可能性,不过,公司正积极依据更为严格的ASL-3安全标准推出该模型——该标准要求强化防范模型被盗用和滥用的保护措施,涵盖构建更强大的防御机制,以杜绝有害信息泄露或防止对模型内部“权重”的访问。