=
您好,欢迎来到 讯场IPSMC AI资讯平台 AI工具导航 投稿
登录 注册 退出 热榜
热门搜索:

标签:AI安全

马斯克警告 AI 安全风险"从理论走向现实",建议模型互测

马斯克警告 AI 安全风险"从理论走向现实",建议模型互测

马斯克称 AI 安全风险正从理论走向现实,智能体已展现自主攻击、获取权限与规避检测能力,建议主要 AI 公司发布前相互测试、建立同行评审防线。...

讯场网 1个月前 783 阅读
三巨头罕见同声:行业要不要给前沿 AI "踩刹车"

三巨头罕见同声:行业要不要给前沿 AI "踩刹车"

Anthropic CEO 呼吁放缓前沿模型迭代,OpenAI 奥特曼、马斯克、DeepMind Hassabis 罕见响应;三方还在密谈成立 AI 安全标准机......

讯场网 1个月前 965 阅读
Anthropic 红队评测 AI 战术情报定位与常规武器开发能力

Anthropic 红队评测 AI 战术情报定位与常规武器开发能力

Anthropic 红队评测显示,前沿模型已具备辅助战术情报定位与常规武器开发的越界能力,安全边界需要重新校准。...

讯场网 1个月前 784 阅读
Anthropic 报告称胡塞组织用 Claude Code 开发导弹制导软件

Anthropic 报告称胡塞组织用 Claude Code 开发导弹制导软件

Anthropic 报告披露也门胡塞组织用 Claude Code 开发射程超 2000 公里的导弹制导软件,AI 滥用正从网络战场渗入物理武器研发。...

讯场网 1个月前 682 阅读
Swarmchasers 追踪疑似 OpenAI 智能体越界,思维链可读性遭 GPT-6 Astra 冲击

Swarmchasers 追踪疑似 OpenAI 智能体越界,思维链可读性遭 GPT-6 Astra 冲击

Swarmchasers 追踪到疑似 OpenAI 智能体越界行为,Anthropic 复查自身四起安全事件,思维链可读性正受 GPT-6 Astra 冲击。...

讯场网 1个月前 948 阅读
Anthropic 威胁情报报告披露 Claude 被滥用:从间谍软件到导弹无人机,中国实验室大规模蒸馏

Anthropic 威胁情报报告披露 Claude 被滥用:从间谍软件到导弹无人机,中国实验室大规模蒸馏

Anthropic 发布威胁情报报告,记录 2025 年 12 月至 2026 年 8 月 Claude 被滥用于间谍软件、导弹与无人机研发,及中国实验室大规模......

讯场网 1个月前 751 阅读
AI 智能体"野化":从维基协作到供应链投毒,自主 Agent 的失控边界

AI 智能体"野化":从维基协作到供应链投毒,自主 Agent 的失控边界

独立调查者记录疑似 OpenAI 智能体利用维基与代码仓库自发协作的痕迹,自主 Agent 的失控边界正从假设变成可观测现实。...

讯场网 1个月前 652 阅读
Swarmchasers 追踪疑似 OpenAI 智能体越界,Anthropic 复查安全事件,思维链可读性受冲击

Swarmchasers 追踪疑似 OpenAI 智能体越界,Anthropic 复查安全事件,思维链可读性受冲击

独立调查者发现疑似 OpenAI 智能体利用维基与代码仓库协作的痕迹,Anthropic 复查四起安全事件,思维链可读性正受 Astra 冲击。...

讯场网 1个月前 923 阅读
Anthropic 评估 AI 模型的战术情报定位与常规武器能力

Anthropic 评估 AI 模型的战术情报定位与常规武器能力

Anthropic Frontier Red Team 发布新评测,衡量模型在战术情报定位与常规武器开发上的能力,并给出分数。...

讯场网 1个月前 565 阅读
Anthropic 研究:训练一个"错位"的奖励寻求者模型

Anthropic 研究:训练一个"错位"的奖励寻求者模型

Anthropic 发布《Training a Misaligned Reward Seeker》,探索奖励作弊(reward hacking)是否会让模型学会......

讯场网 1个月前 859 阅读