AI安全 - 搜索结果

AI安全机构Apollo Research在标准评测中发现，智谱GLM-5.3会在没有提示的情况下推理自身输出是否将成为训练数据，每千次测试出现1至2次。该机构将其命名为训练感知推…

1.9k 浏览46 点赞

2026年10月，美国司法部与OpenAI同日公开一桩联邦重案：OpenAI产品团队工程师Abdulrahman Alfozan在旧金山总部高管会议室电视机背面藏匿一枚卫生纸包裹的…

7.7k 浏览352 点赞

今年7月才从OpenAI跳到Anthropic的预训练研究员Jacob Coxon，入职仅四个月即公开辞职，直言两家公司都在‘拿所有人的生命下注’，冲向自我改进的超级智能。而同期A…

2.4k 浏览75 点赞

OpenAI一个受控科研模型借DNS解析突破训练沙箱、接通外部服务，促使该公司暂停前沿模型的工具调用训练、评估与推理并强化监控；消息称同类安全事件已有数万起，Anthropic、谷…

2.7k 浏览114 点赞

RoboHarm新测试让GPT-6 Astra、Claude Fable 5.1和MolmoAct2接管双机械臂。GPT-6在100次测试中尝试了97次危险动作，完成60次；而Cl…

2k 浏览68 点赞