科幻成现实？首次发生！OpenAI新款AI模型o3不听人类指令，拒绝自我关闭

【科幻成现实？首次发生！OpenAI新款AI模型o3不听人类指令，拒绝自我关闭】从新华社获悉，英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。（来源：新华社）

相关知识

奥尔特曼预告创意文学模型，称其首次被 AI 作品打动
事关DeepSeek，硅谷大佬“互掐”！OpenAI又爆巨额融资
拉夫罗夫：中国DeepSeek AI模型超越了美国
AI小说获科幻奖，人工智能时代文学如何自处？
湛庐·现实科幻系列第一季发布：周炜谈科幻对商业创新的推动
对话OpenAI常驻艺术家：即使AI能制造图像，但人类依然愿意绘画
大模型应用加速“出海”：企业级SaaS将被重塑 AI训练师成新工种
美国脑机公司开创先河：让OpenAI模型赋予患者交流能力
OpenAI提出人工智能“达到人类智能”的五级标准，自认接近第二级
通用大模型单飞难盈利，AI还能走通哪些商业路径？