不听人类指挥 OpenAI模型拒绝关闭_科技资讯

创始人

2025-05-29 08:40:59

0次

当地时间5月25日，英国《每日电讯报》报道，美国开放人工智能研究中心（OpenAI）公司新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

OpenAI将在韩国首尔设立分支

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。

2025年一季度欧洲智能手机开... 【环球网科技综合报道】根据Counterpoint Research《2025年Q1智能手机市场监测...

宇宙奇景：J1832-0911... 在浩渺的宇宙中，一个前所未有的奇异天体正吸引着天文学家的目光。这个名为J1832-0911的天体，位...

折叠屏快被华为玩出花了：一款华... 【CNMO科技消息】2025年，华为在折叠屏领域持续发力，不断拓展产品版图。此前，华为已相继推出全球...

这里有条“两弹一星”功勋路！本文转自【新华社】 “两弹一星”的研制成功，是中华民族为之自豪的伟大成就。有这样一群科技工作者，他们...

南宁侨商：南宁打造面向东盟人工... 南宁5月30日电 (记者蒋雪林)“南宁打造面向东盟的人工智能产业新高地，给我们这些在东盟国家打拼的...

加快赋能千行百业持续优化产业... 当人们与DeepSeek等大模型深度对话、当宇树人形机器人在春晚舞台上扭起秧歌……今年以来，浙江的人...

AI智能体时代来临：中国标准引... 近日，中国信息通信研究院携手中国工商银行、百度、腾讯、阿里巴巴、华为等科技巨头，共同揭晓了《面向软件...

科技活动周进行时！石景山消防 ... 5 月 24-31 日，是第31 个北京科技活动周，为切实发挥好“科学普及和科技创新一体两翼”作用，...

控制家蚕滞育的关键“开关”在哪... 5月30日，中国科学院分子植物科学卓越创新中心詹帅研究员团队在国际学术期刊Science发表了最新研...

天问二号开启十年“远征”，意味... 记者张晓华通讯员蔡金曼李仪发射瞬间新华社发 5月29日凌晨，伴随着长征三号乙运载火箭升...

高合汽车复活？黎巴嫩救世主现身... 停摆一年三个月的高合汽车，终于迎来了「救世主」。根据企查查的消息，「江苏高合汽车有限公司」于 20...

英伟达ComputeX 202... 民生证券近日发布电子行业动态：5月19日，黄仁勋在ComputeX2025大会上发表演讲，以“AI工...

广东将开展“机器人+”行动日前，广东省政务服务数据管理局印发《数字广东建设2025年工作要点》（下称《工作要点》），文件围绕六...

深情守护蓝色国土为国“听海”... 乔钢讲述院士故事。本报记者周姿杉摄杨德森院士在上课。资料片杨士莪院士指导学生。资料片 □本...

一家智能眼镜公司，为什么非要自... 智能眼镜，要么不够智能，要么不像眼镜，如何破局？作者｜王博 2007年，乔布斯发布初代iPhone...

圣邦集团取得特种机器人车辆控制... 金融界2025年5月29日消息，国家知识产权局信息显示，圣邦集团有限公司、上海圣邦液压有限公司、徐州...

城南“世界会客厅”升级，机器人... 过去十年，世界机器人大会在北京精彩上演。作为大会永久会址，位于亦庄荣昌东街的亦创会展中心见证了无数机...

豹王滤芯取得具有高容尘流道的空... 金融界2025年5月30日消息，国家知识产权局信息显示，佛山市豹王滤芯制造有限公司取得一项名为“一种...

原创 A... AI搜索正在实现从搜索需求理解到交付结果的跨代。作者|Jeff 编辑|杨舟 AI的最广泛应用入口仍...

湘江实验室发布5项创新产品长沙5月29日电(向一鹏巢进文张高阳)“面向2035·融创未来科技文化博览会(2025年科技节)...