OpenAI推出新工具以鉴别AI生成图像,效果喜忧参半
齐鲁晚报·齐鲁壹点
2024-05-08 12:34:02

原标题:OpenAI推出新工具以鉴别AI生成图像,效果喜忧参半

在人工智能技术的快速发展下,生成的图像越来越逼真,使得真实与虚假的界限逐渐模糊。为了应对这一问题,行业领军企业OpenAI近日推出了一款新工具,旨在鉴别由其自家DALL-E 3生成器所创建的图像。然而,测试结果显示,该工具在实际应用中效果喜忧参半。

OpenAI表示,他们新推出的工具能够在98%的情况下准确检测出由DALL-3生成的图片,这无疑是一个令人鼓舞的结果。然而,该工具在鉴别其他人工智能模型制作的图像时,成功率却大幅下降,仅在5%至10%之间。这意味着,对于非DALL-E 3生成的AI图像,该工具的鉴别能力相当有限。

此外,当图像经过修改后,该工具的鉴别能力也会受到影响。对于诸如裁剪、压缩和饱和度变化等微小修改,工具的成功率虽然有所下降,但仍保持在95%至97%的可接受范围内。然而,当图像经过色调调整后,成功率骤降至82%。对于经历更广泛变化的图像,该工具在分类时更是遇到了明显的困难,OpenAI甚至未公布这些情况下的成功率。

这一局限性在选举年尤为引人关注。由于选举过程中可能会出现大量经过修改的AI生成图像,以激怒或误导公众,因此该工具的鉴别能力在实际应用中显得尤为重要。然而,从目前的测试结果来看,该工具可能无法有效识别出经过修改的、具有误导性的AI生成图像。

值得肯定的是,OpenAI对其检测技术的局限性保持透明态度,并允许外部测试人员访问该工具以帮助改进。同时,该公司还与微软等合作伙伴共同致力于扩大人工智能教育和素养的提升。

然而,随着人工智能技术的不断发展,我们仍需要更加完善和高效的工具来鉴别AI生成图像,以确保信息的真实性和可靠性。在当前选举背景下,这一问题显得尤为重要和迫切。

相关内容

热门资讯

DeepSeek发布最新论文,... 北京时间2026年1月1日,DeepSeek团队在arXiv(预印本)网站和Hugging Face...
SpaceX宣布:降轨!此前曾... 1月1日,美国太空探索技术公司SpaceX旗下卫星互联网项目“星链”工程副总裁迈克尔·尼科尔斯表示,...
就医体验也能“系统升级”?探秘... 在复旦大学附属中山医院,一个普通的门诊日,意味着超过一万名患者与家属从全国各地汇聚于此。他们怀揣着对...
追星、探月、深空探测……向极宏... 当前,新一轮科技革命和产业变革深入发展。科学研究向极宏观拓展、向极微观深入、向极端条件迈进、向极综合...
视频丨追星、探月、深空探测……... 当前,新一轮科技革命和产业变革深入发展。科学研究向极宏观拓展、向极微观深入、向极端条件迈进、向极综合...