·检测工具ai or not误报以色列死婴照片为ai生成。随着人工智能工具可用于操纵或捏造全球事件的新闻报道，对此类检测工具的需求只会越来越强。
当时时间10月17日，openai首席执行官山姆·奥特曼和该公司首席技术官米拉·穆拉蒂在《华尔街日报》tech live会议上。
chatgpt的开发机构openai正在构建一个工具，可以对由其人工智能服务dall·e 3创建的图像进行高度精确的检测。
当地时间10月17日，openai首席技术官米拉·穆拉蒂（mira murati）在美国加利福尼亚州拉古纳海滩举行的《华尔街日报》tech live会议上透露了这一消息。她说，openai的这个工具“99%可靠”，正在计划公开发布前进行内部测试，但她没有具体说明时间表。
openai在今年1月发布了一个类似的工具，旨在确定文本是否是人工智能生成的，但该工具在7月被搁置，因为它并不可靠。该公司当时表示，正在努力改进软件，并致力于开发方法来识别音频或图像是否也是由人工智能生成的。
openai开发的dall·e是目前最强大的人工智能生成图像产品之一，与midjourney和stable diffusion等软件共同为互联网提供了大量ai图像。其中一些虚假图片在社交网络上泛滥，特别是在重大国际冲突发生后。
就在最近，一张关于以色列死婴的照片再次引发争议。10月12日，以色列总理本杰明·内塔尼亚胡的官方账户发布了一张被烧焦的尸体的图片，称该图片显示一名婴儿在10月7日的袭击中被极端组织哈马斯杀害。在图片发布后的几个小时内，许多社交媒体账号表示，基于名为“ai or not”的人工智能检测工具的结果，这张照片是由人工智能生成的。然而，几位图像分析专家以及ai or not背后的公司表示，这些结果是检测工具误报，这张照片很可能是真实的。
ai or not最终检测结果显示，这张以色列死婴照片很可能是真实的。
在10月14日的一条推文中，ai or not背后的公司表示，其软件能够误报，意味着它可以错误地得出真实照片是由人工智能生成的结论，尤其是当相关图像质量较低时。
专门从事图像分析的调查机构bellingcat早在2023年9月就测试了ai or not。“在识别被压缩的人工智能图像（尤其是真实感图像）时，ai or not的错误率都很高，这大大降低了它对开源研究人员的实用性。”该团队总结。
自chatgpt发布以来，已经有多个工具声称可以检测人工智能制作的图像或其他内容，但它们往往都不能保证完全准确。随着人工智能工具可用于操纵或捏造全球事件的新闻报道，对此类检测工具的需求只会越来越强。
17日，穆拉蒂还对gpt-4的后续ai模型作出了暗示。尽管openai尚未公开表示gpt-4的后续模型可能会被称为什么，但该公司7月向美国专利商标局提交了“gpt-5”商标申请。当被问及gpt-5模型是否会不再散布谎言时，穆拉蒂说：“也许吧。”
（原标题：99%可靠！openai开发dall·e生成图像检测工具）
特别声明：本文转载仅仅是出于传播信息的需要，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，须保留本网站注明的“来源”，并自负米乐app官网下载的版权等法律责任；作者如果不希望被转载或者联系转载稿费等事宜，请与我们接洽。
