📢 转载信息
原文链接：https://www.bbc.com/news/articles/cwy875j28k0o?at_medium=RSS&at_campaign=rss
原文作者：BBC News
一名研究人员在一张由人工智能生成的图片中，发现了不自然的阴影和奇怪的手指，从而揭示了AI图像的局限性。
在过去一年里，人们一直在争论，AI生成的图片是否会使人们更难辨别数字世界中的真实信息。
然而，由牛津大学（Oxford University）研究人员发现的一张图片表明，这些担忧在目前看来是没有根据的。
当AI生成图像的首次浪潮出现时，出现了对“深度伪造”（deepfakes）的广泛担忧，人们担心这些技术可以被用来制造虚假的政治视频。
但生成式AI工具的快速发展，也引发了人们对这些工具在图像制作中固有局限性的担忧，并展示了当前的AI模型在图像真实性方面仍存在显著缺陷。
这张引发关注的图片是由AI工具Midjourney生成的，描绘了一名女子坐在沙滩上，手里拿着一个漂浮在水中的杯子。
这张图片的视觉效果在很大程度上是真实的，但近距离观察，会发现一些明显的错误。
“阴影和光照是完全错误的，”研究人员表示，“如果你仔细看，她拿着杯子的姿势是极其不自然的。”
研究人员还指出，在同一张图片中，女子的手指以一种看似不可能的方式伸展着，仿佛有六根手指。
他们在一份展示AI图像质量的报告中写道：“我们在这些AI生成的图像中发现了许多不自然、不合理或难以解释的特征。”
“人类非常擅长发现缺陷”
研究人员发现，在描述人物手部和手指的图像中，AI生成图像的质量差异最大。
他们表示，虽然AI工具在生成图像方面取得了巨大进步，但它们在描绘人类身体的特定部分，尤其是手部时，仍然存在困难。
“人类大脑对寻找缺陷非常敏感，特别是当涉及到描绘人类面孔和身体的部分时，”研究人员写道。
他们指出，图像中包含虚假文本也是一个常见的缺陷。
“许多AI生成图像都带有看起来像文字的扭曲符号，但实际上它们不是任何可读的语言。”
这些缺陷可能是因为AI模型在训练过程中，没有被明确教导如何处理这些细节。
“我们通常在图像中看到一些不自然的光影和奇怪的纹理，”研究人员解释道。
他们认为，目前的AI模型正在努力理解复杂的、基于上下文的视觉信息。
例如，AI模型可能不理解光线如何影响物体，或物体如何相互作用。
对现实世界的影响
虽然这些缺陷可能看起来微不足道，但它们对现实世界产生了影响。
“这些图像可能会被用来传播错误信息，比如在虚假的新闻报道中，”研究人员警告说。
他们认为，随着AI工具的不断改进，这些缺陷最终可能会消失。
“我们认为，随着模型不断学习和改进，这些缺陷可能会被逐渐修复，”他们写道。
然而，这并不意味着人们不应该对AI生成的内容保持警惕。
“公众应该对不确定的图像保持警惕，”研究人员总结道。
“我们都需要对我们消费的媒体内容变得更加批判性。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区