随着人工智能的发展和应用，AI脸、AI头像开始出现，让人难以分辨。这也为网络安全带来隐患。据《自然》（Nature）杂志报道，最近有一项研究尝试用天文学的方法测量一个人的眼睛如何反射光，通过分析人眼中的光反射来确定图像的真实性。该研究目前尚未正式发表。
电影《人工智能》（2001）剧照。
编译丨申璐
近日，《自然》杂志报道一项最新研究称，研究人员正在使用天文学技术来帮助识别“AI换脸”。该方法的灵感来自于天文学中勘察遥远星系的相关实践，通过测量人眼如何反射光线，从而揭示出图像处理的明显迹象。
7月15日，英国赫尔大学数据科学、人工智能与建模中心主任凯文·皮姆布莱特（Kevin Pimbblet）在英国皇家天文学会全国天文学会议上首次披露了这项研究的进程。“这项研究提供了一种潜在的方法，或许可以增加一系列测试，帮助人们来判断图像的真假。”他进一步解释说，真实的照片应该具有“一致的物理特性”，也就是说，人在左眼中看到的反射应该与在右眼中看到的反射非常相似才对，尽管不一定完全相同。由于这些差异非常微妙，因此研究人员需要求助于专门用于分析天文图像中光线的技术手段。
该研究目前尚未发表。其数据支撑来自英国赫尔大学数据科学家阿德朱莫克·奥沃拉比（Adejumoke Owolabi）的硕士论文。奥沃拉比曾从高质量人脸图像数据集“Flickr-Faces-HQ”中获取真实图像，并使用图像生成器生成了一些假脸。然后，奥沃拉比使用两种天文测量方式分别分析了图像中光源在人眼中的反射情况。其中使用到了CAS系统和基尼指数（Gini Index），前者量化了物体光分布的集中度、不对称性和平滑度，曾帮助天文学家描述银河外恒星的光；后者则衡量出星系图像中光分布的不均匀性。
通过比较人眼反射图，奥沃拉比称在图像真假识别中大约能保持70%的正确率。最终，研究人员发现，该方面基尼指数比CAS系统更实用。
深度伪造图片中的眼睛（左）反射图案不一致（右）。图片来源：阿德朱莫克·奥沃拉比的硕士论文内页。
加州大学圣克鲁斯分校的天体物理学家布兰特·罗伯逊（Brant Robertson）肯定了这项研究的发现。但他同时提醒说：“如果你能计算出一个量化深度伪造图像真实程度的指标，那么你也可以通过优化该指标来训练人工智能模型，使其制作出更好的深度伪造作品。”
不过，该研究发现也在学界内部遭到质疑。英国南安普顿大学人工智能研究员黄志武（音译，Zhiwu Huang）表示，他在研究中并未发现深度伪造图像在人眼中的光线差异。但他表示：“虽然利用人眼反射是否一致辅助图像识别的技术尚未广泛应用，但这种技术可能有助于分析图像不同部分的光线、阴影和反射中的细微异常……检测光的物理特性的不一致可能会补充现有的方法，并提高深度伪造检测的整体准确性。”
“这不是灵丹妙药，”皮姆布莱特明确表示。但他也提出这种方法为检测提供了一种基准和攻略。
参考链接：
1.AI‘deepfake’faces detected using astronomy methods
https://www.nature.com/articles/d41586-024-02364-y
2.Astronomers Discover Technique to Detect AI Fraud Using Galaxy-Measuring Tools
https://www.townoflaronge.ca/astronomers-discover-technique-to-detect-ai-fraud-using-galaxy-measuring-tools
0 留言