王室都会修图骗人 如何辨别生成式AI深伪影像

壹苹新闻网 2024-03-21 14:43+-

时代进步,现在只要对生成式AI下指令,就能生出你想要的图片甚至影片,但也给了有心人可乘之机,有用AI生成抹黑他人影片的机会。美联社访问多名电脑专家,教我们如何抓包生成式AI深伪影像,避免受骗上当。

现在的生成式AI影像,可不像刚出来的时候,会把人的手错画成有6只手指头,或眼镜左右镜片不对称之类的低级错误,现在的AI照片十分逼真写实,但美国潜在空间顾问(Latent Space Advisory)生成式AI专家艾德(Henry Ajder)表示,还是有些蛛丝马迹可以辨别影像是不是AI生成的。

艾德指出,AI深伪技术产生的照片里的人,皮肤看起来会特别平滑、光亮,不过现在有些AI能消除这点。我们还可以观察照片里的光影是否有一致性,有时候照片里的人看起来很清楚、逼真,但背景看起来假假的。

AI换脸是现在最常被用来做坏事的功能,美国流行乐坛天后泰勒丝就是受害者之一,她的脸曾被AI换到不雅影片女主角身上。专家建议可以仔细观察脸的边缘,脸部肤色是否跟头或身体其他部位一致?脸的边缘会不会太过锐利或模糊?如果你怀疑某个人说话的影片被AI动过手脚,可以观察影片里嘴形跟声音是否能对得上?

艾德更建议可以观察影片中露出来的牙齿是否清楚,或者是模糊的一片?诺顿防毒指出,现在AI演算法对牙齿的部分还不够成熟,没有办法画出一颗颗的牙齿,所以牙齿是辨别是否AI深伪的线索之一。

波因特媒体研究所则建议,如果看到公众人物从事“太夸张、太不现实或太脱轨”行为的影片,很可能就是AI深伪影片。就像上面这张教宗穿著名牌羽绒大衣照片,如果教宗真的有穿过这件羽绒衣亮相,那为什么没有其他媒体也拍到影片或照片?

还有一个办法就是用AI来辨识AI深伪影片,微软已经开发出可以分析照片、影片是否遭到变造的工具。英特尔开发的FakeCatcher则是利用演算法分析照片的画素来判别真伪,还有网站只要你上传照片就能帮忙辨别真伪。不过,像微软的工具就没有开放给大众使用,因为研究人员不希望被有心人用来精进深伪技巧。而且现在AI进步得很快,这边所提到的所有辨别AI深伪的技巧,可能不到1年内就不管用了。

alauae__000.webp

专家抓包这张AI生成的教宗照片,教宗眼镜镜片变形且跟眼睛、脸颊融合在一起,影子扭曲,十字架有一边的链子不见。美联社

  • 最新评论
  • lary

    那还要发明AI识别技术和设备,人手一台,世界级的生意。

    屏蔽
1