AI技术的风险与挑战:深度伪造对市场的影响

随着互联网技术的飞速发展,人工智能(AI)领域也迎来了前所未有的进步。然而,这种进步并非没有代价。最近,一张被广泛传播的伪造图片显示了国防部总部附近浓烟滚滚的场景,这张图片被怀疑是通过AI技术生成的深度伪造。这张图片不仅在社交媒体上引起了恐慌,还导致了美国股市的短暂抛售。

深度伪造技术,也称为生成式AI,指的是利用人工智能算法生成逼真的图像或视频的技术。这种技术的进步使得伪造内容越来越难以被普通人识别,从而带来了一系列风险。例如,这种技术可能被用于传播虚假信息、进行网络攻击,甚至影响金融市场的稳定性。

在最近的一个案例中,一个名为@Deltaone的推特账户在上午10:06发布了一张伪造的爆炸图片。短短四分钟内,美国股市就下跌了0.26%,随后迅速反弹。据内幕人士报道,该账户后来承认图片是伪造的。

此外,一个经过验证但伪造的推特账户声称代表一家主要新闻机构,也分享了这张图片。虽然目前尚不清楚谁制造了这个伪造图片,但深度伪造最近确实在网络上广为流传,包括教皇穿着巴黎世家外套的清晰图片。

沪ICP备2024098111号-1
上海秋旦网络科技中心:上海市奉贤区金大公路8218号1幢 联系电话:17898875485