封面新闻记者 朱宁

“AI换脸”诈骗事件刚刚落下帷幕，“AI造谣”影响股市事件就已经开始发生。据彭博社23日报道，当地时间周一早上，一张伪造的五角大楼附近发生爆炸照片在社交媒体上大量传播，导致美股短线走低。

五角大楼被谣传爆炸影响美股

据悉，这张假照片最早出现于脸书，一名用户称在弗吉尼亚州美军总部附近有一股浓烟。随后，该照片在推特中开始大量传播，包括RT和ZeroHedge等新闻媒体均参与其中。

此事引起发酵后，五角大楼的一名值班官员表示，周一上午没有任何事件报告，阿灵顿警察局也在推特上表示，“五角大楼或附近没有发生爆炸或相关事件，也没有对公众造成直接危险。”值得注意的是，在官方人士驳斥这张照片前，已有人指出这张照片是由AI生成的。

但该事件还是一度影响到金融市场，据悉，假照片发布时间为当地时间22日上午，美股开盘不久。照片发布后，引发美股下跌。道琼斯工业平均指数在上午10：06至10：10之间下跌了约80点，到10：13才恢复。而标准普尔500指数从上午10：06原本上涨0.02%，但10：09下跌0.15%。10：11才出现正值。

AI造谣重创科大讯飞股价

实际上，AI造谣“五角大楼被炸”对股市的影响并不是个例，本周三，一篇名为“科大讯飞出现重大风险的警示文”的AI虚假小作文在坊间广为流传，AI概念龙头股科大讯飞随即股价跳水，总市值一度减少近126亿元。

这篇名为《科大讯飞出现重大风险的警示文》指出，“近期，科大讯飞被曝涉嫌大量采集用户隐私数据，并将其用于人工智能研究，这一行为严重侵犯了用户的隐私权，引发了公众的强烈不满和抵制，这一事件引发了广泛的关注和争议，给公司的声誉和业务带来了极大的冲击，科大讯飞遭遇的这场重大风险给整个行业敲响了警钟”。

对此，科大讯飞回应称，“股价下跌系某生成式AI写作虚假小作文导致，谣传风险为不实消息”。

防止“AI造谣”对市场影响

应成紧急研究课题

对于为何一则假消息就能够引起指数级的波动，有分析指出，主要是程序化交易目前没有分辨类似消息真伪的能力。

国泰君安证券非银团队数据显示，2012-2021年美国对冲基金规模实现了10%的年均复合增速，由于机构持有和交易的权益资产不断增多，机构投资者开始转向程序交易。

程序交易是指运用自动化的计算机程序，或运用人工智能，根据预设的算法，进行自动化的投资和买卖行为。程序交易往往根据指定的市场技术资料和财务比率（例如市盈率、市净率、移动平均线）等，自动由电脑操作买卖行为。

“因此，当下金融市场，在高度程序化交易的海外市场，机构如何预防类似AI假消息对市场造成的潜在扰动成为了金融领域必须紧急要研究课题之一。”有AI领域研究员表示，从整体AI领域来说，由于近年来AI生成非常逼真的“深度伪造”图像已经多次产生轰动，在人工智能大潮下，如何对AI进行有效监管，也需要各界探讨。