一项刚上线的新功能,只活了一天。

当地时间7月30日,谷歌在网页版Google Earth中加入了一项图片生成功能。用户只要选中一个真实地点,再输入一句话,系统就能在当地卫星图、航拍图和三维地图的基础上,生成一张全新的场景图片。

最初,这项功能看起来很实用。

设计师可以用它展示城市改造后的样子,老师可以用它还原历史场景,城市规划人员也能更直观地呈现建设方案。对普通用户来说,它更像是一个可以随意改造现实世界的“地图滤镜”。

但功能上线后,很快有人发现,事情没有这么简单。

一些测试者用真实地点生成了并不存在的灾难和冲突画面。比如,医院附近出现爆炸痕迹,边境地区出现大批人群,城市建筑看上去像遭到袭击。

这些图片最容易让人误判的地方,是它们并不是完全凭空生成的。图片中的道路、楼房和地形都来自真实地图,只有灾难和冲突场景是假的。真假内容混在一起,看起来就像刚拍到的卫星现场图。

如果这样的图片被截下来,再配上一段“突发消息”发到社交平台,很多人可能根本来不及分辨。

谷歌一开始表示,生成图片会带有数字水印,也不会直接进入公开地图。但问题是,图片经过截图、裁剪或多次转发后,原有标记可能变得不明显,普通用户也很难确认图片到底从哪里来。

7月31日,功能上线约一天后,谷歌将其撤回。公司表示,已经注意到有人传播可能违反平台规定的生成图片,需要进一步加强安全措施。

目前,谷歌还没有公布这项功能何时重新上线。

这次风波暴露出的,不只是一个产品漏洞。过去,人们打开谷歌地球,是为了看真实世界;现在,平台开始允许用户在真实地图上制造虚构画面。只要这些图片离开原平台,就可能被当成新闻现场、战争证据,甚至成为制造恐慌的工具。

功能上线很容易,但怎么让人相信自己看到的东西是真的,正在变得越来越难。