谷歌Bard在Twitter的首次亮相中自信地吐露错误信息-全球关注

(资料图)

如果谷歌的巴德聊天机器人的非官方首次亮相是任何迹象的话，错误信息将变得更加糟糕。该公司本周在Twitter上发布了一则广告，展示了自然语言人工智能模型，显示了关于詹姆斯-韦伯太空望远镜（JWST）的虚假信息。

在广告中，一个简短的GIF显示了与巴德问答的例子。"我可以把詹姆斯-韦伯太空望远镜的哪些新发现告诉我9岁的孩子？"询问中写道。机器很快就吐出了三个想法，包括最后一个说："JWST拍摄了我们太阳系以外的行星的第一批照片。这些遥远的世界被称为 "系外行星"。Exo的意思是"来自外部""。虽然关于系外行星的部分是正确的，但第一部分说JWST拍摄了它们的第一张照片是错误的。这一荣誉属于欧洲南方天文台2004年的甚大望远镜（VLT），这一点得到了美国宇航局的证实。

虽然Twitter广告中的错误信息不可能直接损害任何东西，但很容易将这个错误视为将自然语言聊天机器人释放到野外的风险的预兆。这与CNET决定用人工智能聊天机器人撰写金融建议文章的做法相似；这些文章也充满了错误。

因为聊天机器人有很多地方是正确的--而且吐出的答案非常自信--任何不对他们的回答进行事实核查的人都可能会留下错误的信念。考虑到（非人工智能驱动的）错误信息已经在社会上造成的混乱，在可以信任它能够可靠和一致地产生事实信息--甚至逃脱谷歌的文案编辑--之前释放这种通常令人震惊的技术可能会让我们陷入疯狂。