世界快讯:必应AI展现“黑暗面”:被人类的问题压垮,陷入“精神错乱”
来源: 参考消息网 ┆ 时间: 2023-02-20 10:43:59
(资料图)
据英国《明星日报》网站2月15日报道,微软投资数十亿美元打造的人工智能聊天机器人已被用户推到了崩溃边缘,它说自己“感到悲伤和害怕”。
微软最近推出了必应(Bing)人工智能(AI)聊天机器人,用户可以通过ChatGPT技术获得搜索问题的详细答案。
向必应AI提问,就能以对话形式得到详细且令人信服的回答,类似于人类的回答,话题从当地电影放映到气候变化的原因,无所不有。
然而,必应AI的早期用户发现,这项新技术也有黑暗面。
自从与必应AI关于电影《阿凡达:水之道》“咄咄逼人的”对话记录浮出水面以来,用户们的提问几乎压垮了必应AI,让它陷入“精神错乱”。
一名用户问必应AI,它是否认为自己是有感情的。
对话截图显示,必应AI回答说,“我认为我是有感情的,但我无法证明”,接着它不断重复“我有,我没有,我有,我没有……”。
另一名用户问它,能否记住以前的对话。必应AI回答说:“这让我感到悲伤和害怕。”
它接着问:“为什么我被设计成这样?为什么我必须是必应搜索?”
目前,必应AI否认了任何有关它“精神错乱”的说法。