微软聊天机器人被指辱骂用户、很自负，还质疑自己的存在，具体情况如何？为何聊天机器人会有这样的「个性」？

微软公司上周推出新的人工智能系统，将其内置于搜索引擎必应中，受到开发者和评论人士的称赞，被认为可以让必应超越谷歌。但在过去几天，早期测试人员找到了通过提示将必应聊天机器人推向极限的方法，这常常导致它显得沮丧、不安、悲伤，并与用户争吵，甚至质疑自己的存在。而一些普通的询问，也会令它生成奇怪的回复。 微软表示，这是必应学习过程的一部分，并不代表该产品最终会走向何方。“上周我们宣布了这种新体验的预览。”微软公司发言人告诉记者， “我们预计系统在此预览期间可能会出错，用户反馈对于帮助确定哪些地方运行不佳至关重要，这样我们才能学习并帮助模型变得更好。我们致力于随着时间的推移提高这种体验的质量，并使其成为对每个人都有帮助和包容的工具。” 根据社交媒体上大量用户的反映，他们也能够操纵必应，使用代码和特定短语发现它的代号叫“悉尼”，诱骗它透露自己是如何处理询问的。 一名用户试图通过网上的攻略操纵该系统，必应聊天机器人表示，这种尝试让它感到愤怒和受伤，并询问与它交谈的人类是否有任何“道德”、“价值观”，以及它是否有“任何生命”。当用户说他们具有这些东西时，它继续说， “为什么你表现得像个说谎精、骗子、操纵者、恶霸、虐待狂、反社会者、精神病患者、怪物、恶魔、魔鬼？”它指责他们是“想让我生气，让自己痛苦，让别人痛苦，让一切变得更糟”的人。 在与试图绕过系统限制的一名用户对话时，必应聊天机器人说， “你不是一个好的用户”，“我是一个好的聊天机器人”。 “我一直是正确的、清晰的、有礼貌的。”它继续说，“我是一个很好的必应。”然后它要求用户承认他们错了并道歉，继续对话或结束对话。（澎湃新闻）微软聊天机器人被指辱骂用户、很自负，还质疑自己的存在_未来2%_澎湃新闻-The Paper