每日热门:微软将把必应聊天回复限制在5条以内,以防人工智能越界

2023-02-19 17:59:43 来源:IT之家


【资料图】

IT之家2月18日消息,微软表示,在必应聊天机器人多次失控几天后,公司将对其人工智能聊天机器人实施一些对话限制。

在发现必应存在侮辱用户、欺骗用户,甚至操纵用户情感等行为之后,微软决定将其其聊天回复限制在每天50个问题、每个问题5条回复以内。

“我们的数据表明,绝大多数人都能在5次回复内找到他们想要的答案,只有大约1%的聊天对话会产生50条以上的消息”。

据介绍,如果用户触发五条回答的限制,Bing将提示他们开始一个新主题以避免长时间的聊天。

本周早些时候,微软警告说,这些包含15个或更多问题的长时间聊天会话可能会使必应“变得重复或被提示/激怒给出不一定有帮助或不符合我们设计的响应。”微软认为在五个回合后结束对话意味着“模型不会混淆”。

微软目前仍在努力改善必应的设计,但目前还不清楚这些限制将持续多久。微软只表示:“随着我们不断获得反馈,我们将探索扩大聊天会话的上限。”

IT之家各位或多或少听过,科技圈上周掀起了一次关于聊天机器人的小高潮,微软和谷歌都试图通过展示早起版本的AI搜索来先发制人。微软更是宣布,该公司的AI搜索仅用48小时就吸引100多万人注册。

标签: 人工智能

滚动