亚马逊的人工智能聊天机器人Q存在一些严重的准确性和隐私问题

  • 发布时间:2023-12-21 16:37:31 来源:
标签:
导读 上周二,在年度亚马逊网络服务开发者大会上,亚马逊宣布推出Q,该公司的商业人工智能聊天机器人。事实证明,Q可能还没有为黄金时段做好准备

上周二,在年度亚马逊网络服务开发者大会上,亚马逊宣布推出Q,该公司的商业人工智能聊天机器人。事实证明,Q可能还没有为黄金时段做好准备。

根据科技通讯Platformer查看的泄露文件,Q正在“经历严重的幻觉并泄露机密数据”。其中一些泄露的内容包括AWS数据中心的位置、内部折扣计划,甚至未发布的功能。

在给Platformer的一份声明中,亚马逊代表驳斥了聊天机器人正在泄露机密信息的说法。

一位发言人表示:“一些员工通过内部渠道和票务系统分享反馈,这是亚马逊的标准做法。”“该反馈没有发现任何安全问题。我们感谢已经收到的所有反馈,并将继续调整Q,因为它从预览版产品过渡到普遍可用。”

Q是一款以业务为中心的聊天机器人,可以进行定制,以协助员工执行各种不同的工作职能以及回答问题和生成内容。

亚马逊在宣布该产品时表示,多家公司已经在使用Q,包括埃森哲、亚马逊、宝马集团、吉利德、MissionCloud、OrbitIrrigation和Wunderkind。

Q不像许多其他聊天机器人那样从网络中提取信息,而是从“公司的信息存储库、代码库和企业系统”中提取答案,如果该信息不正确或与错误的人共享,问题会更加严重。

去年11月,OpenAI首次推出了名为GPT的可定制聊天机器人,该机器人可以使用内部数据而不是整个网络来回答问题,不过由于CEO相关的动荡,其GPT商店的推出已被推迟。

  • 免责声明:本文由用户上传,如有侵权请联系删除!