您现在所在位置: kaiyun开云体育 > 新闻中心 > 行业动态

公司资讯

Company information

行业动态

Industry dynamics

马斯克的AI聊天机器人Grok出现“幻觉”发生了什么?

发布日期:2024-10-18 13:57 浏览次数:

  

马斯克的AI聊天机器人Grok出现“幻觉”发生了什么?

  IT之家 12 月 12 日消息,近日,埃隆・马斯克旗下 AI 公司 xAI 推出了全新的人工智能聊天机器人 Grok,并面向美国地区的 Premium+ X 用户开放。据官方介绍,Grok 采用了名为 Grok-1 的模型,与目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是,Grok 还整合了 X 平台的实时数据,能够根据 X 平台的最新动态提供实时回应,这也是其与其他竞争对手的显著差异之一。

  然而,就像所有 AI 聊天机器人一样,Grok 也存在“幻觉”问题,即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型(LLM)中都普遍存在,包括 ChatGPT。

  近日,一个 Grok 尴尬的“幻觉”在社交媒体上引起热议。有用户在使用 Grok 时收到回应称:“我无法完成您的请求,因为它违反了 OpenAI 的用例政策。”

  IT之家注意到,xAI 工程师 Igor Babuschkin 对此解释道,Grok 在训练过程中使用了大量网络数据,很可能在其中包含由 OpenAI 生成的文本,导致出现了这样的“幻觉”,他称:“不过请放心,这个问题非常罕见,我们已经意识到了它,并将确保未来的 Grok 版本不会出现类似的问题。请放心,Grok 的开发没有使用任何 OpenAI 代码。”

  如何避免类似事件的发生,以及如何让 AI 聊天机器人更安全、更可信,将是未来 AI 研发的重要课题。