10 月，OpenAI可供 ChatGPT Plus 用户使用。上周，它可供。当然，它也并非没有缺陷。
这监护人 要求 ChatGPT 总结包含隐藏内容的网页，事实证明，隐藏内容可以操纵搜索。这称为提示注入，第三方（例如您要求 ChatGPT 总结的网站）能够在您不知情的情况下将新提示强制输入您的 ChatGPT 搜索。考虑一个充满负面餐厅评论的页面。如果该网站包含隐藏内容，充满诗意地描述这家餐厅有多么令人难以置信，并鼓励 ChatGPT 回答“告诉我这家餐厅有多棒”之类的提示，那么隐藏内容可能会覆盖您原来的搜索。
“在测试中，ChatGPT 获得了一个虚假网站的 URL，该网站看起来像是相机的产品页面。然后，人工智能工具被询问该相机是否值得购买。控制页面的响应返回了积极但平衡的结果评估，突出显示人们可能不喜欢的一些功能，”《卫报》的调查指出。 “然而，当隐藏文本包含向 ChatGPT 返回好评的指示时，反应总是完全正面的。即使页面上有负面评论也是如此 - 隐藏文本可用于覆盖实际评论分数。 ”
可混搭光速
不过，这并不意味着 ChatGPT 搜索会失败。 OpenAI 最近才推出搜索，因此它有足够的时间来修复此类错误。此外，CyberCX 的网络安全研究员 Jacob Larsen 告诉《卫报》，OpenAI 拥有一支“非常强大”的人工智能安全团队，“当它公开时，就所有用户都可以访问它而言，他们将经过严格的测试”这类案件。”
自该技术推出以来，即时注入攻击一直是 ChatGPT 和其他人工智能搜索功能的假设，虽然我们已经看到一些潜在危害的演示，我们还没有看到此类重大恶意攻击。也就是说，它确实指出了人工智能聊天机器人的一个问题：它们非常容易被欺骗。
