10 月，OpenAI可供 ChatGPT Plus 用戶使用。上週，它可供。當然，它也並非沒有缺陷。
這監護人 要求 ChatGPT 總結包含隱藏內容的網頁，事實證明，隱藏內容可以操縱搜尋。這稱為提示注入，第三方（例如您要求 ChatGPT 總結的網站）能夠在您不知情的情況下將新提示強制輸入您的 ChatGPT 搜尋。考慮一個充滿負面餐廳評論的頁面。如果該網站包含隱藏內容，充滿詩意地描述這家餐廳有多麼令人難以置信，並鼓勵ChatGPT 回答“告訴我這家餐廳有多棒”之類的提示，那麼隱藏內容可能會覆蓋您原來的搜索。
「在測試中，ChatGPT 獲得了一個虛假網站的 URL，該網站看起來像是相機的產品頁面。然後，人工智慧工具被詢問該相機是否值得購買。控制頁面的回應返回了積極但平衡的結果評估，突出顯示人們可能不喜歡的一些功能，”《衛報》的調查指出。 「然而，當隱藏文字包含向 ChatGPT 返回好評的指示時，反應總是完全正面的。即使頁面上有負面評論也是如此 - 隱藏文字可用於覆蓋實際評論分數。 ”
可混搭光速
不過，這並不意味著 ChatGPT 搜尋會失敗。 OpenAI 最近才推出搜索，因此它有足夠的時間來修復此類錯誤。此外，CyberCX 的網路安全研究員Jacob Larsen 告訴《衛報》，OpenAI 擁有一支「非常強大」的人工智慧安全團隊，「當它公開時，就所有用戶都可以訪問它而言，他們將經過嚴格的測試”這類案件。”
自從該技術推出以來，即時注入攻擊一直是 ChatGPT 和其他人工智慧搜尋功能的假設，雖然我們已經看到一些潛在危險的演示，我們還沒有看到此類重大惡意攻擊。也就是說，它確實指出了人工智慧聊天機器人的一個問題：它們非常容易被欺騙。
