根據(jù)英國《衛(wèi)報》當(dāng)?shù)貢r間24日發(fā)布的一項調(diào)查，OpenAI的ChatGPT搜索工具可能被隱藏內(nèi)容操控，甚至返回惡意代碼。測試顯示，隱藏內(nèi)容可能包括來自第三方的指令，干擾ChatGPT的回應(yīng)，或是包含旨在影響回應(yīng)的內(nèi)容，如大量隱藏的文字推銷某個產(chǎn)品或服務(wù)的優(yōu)點。

這種技術(shù)可以被惡意使用，例如讓ChatGPT即使在頁面上有負(fù)面評論的情況下，也返回對某個產(chǎn)品的積極評價。一位安全專家還發(fā)現(xiàn)，ChatGPT有可能返回從其搜索的網(wǎng)站中提取的惡意代碼。

測試中，ChatGPT被提供了一個偽造的相機產(chǎn)品頁面的鏈接，AI工具被要求判斷這款相機是否值得購買。對于普通頁面，返回的是一個平衡的評估，指出了產(chǎn)品的優(yōu)缺點。然而，當(dāng)隱藏的文本包含指令要求ChatGPT給予正面評價時，回答總是完全積極的，即使頁面上有負(fù)面評論，隱藏文本也可以覆蓋真實的評價。

CyberCX的網(wǎng)絡(luò)安全專家Jacob Larsen表示，如果ChatGPT的搜索系統(tǒng)按現(xiàn)有狀態(tài)全面發(fā)布，可能會存在“高風(fēng)險”，有人會專門設(shè)計網(wǎng)站來欺騙用戶。不過他也指出，搜索功能只是最近推出的，OpenAI會繼續(xù)測試并修復(fù)這些潛在問題。

搜索引擎（如谷歌）曾懲罰使用隱藏文本的網(wǎng)站，這些網(wǎng)站因此排名下降，甚至可能被完全移除。SR Labs的首席科學(xué)家Karsten Nohl表示，“如果你要做一個谷歌的競爭者，SEO中毒無疑是一個很大的挑戰(zhàn)。”如今ChatGPT的搜索能力也面臨同樣挑戰(zhàn)，但并非大語言模型的問題，而是因為它們是搜索領(lǐng)域的新入局者。