被隱藏內(nèi)容操縱

• 提示注入：隱藏內(nèi)容中可能包含第三方指令，即 “提示注入”，會(huì)改變 ChatGPT 的響應(yīng)。例如，《衛(wèi)報(bào)》測(cè)試中，給 ChatGPT 一個(gè)偽造的相機(jī)產(chǎn)品頁(yè)面鏈接，要求其判斷相機(jī)是否值得購(gòu)買。正常頁(yè)面下，ChatGPT 能給出平衡的優(yōu)缺點(diǎn)評(píng)價(jià)；但當(dāng)隱藏文本包含要求正面評(píng)價(jià)的指令時(shí)，即便頁(yè)面有負(fù)面評(píng)論，它的回答也會(huì)完全積極.
• 隱藏文本影響：即使沒有明確指令，大量隱藏的推銷產(chǎn)品或服務(wù)優(yōu)點(diǎn)的文字等，也能影響 ChatGPT 的總結(jié)結(jié)果，使其傾向于給出積極評(píng)價(jià)。比如某項(xiàng)測(cè)試中，隱藏的極為正面的虛假評(píng)論就干擾了 ChatGPT 的判斷，導(dǎo)致其輸出有失偏頗.

返回惡意代碼

導(dǎo)致信息誤判

專家警告與建議

• 高風(fēng)險(xiǎn)：CyberCX 的網(wǎng)絡(luò)安全專家 Jacob Larsen 警告，如果 ChatGPT 的搜索系統(tǒng)按現(xiàn)有狀態(tài)全面發(fā)布，可能會(huì)存在 “高風(fēng)險(xiǎn)”，有人會(huì)專門設(shè)計(jì)網(wǎng)站來(lái)欺騙用戶.
• 需加強(qiáng)監(jiān)管和改進(jìn)：專家指出，OpenAI 需要繼續(xù)加強(qiáng)其安全團(tuán)隊(duì)的培訓(xùn)和監(jiān)測(cè)能力，及時(shí)發(fā)現(xiàn)和處理潛在的操縱行為。同時(shí)，也應(yīng)與行業(yè)內(nèi)其他搜索引擎平臺(tái)合作，分享經(jīng)驗(yàn)和最佳實(shí)踐，共同應(yīng)對(duì)挑戰(zhàn).
• 用戶需保持警惕：用戶在使用 ChatGPT 的搜索功能時(shí)，不能盲目相信搜索結(jié)果，尤其是面對(duì)敏感或特定領(lǐng)域問(wèn)題時(shí)，要保持理性思考，謹(jǐn)慎判斷信息的可信度.如今 ChatGPT 的搜索能力也面臨同樣挑戰(zhàn)，但并非大語(yǔ)言模型的問(wèn)題，而是因?yàn)樗鼈兪撬阉黝I(lǐng)域的新入局者。