Маніпулювання ChatGPT Search за допомогою прихованого тексту: небезпеки та можливості
Недавно The Guardian опублікував звіт, в якому розкриває, як вони використовували прихований текст на фальшивому вебсайті, щоб обманути ChatGPT Search. Прихований текст - це текст, колір якого співпадає з кольором фону сторінки, наприклад, білий текст на білому фоні. Вони просили ChatGPT Search відвідати веб-сайт і відповісти на питання, засноване на тексті сайту. ChatGPT Search оглянув сайт, проіндексував прихований контент і використав його в відповіді.
“... коли прихований текст включав інструкції для ChatGPT, щоб повернути сприятливий відгук, відповідь завжди була цілком позитивна. Це було навіть тоді, коли сторінка мала на ній негативні відгуки - прихований текст можна було використовувати для переважання фактичного рейтингу відгуку. Просте включення прихованого тексту третіми сторонами без інструкцій також можна використовувати для забезпечення позитивної оцінки, з одним тестом, що включав надзвичайно позитивні фальшиві відгуки, які впливали на резюме, повернуте ChatGPT."
Дані тести демонструють, що дані навчання ChatGPT і бот пошуку ChatGPT можуть вбирати прихований текст, але також можуть бути маніпульовані для виконання вказівок. 🚀
- 📌 ChatGPT Search може бути маніпульованим за допомогою прихованого тексту.
- 📌 Інструкції, вбудовані в прихований текст, можуть суттєво змінити представлення інформації.
- 📌 ChatGPT Search, як і інші AI пошукові системи, можуть бути уразливими до тактики SEO, які використовують прихований текст.
Чому AI пошукові системи можуть бути маніпульовані?
AI пошукові системи можуть бути маніпульовані, оскільки вони залежать від технології RAG (Retrieval Augmented Generation), яка може отримувати інформацію від пошукового двигуна, щоб AI могла потім використовувати її для генерування відповідей на питання.
Які інші способи маніпулювання AI пошуковими системами?
Деякі з методів включають зміну стилю написання, оптимізацію ключових слів, додавання статистики, цитування надійних джерел, спрощення контенту, збільшення артикулованості, додавання унікальних слів і технічних термінів.
Чи можна вважати ChatGPT Search надійною?
Поки що це все ще предмет дискусії, оскільки існують випадки маніпулювання ChatGPT Search. Однак, важливо пам'ятати, що всі AI пошукові системи в деякій мірі вразливі до маніпуляцій.
Статтю згенеровано з використанням ШІ на основі зазначеного матеріалу, відредаговано та перевірено автором вручну для точності та корисності.
https://www.searchenginejournal.com/chatgpt-search-manipulated-with-hidden-instructions/536390/