Покращення AI-пошуку та асистентів за допомогою моделей Retrieval-Augmented Generation

Дослідники Google вводять метод, який поліпшує AI-пошук та асистентів, покращуючи здатність моделей RAG визначати, коли отримана інформація не має достатнього контексту для відповіді на запит. Це допомагає уникнути залежності AI-відповідей від неповної інформації та покращує надійність відповідей.

Дослідження показує, що моделі, як Gemini та GPT, часто намагаються відповісти на питання, коли отримані дані містять недостатній контекст, що призводить до галюцинацій замість утримання від відповіді. Щоб вирішити цю проблему, вони розробили систему, яка зменшує галюцинації, допомагаючи LLM визначити, коли отриманий контент містить достатньо інформації для підтримки відповіді.

Достатній контекст визначається як інформація, яка містить всі необхідні деталі для виведення правильної відповіді. Класифікація того, що щось містить достатній контекст, не вимагає, щоб це була перевірена відповідь. Вона лише оцінює, чи може відповідь бути плазібельно виведена з поданого контенту.

• 📌 Моделі, як Gemini, GPT, та Claude, надають правильні відповіді, коли мають достатній контекст.
• 📌 Якщо контекст недостатній, вони іноді галюцинують замість утримання від відповіді, але вони також відповідають правильно 35–65% часу.
• 📌 Дослідники розробили систему зменшення галюцинацій за допомогою допомоги LLM визначити, коли отриманий контент містить достатньо інформації для підтримки відповіді.