Чому великі мовні моделі не можуть цитувати дані так, як вони цитують документи?
Нова стаття на arXiv стверджує: змусити моделі посилатися на тренувальні дані — це інша задача, ніж цитування документів. Автор виокремлює три напрямки досліджень, які ще не вирішено.
Великі мовні моделі сьогодні стоять між людьми та інформацією, яку вони шукають. Кількість досліджень, що перевіряють, чи вміють ці моделі вказувати на джерела своїх відповідей, постійно зростає. Такі роботи розглядають цитування як інструмент верифікації і застосовують його до текстових документів. Наукова практика виконує ще дві функції: зараховує заслуги авторів і фіксує походження. Обидві справедливі для даних не менше, ніж для текстів. Стаття, подана 26 серпня 2026 року, твердить: цитування даних для великих мовних моделей — це відкрита проблема, відмінна від ґрунтування на документах і значно складніша.
Поточні підходи просять модель назвати документ, що підтверджує твердження. Документ — статичний контейнер. Дані живуть у таблицях та графах знань. Результати запитів змінюються з часом. Модель, натренована на корпусі, вбирає статистичні патерни у ваги. Оригінальні набори даних зникають всередині параметрів. Номер сторінки для факту, що виник з мільйонів рядків, не існує.
Автор пише: атрибуція тренувальних даних має перетворити оцінки впливу на посилання для корпусів, поглинутих параметрами моделі. Оцінки впливу — це не цитування. Вони вимірюють, наскільки приклад тренування зсуває поведінку моделі. Цитування має ідентифікувати конкретний набір даних. А також конкретну підвибірку або конкретний результат запиту на потрібній гранулярності та з фіксацією. Фіксація означає: об'єкт цитування не змінюється після створення посилання. Більшість наборів даних такої гарантії не дають.
Перший напрям — атрибуція тренувальних даних. Потрібні методи, що відображають вивід моделі на приклади, які її сформували. Ці методи мають видавати посилання, які визнають фахівці. Посилання на корпус — не посилання на рядок. Стаття не каже, скільки прикладів поглинає типова модель. Не каже, чи масштабуються поточні функції впливу до трильйонових корпусів. Другий напрям — цитування під час інференсу. Коли модель отримує дані для відповіді, вона має цитувати набір даних і підвибірку. Результат запиту сам по собі має бути цитовним у момент створення. Стаття не вказує, які схем ідентифікаторів існують сьогодні. Не називає жодного стандарту, що задовольняє фіксацію.
Третій напрям — факти графів знань. Граф зберігає трійки — суб'єкт, предикат, об'єкт. Модель, що видає факт з графа, має цитувати трійку. Стаття запитує, що означає посилання на одну трійку. Як кредит поширюється вздовж ланок походження. Трійка може прийти з конвеєра екстракції, що черпав з кількох джерел. Стаття не описує жодної існуючої системи, що простежує цей ланок повністю.
Прогрес за всіма трьома напрямками залежить від спільної роботи дослідників баз даних та інформаційного пошуку. До них приєднуються експерти з представлення знань і фахівці штучного інтелекту. Дослідники баз даних розуміють походження запитів і фіксацію. Спеціалісти з інформаційного пошуку — ґрунтування та ранжування. Експерти з представлення знань — семантику графів та ідентичність трійок. Фахівці з штучного інтелекту — внутрішню структуру моделей та оцінку впливу. Одина спільнота не володіє всіма частинами.
Стаття займає сім сторінок. Класифікована як журнална публікація. ACM-класи: H.3.7 та H.2.8. DOI — 10.48550/arXiv.2608.25663. Автор — Джанмарія Сільвелло. Історія подань показує одну версію. Абстракт закінчується закликом до спільної роботи. Стаття не пропонує бенчмарк. Не пропонує метрику. Не називає конференцію, де цю роботу обговорять далі. Користувач запитує у моделі статистику — отримує число. Сьогодні модель може назвати звіт. Завтра — набір даних, підвибірку і запит. Різниця визначає, чи можна перевірити число. Чи отримає творець даних кредит. Чи виживе ланка походження після зміни схеми. Стаття не каже, коли якийсь із трьох напрямків досягне продакшн-систем. Не каже, який найближчий. Вона лише формулює проблему. Рішення залишається відкритим.
Джерела, за якими написано статтю
- "arXiv:2608.25663v1
https://arxiv.org/abs/2608.25663v1"