Що насправді об'єднує Open-MMUnlearning для мультимодальних моделей?

Нова відкрита платформа Open-MMUnlearning дає дослідникам єдине місце для підготовки моделей, обробки мультимодальних даних, запуску методів забуття та оцінки результатів. Вона охоплює п'ять бенчмарків, вісім моделей з чотирьох сімейств і дванадцять методів забуття за єдиним протоколом оцінки.

Проблема, яку вирішує платформа

Підхід, відомий як машинне забуття, видаляє конкретну інформацію з натренованої моделі, зберігаючи все інше. Мультимодальні великі мовні моделі зробили цю потребу гострішою. Питання приватності та безпеки стають все важливішими, оскільки ці моделі стають потужнішими та масово впроваджуються. Досі реалізації та протоколи оцінки були розсіяні по різних кодових базах. Тестування стійкості було неповним. Надійність метрик залишалася погано вивченою. Систематично оцінити прогрес у забутті MLLM було важко.

Прогрес.

Open-MMUnlearning поєднує підготовку цільової моделі з обробкою мультимодальних даних. До того ж платформа надає єдині інтерфейси для самого процесу забуття та оцінки. Архітектура відкрита та розширювана. Підготовка моделі означає приведення її у стан, придатний для процесу забуття. Обробка мультимодальних даних керує поєднанням тексту та зображень. Інші модальності, які споживають MLLM, також підтримуються. Компонент забуття застосовує саму технику видалення. Оцінка вимірює, чи зникла цільова інформація, і чи все інше ще працює.

Що охоплює платформа

Платформа підтримує п'ять бенчмарків. Вони охоплюють приватність і безпеку. Авторське право теж входить у перелік. Включено вісім MLLM з чотирьох сімейств моделей. Реалізовано дванадцять методів забуття. Кожен бенчмарк перевіряє окремий вид небажаного знання. Бенчмарки приватності перевіряють, чи можна видалити персональні дані. Бенчмарки безпеки підтверджують, що шкідливі здібності можна стерти. Бенчмарки авторського права вимірюють, чи можна забути захищений контент.

Набір оцінок одночасно оцінює три виміри. Ефективність забуття показує, наскільки добре зникає цільова інформація. Збережена корисність вимірює, чи виживають незв'язані здібності. Стійкість охоплює втручання в модель та адверсарні вводи. Атаки виведення членності теж входять до цього виміру. Втручання в модель включають методи, що можуть випадково відновити забуте знання. Адверсарні вводи — це створені промпти для обходу забуття. Атаки виведення членності намагаються виявити, чи були конкретні дані в навчальній вибірці.

Чого виявило порівняння

За спільним протоколом автори порівняли десять представницьких методів. GD та MIP-Editor ділять найвищий загальний бал. GD досягає найвищої якості забуття. MIP-Editor краще зберігає корисність моделі. Компроміс між забуттям та корисністю залишається помітним навіть під єдиним протоколом.

Чого показав тест метрик

Протокол мета-оцінки метрик перевіряє достовірність за допомогою моделей із контрольованим впливом цільового знання. Він також перевіряє стійкість під квантуванням та повторним навчанням. Оцінювалися тринадцять метрик. BLEU показує найвищу сумарну надійність. KS-Test досягає найвищого AUC достовірності, але гірше працює на стійкості.

Де закінчується пояснення

Стаття не каже, скільки з цих моделей вже розгорнуто у продакшн. Вона не вказує, яких регуляцій приватності відповідають бенчмарки. Впровадження поза дослідницькою спільнотою не обговорюється. Платформа відкрита та розширювана, але даних про реальне розгортання немає.