ИССЛЕДОВАНИЕ · RESEARCH · #2657
Бывший исследователь DeepMind представил в white paper идею «реестра знаний» от Metis для снижения галлюцинаций ИИ
Торе Грэпель, бывший исследователь DeepMind, на конференции Nvidia GTC представил исследовательскую программу Metis — концепцию «реестра знаний», отделяющего факты от весов модели и использующего поиск в духе AlphaGo и отдельный модуль верификации для проверки допущений и доказательств. Метод призван уменьшить галлюцинации и выдавать ответы с источниками, но пока это теоретическая рамка без рабочей реализации, бенчмарков и эмпирических данных.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Торе Грэпель, бывший исследователь DeepMind, на конференции Nvidia GTC представил исследовательскую программу Metis — концепцию «реестра знаний», отделяющего факты от весов модели и использующего поиск в духе AlphaGo и отдельный модуль верификации для проверки допущений и доказательств.
- Метод призван уменьшить галлюцинации и выдавать ответы с источниками, но пока это теоретическая рамка без рабочей реализации, бенчмарков и эмпирических данных.
- Если подход реализуем, реестр знаний с верификацией может существенно повысить проверяемость и сократить галлюцинации в критичных областях применения ИИ, однако пока это непроверенная и спекулятивная идея.
ПОЧЕМУ ЭТО ВАЖНО
Если подход реализуем, реестр знаний с верификацией может существенно повысить проверяемость и сократить галлюцинации в критичных областях применения ИИ, однако пока это непроверенная и спекулятивная идея.