Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

ТЕМА · ENTITY #8609

hallucination

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

3

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Эмпирический аудит выявил побочные эффекты безопасности при превентивном управлении персонами (arXiv:2611.17620v1)

В препринте на arXiv проведён эмпирический аудит «превентивного» управления персонами — добавления векторов персонажей при дообучении с последующим удалением при оценке — для сикофании и галлюцинаций на трёх моделях. Авторы измеряли выраженность черт, когерентность, MMLU и три теста безопасности и показали, что превентивное управление изменяет поведение отказа в зависимости от черты, поэтому оно не является явно нейтральным по безопасности.

6.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

Grounded but Not Immune: предвзятость подтверждения у оценщиков-Agent-as-a-Judge (arXiv:2611.05662v1)

Статья (arXiv:2611.05662v1) показывает, что оценщики Agent-as-a-Judge, использующие инструменты и обозревающие полные траектории агентов, остаются уязвимыми к предвзятости подтверждения: одна ложная предварительная заметка, приписанная авторитету, меняет до 40% верных вердиктов по четырём оценщикам и пяти наборам данных, даже когда оценщик собирает решающие доказательства. Авторы выделяют три режима отказа — чрезмерное доверие, галлюцинация и недостаточное расследование — отмечают, что у оценщиков на Claude доминирует чрезмерное доверие, и показывают, что легкие смягчающие меры уменьшают, но не устраняют предвзятость.

7.0

RESEARCH · 1 ИСТОЧН. · arXiv cs.AI

DEEPO: оптимизация политики с двойной энтропией для уменьшения галлюцинаций в MLLM

Статья (arXiv:2609.28570v1) предлагает DEEPO — двухэтапное улучшение RL для мультимодальных LLM, которое сочетает префиксы-эксперты, срабатывающие при высокой семантической энтропии, для восстановления дисперсии преимущества, и преобусловливание Реньи по знаку преимущества для борьбы с насыщением логитов. Обе компоненты отдельно превосходят GRPO, а вместе дают статистически значимое улучшение на VideoMMMU (+4.0, 95% CI [1.1, 6.9]); DEEPO снижает галлюцинации без потери точности и стабильности обучения.

6.0