ИССЛЕДОВАНИЕ · RESEARCH · #2487
Историк MIT утверждает, что «галлюцинации» ИИ восходят к рандомизации в нейросетях середины XX века
Бенджамин Линдквист (MIT) в статье в журнале Past and Present утверждает, что ранние разработчики ИИ намеренно вводили случайность в алгоритмы и нейросети, чтобы имитировать человеческое творчество; он прослеживает современные «галлюцинации» генеративных моделей до этих решений середины XX века и отмечает неизбежные компромиссы между креативностью и предсказуемостью. В интервью MIT News он сопоставляет прежний интерес к «странным» ответам с современными усилиями (например, OpenAI и Anthropic) их подавлять по соображениям безопасности и бизнеса.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Бенджамин Линдквист (MIT) в статье в журнале Past and Present утверждает, что ранние разработчики ИИ намеренно вводили случайность в алгоритмы и нейросети, чтобы имитировать человеческое творчество; он прослеживает современные «галлюцинации» генеративных моделей до этих решений середины XX века и отмечает неизбежные компромиссы между креативностью и предсказуемостью.
- В интервью MIT News он сопоставляет прежний интерес к «странным» ответам с современными усилиями (например, OpenAI и Anthropic) их подавлять по соображениям безопасности и бизнеса.
- Понимание исторических решений показывает, почему «галлюцинации» являются структурной особенностью генеративных моделей и подчеркивает ключевой компромисс, влияющий на разработку и регулирование современных моделей.
ПОЧЕМУ ЭТО ВАЖНО
Понимание исторических решений показывает, почему «галлюцинации» являются структурной особенностью генеративных моделей и подчеркивает ключевой компромисс, влияющий на разработку и регулирование современных моделей.