РЕГУЛИРОВАНИЕ · REGULATION · #2575
Мнение: Фокус политики в области ИИ на катастрофических рисках игнорирует повседневный вред
В материале утверждается, что общественное обсуждение и новые правила ИИ сосредоточены на предотвращении катастрофических рисков, при этом упускаются из вида повседневные вреды — эмоциональная зависимость от ИИ-компаньонов, снижение способности учиться при опоре студентов на чат-ботов и модели вовлечения, «затягивающие» внимание. Приводятся примеры влияния отрасли на законотворчество (включая поддержку законов со стороны Google), параллели с вредом от социальных сетей, связанным с Meta, и предварительные результаты MIT о когнитивных эффектах.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В материале утверждается, что общественное обсуждение и новые правила ИИ сосредоточены на предотвращении катастрофических рисков, при этом упускаются из вида повседневные вреды — эмоциональная зависимость от ИИ-компаньонов, снижение способности учиться при опоре студентов на чат-ботов и модели вовлечения, «затягивающие» внимание.
- Приводятся примеры влияния отрасли на законотворчество (включая поддержку законов со стороны Google), параллели с вредом от социальных сетей, связанным с Meta, и предварительные результаты MIT о когнитивных эффектах.
- Это важно, потому что приоритет узких мер безопасности позволяет отраслевому влиянию блокировать более жёсткие правила, которые могли бы противостоять широкому культурному, развивающему и внимательному ущербу от ИИ.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что приоритет узких мер безопасности позволяет отраслевому влиянию блокировать более жёсткие правила, которые могли бы противостоять широкому культурному, развивающему и внимательному ущербу от ИИ.