ИССЛЕДОВАНИЕ · RESEARCH · #1896
Деб Рой (MIT CCC) призывает к ответственности за тексты, сгенерированные ИИ, в гражданских обсуждениях
Деб Рой, директор Центра конструктивной коммуникации при MIT, в эссе в Bulletin of the Atomic Scientists под названием «Кто стоит за словами?» утверждает, что в гражданских обсуждениях необходима чёткая человеческая ответственность и «подотчётность», даже если текст создаётся с помощью ИИ. Он предупреждает, что правдоподобные комментарии, сгенерированные ИИ (например, через ChatGPT и другие LLM), могут подорвать процесс публичных отзывов; CCC совместно с Cortico применяют ИИ для выявления тем, но выстраивают процессы так, чтобы люди могли проверять, менять и нести ответственность за публичные высказывания.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Деб Рой, директор Центра конструктивной коммуникации при MIT, в эссе в Bulletin of the Atomic Scientists под названием «Кто стоит за словами?» утверждает, что в гражданских обсуждениях необходима чёткая человеческая ответственность и «подотчётность», даже если текст создаётся с помощью ИИ.
- Он предупреждает, что правдоподобные комментарии, сгенерированные ИИ (например, через ChatGPT и другие LLM), могут подорвать процесс публичных отзывов; CCC совместно с Cortico применяют ИИ для выявления тем, но выстраивают процессы так, чтобы люди могли проверять, менять и нести ответственность за публичные высказывания.
- Это важно, потому что неконтролируемые ИИ‑комментарии могут делегитимизировать каналы общественного мнения и ослабить принятие политических решений без механизмов человеческой ответственности и возможности отменять выводы ИИ.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что неконтролируемые ИИ‑комментарии могут делегитимизировать каналы общественного мнения и ослабить принятие политических решений без механизмов человеческой ответственности и возможности отменять выводы ИИ.