Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

РЕЛИЗ · COMPANIES · #3703

OpenAI представила классификатор CSAM с пометкой для изображений, созданных ИИ

OpenAI заявила о классификаторе, который, по её словам, точнее обнаруживает материалы сексуального насилия над детьми (CSAM) и отдельно помечает изображения, созданные ИИ, снижая количество ложноположительных сигналов на 48% и одновременно удваивая долю реальных случаев. Компания предоставляет бесплатный доступ проверенным организациям, даёт рекомендации разработчикам, обучает правоохранителей и усилила защиту в ChatGPT (предупреждение и 24‑часовая блокировка при первом нарушении); OpenAI сообщает обо всех случаях в NCMEC.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. OpenAI заявила о классификаторе, который, по её словам, точнее обнаруживает материалы сексуального насилия над детьми (CSAM) и отдельно помечает изображения, созданные ИИ, снижая количество ложноположительных сигналов на 48% и одновременно удваивая долю реальных случаев.
  2. Компания предоставляет бесплатный доступ проверенным организациям, даёт рекомендации разработчикам, обучает правоохранителей и усилила защиту в ChatGPT (предупреждение и 24‑часовая блокировка при первом нарушении); OpenAI сообщает обо всех случаях в NCMEC.
  3. Этот инструмент может существенно сократить поток фальшивых сообщений об изображениях, созданных ИИ, и улучшить распределение приоритетов для следователей на фоне резкого роста таких заявок в NCMEC.

ПОЧЕМУ ЭТО ВАЖНО

Этот инструмент может существенно сократить поток фальшивых сообщений об изображениях, созданных ИИ, и улучшить распределение приоритетов для следователей на фоне резкого роста таких заявок в NCMEC.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1