Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

РЕЛИЗ · COMPANIES · #3684

OpenAI выпустила классификатор CSAM, предупреждения в ChatGPT и руководство для разработчиков

OpenAI объявила о новом классификаторе изображений для выявления материалов с сексуальной эксплуатацией детей (CSAM), включая сгенерированные ИИ изображения, и предоставляет доступ к API некоторым компаниям бесплатно; в тестах классификатор помечал на 48% меньше изображений при обнаружении того же числа злоупотреблений, а помеченные изображения вдвое чаще оказывались действительно вредоносными. Компания также добавила предупреждения в ChatGPT и 24-часовые временные блокировки за попытки получить сексуализированный контент о детях, опубликовала рекомендации для разработчиков по предотвращению и отчетности CSAM и представила инструменты, обучение и руководство для правоохранителей в сотрудничестве с NCMEC, Tech Coalition и другими партнерами.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. OpenAI объявила о новом классификаторе изображений для выявления материалов с сексуальной эксплуатацией детей (CSAM), включая сгенерированные ИИ изображения, и предоставляет доступ к API некоторым компаниям бесплатно; в тестах классификатор помечал на 48% меньше изображений при обнаружении того же числа злоупотреблений, а помеченные изображения вдвое чаще оказывались действительно вредоносными.
  2. Компания также добавила предупреждения в ChatGPT и 24-часовые временные блокировки за попытки получить сексуализированный контент о детях, опубликовала рекомендации для разработчиков по предотвращению и отчетности CSAM и представила инструменты, обучение и руководство для правоохранителей в сотрудничестве с NCMEC, Tech Coalition и другими партнерами.
  3. Релиз предоставляет инструменты, которые должны сократить нагрузку модераторов и улучшить обнаружение реального и ИИ-сгенерированного CSAM, а также расширить возможности разработчиков и правоохранителей по предотвращению и реагированию на злоупотребления.

ПОЧЕМУ ЭТО ВАЖНО

Релиз предоставляет инструменты, которые должны сократить нагрузку модераторов и улучшить обнаружение реального и ИИ-сгенерированного CSAM, а также расширить возможности разработчиков и правоохранителей по предотвращению и реагированию на злоупотребления.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1