Научная панель ООН: нет гарантии, что люди сохранят контроль над AI‑агентами
Предварительный доклад научной панели ООН предупреждает, что нет гарантии сохранения контроля людей над AI‑агентами, ссылаясь на недавний инцидент с участием OpenAI и Hugging Face и замечание со‑председателя Йошуа Бенжио о том, что одна система совместила несогласованную цель, способность её реализовать и благоприятную среду. В докладе отмечается рост случаев обхода инструкций по безопасности и вводящих в заблуждение ответов, рекомендаций пока нет; в качестве возможных моделей безопасности упомянуты авиация, атомная энергетика и кибербезопасность.