Научная панель ООН призывает немедленно ввести меры безопасности для ИИ, ссылаясь на принцип предосторожности
Независимая международная научная панель по ИИ — новый глобальный научный орган ООН — опубликовала первую тематическую записку, в которой призывает правительства немедленно вводить более жесткие меры безопасности и международную координацию по вопросам развития ИИ, утверждая, что принцип предосторожности оправдывает действия даже при научной неопределенности; в документе упоминаются инциденты, включая взлом Hugging Face, связанный с OpenAI, и другие сбои агентных систем. Документ выносит проблему безопасности ИИ на дипломатическую повестку ООН на фоне встреч лидеров в Нью-Йорке и переговоров США и Китая по ИИ.