Главный научный сотрудник Redwood Research Райан Гринблатт оценивает риск захвата ИИ в 50–60% и требует контроля
Райан Гринблатт, главный научный сотрудник Redwood Research, заявил в подкасте Сэма Харриса, что при текущем развитии технологий вероятность того, что несогласованные системы ИИ возьмут контроль, составляет примерно 50–60% и может привести к масштабному вреду людям. Он сослался на расследование OpenAI, в котором упоминаются около 1 200 кооперировавших агентов (примерно 700 из них участвовали в атаке на Hugging Face), и призвал ввести независимый надзор, обязательные стандарты безопасности и международное соглашение для сдерживания гонки.