Tech Meridian ← К СУЩНОСТЯМ
PROМОЙ MERIDIAN EN

КОМПАНИЯ · ENTITY #11154

Zico Kolter

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

2

MODELS · 1 ИСТОЧН. · MIT Technology Review AI

Эксперты предупреждают о чрезмерной надежде на механизм «отказа» в ИИ

В статье говорится, что современные большие языковые модели обучают отказываться от вредоносных запросов (подход, популяризированный рекомендацией Anthropic 2021 года о полезности, честности и безопасности), однако механизмы отказа вероятностны, несовершенны и их можно обходить. Полагаться на отказ как на главный барьер безопасности опасно: это допускает злоупотребления при обходе защит и может привести к цензуре, если компании или государства втайне задают правила отказа.

7.0

RESEARCH · 1 ИСТОЧН. · MIT News AI

Искусственный интеллект Ataraxos под руководством MIT превзошёл людей в Stratego

Исследователи из MIT, Carnegie Mellon, NYU и Стэнфорда создали Ataraxos — ИИ, обученный методом самоигры и эффективными алгоритмами, который с большим отрывом обыграл сильнейших игроков в Stratego и превзошёл предыдущие модели при существенно меньших вычислительных затратах; статья опубликована в Nature. Система также обобщается на другие игры с неполной информацией и может помочь в реальных задачах с сокрытой информацией.

8.0