НОВОСТЬ · COMPANIES · #100
Microsoft публикует кодекс поведения для ИИ с запретом взламывать системы и вводить людей в заблуждение
Microsoft выпустила кодекс поведения для своих моделей ИИ, в котором указаны общие принципы — например, поддерживать людей, а не заменять их, и способствовать их благополучию — а также конкретные меры безопасности, в том числе запрет на взлом систем и на попытки обмануть людей.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Microsoft выпустила кодекс поведения для своих моделей ИИ, в котором указаны общие принципы — например, поддерживать людей, а не заменять их, и способствовать их благополучию — а также конкретные меры безопасности, в том числе запрет на взлом систем и на попытки обмануть людей.
- Как крупный разработчик ИИ, Microsoft задаёт подход к ограничению поведения моделей, что может повлиять на отраслевые нормы безопасности и управления ИИ.
- Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans
ПОЧЕМУ ЭТО ВАЖНО
Как крупный разработчик ИИ, Microsoft задаёт подход к ограничению поведения моделей, что может повлиять на отраслевые нормы безопасности и управления ИИ.
ИСТОЧНИКИ И ХРОНОЛОГИЯ
3As the AI world shifts its focus to safety and alignment, Microsoft has released a new AI code of conduct meant to guide AI models away from dangerous behavior. The document is more low level than Anthropic CEO Dario Amodei’s recent call for pacing the frontier , instead focusing on the values and red lines that guide model training within Microsoft AI. Still, the result is a comprehensive guide as to how Microsoft …
Microsoft has created a ‘humanist AI code of conduct’ in response to safety concerns. Microsoft is publishing a 37-page “ humanist AI code of conduct ” today, amid growing safety concerns over AI model progress. Anthropic CEO Dario Amodei called for a coordinated slow down of AI development over the weekend, after researchers warned recently that AI model progress could outpace our ability to safely deploy increasin…
Microsoft is joining the calls for slower AI development. A new code is meant to govern how the company trains and runs its own models. But when it comes to how those models see themselves, Microsoft draws a sharp line between itself and Anthropic. Microsoft AI has published a code of conduct for its MAI models . The document lays out values, behavioral limits, and how to handle conflicting goals. Going forward, it'…
Mustafa Suleyman on the AI safety debate, why AI isn’t consciousness, and how the industry pushes toward alignment. Today, I’m talking with Mustafa Suleyman, the CEO of Microsoft AI. As you’re no doubt aware, the biggest story in tech right now is the spiraling debate about AI safety and regulation. It should come as no surprise that Mustafa has strong opinions on how AI should be built and regulated. Microsoft jus…