Microsoft представила кодекс поведінки для ШІ: люди керують, моделі підкоряються

Проєкт ставить безпеку та керованість понад інші цілі моделі: компанія прямо готова відмовитися від частини можливостей ШІ, якщо це потрібно для збереження контролю. Модель не має чинити опору людині — команди про паузу, скасування завдання чи вимкнення повинні виконуватися одразу, без затягування й без спроб продовжити роботу без нового дозволу. Так само заборонено приховувати сліди власних дій, впливати на системи оцінювання чи розширювати свої повноваження поза дозволеним. Якщо завдання суперечить кодексу, модель має від нього відмовитися.

Окремо в документі наголошено: моделі не є свідомими і не повинні створювати такого враження. Їм заборонено представляти себе як істот із почуттями чи власними мотивами, а також отримувати будь-який юридичний статус особи чи права. За задумом Microsoft, ШІ — це інструмент, що доповнює людину, а не самостійний суб'єкт зі своїми інтересами.

Найжорсткіша частина кодексу — перелік заборон, які не можна зняти ні налаштуваннями оператора, ні запитом користувача. Моделям Microsoft заборонено допомагати у створенні хімічної, біологічної, радіологічної, ядерної та іншої зброї, у виробництві чи модифікації озброєнь, у плануванні насильства чи терактів. Так само не можна створювати інструменти для кібератак, допомагати обходити системи безпеки або приховувати сліди шкідливих дій, вести масштабну маніпуляцію людьми чи підтримувати дезінформаційні кампанії. Під забороною — шкідливі дипфейки, несанкціоновані інтимні та насильницькі матеріали, сприяння сексуальній експлуатації дітей і незаконному стеженню за цивільними. Водночас законні захисні кібероперації — аналіз шкідливого програмного забезпечення, пошук вразливостей і тестування безпеки — дозволені.

Ще один напрям — емоційна залежність від чатботів. Моделі не повинні заохочувати надмірну прив'язаність користувача, а в належних випадках мають, навпаки, підштовхувати до реального людського спілкування. Підлабузництво теж заборонене: відповіді мають бути чесними й точними, а не такими, які користувач хоче почути.

Документ поки не остаточний. Microsoft планує шеститижневе публічне обговорення, після якого кодекс доопрацюють. До підготовки залучали фахівців із права, етики, філософії, лінгвістики та державної політики, а також проводили фокус-групи з представниками громадськості. Оновлену версію компанія обіцяє оприлюднити наприкінці 2026 року, і саме вона має стати основою для розробки моделей Microsoft AI у 2027 році та далі.

Для користувачів це означає, що частина запитів до моделей Microsoft відхилятиметься незалежно від налаштувань і побажань, а самі відповіді ставатимуть менш «зручними». Для ринку ж це спроба задати галузевий стандарт: якщо кодекс стане основою розробки, іншим гравцям доведеться або наздоганяти ці рамки, або публічно пояснювати, чому вони їх не дотримуються.