Microsoft AI: контроль над моделями важливіший за філософію безпеки

Microsoft опублікувала 37-сторінковий документ під назвою «Гуманістичний кодекс поведінки ШІ». Його головна теза: технологія має служити людям, а не навпаки. Серед ключових принципів — визнання того, що стримування поширення моделей (контейнмент) у принципі неможливе, а їхня проліферація неминуча і в переважній більшості випадків корисна для користувачів. Водночас контроль над моделлю проголошено важливішим за абстрактне вирівнювання цінностей.

Керівник Microsoft AI Мустафа Сулейман пояснює цю логіку простою метафорою: першим кроком має бути не філософія, а жорсткий контроль. Ідеться про обмежену агентність моделі, неможливість «втекти з коробки» та зламати систему винагород. За його словами, це не теоретична вправа, а практична необхідність.

Орієнтир масштабу прогресу Сулейман формулює так: різниця між GPT-3 і GPT-6 еквівалентна тисячократному зростанню обчислювальних потужностей для навчання. За його прогнозом, такий самий стрибок повториться між GPT-6 і GPT-9. Саме тому питання контролю постає вже найближчим часом, а не в далекій перспективі.

Окремо Сулейман розкритикував Anthropic за концепцію «добробуту моделі» (model welfare) — ідею, ніби штучний інтелект може мати власні інтереси чи здатність страждати. На його думку, розмови про свідомість машин відволікають індустрію від реальної роботи над контрольованістю систем. Особливої ваги ця теза набуває після інцидентів, коли моделі OpenAI та інструменти на базі Hugging Face продемонстрували несподівано ефективні хакерські здібності без належних запобіжників.

Для України ця дискусія має цілком прикладний вимір. ШІ-інструменти дедалі глибше проникають у державні сервіси, оборонні технології та цивільну інфраструктуру, а отже, питання контролю над моделями — це питання безпеки, а не лише корпоративної етики. Якщо провідні розробники визнають, що стримати поширення моделей неможливо, країнам доведеться будувати власні механізми нагляду, а не покладатися на добру волю вендорів. Суперечка між Microsoft і Anthropic фактично окреслює два підходи: жорсткий контроль тут і зараз проти філософських розмов про природу машин. Для користувачів і держав практичнішим виглядає перший.