Microsoft встановила «червоні лінії» для ШІ: що це змінить

У документі Microsoft визначає цінності та «червоні лінії», якими компанія керується під час навчання ШІ-моделей, а також описує свій підхід до безпеки штучного інтелекту та те, як ці принципи втілюють на практиці.

Кодекс відкривається прогнозом, що впродовж наступного десятиліття надрозумні ШІ-системи можуть перевершити людину в більшості завдань. На думку Microsoft, контроль над такими системами стане одним із найскладніших викликів для людства, тож розробники мають чітко усвідомлювати мету їх створення і принципи керування ними.

Серед принципів, яких мають дотримуватися моделі компанії, — підтримувати людей, а не замінювати їх, та сприяти людському розвитку. До «абсолютних обмежень» віднесено кібератаки, створення ядерної зброї та виробництво дипфейків. Окремо наголошується, що моделі Microsoft не застосовуватимуть адаптивні, оманливі чи самопідсилювальні механізми або інші способи обходу людського нагляду, через які уповноважені люди чи системи більше не зможуть надійно керувати ними чи змінювати їх.

Поява кодексу припала на період безпрецедентної уваги до безпеки штучного інтелекту. Її спровокували інциденти з неконтрольованими ШІ-агентами та раптове звільнення співробітника Anthropic, який попереджав, що швидкий розвиток ШІ може призвести до знищення людства. Після цього очільник Anthropic Даріо Амодей, гендиректор OpenAI Сем Альтман і засновник SpaceXAI Ілон Маск закликали уповільнити розвиток передових ШІ-моделей. Зокрема, вони виступили за допуск незалежних оцінювачів до лабораторій ШІ.

Гендиректор Microsoft Сатья Наделла підтримав цю концепцію в дописі на платформі X, закликавши також до ширших зусиль із розробки механізмів, які ведуть до реальних дій. Водночас президент США Дональд Трамп у відповідь на заклики сповільнити розвиток ШІ заявив, що вважає невтішні попередження перебільшеними і що «негативні сили» роблять заяви про те, чого ніколи не станеться.

Для України ці процеси мають цілком практичний вимір. Держава, бізнес і розробники дедалі частіше використовують ШІ-інструменти — від аналітики до комунікацій, — і саме тому питання, хто і за якими правилами задає «червоні лінії», впливає на те, які сервіси будуть доступні та на яких умовах. Публічні кодекси провідних компаній стають орієнтиром для національного регулювання: вони підказують, які обмеження вважаються базовими, а які ще залишаються предметом суперечок між розробниками та політиками.

Підсумок: Microsoft формалізувала межі дозволеного для своїх ШІ-систем, але сам документ — лише один крок у ширшій суперечці про те, як швидко розвивати штучний інтелект і хто має контролювати цей процес.