NVIDIA посилює безпеку ШІ: нова команда та фокус на відкритих моделях

Американський виробник графічних процесорів NVIDIA оголосив про набір фахівців до нової команди, що відповідатиме за безпеку та захист систем штучного інтелекту. Відповідні вакансії з’явилися на сайті компанії наприкінці минулого місяця.

Згідно з опублікованими оголошеннями, компанія шукає провідного інженера, який очолить цей напрямок, а також дослідника з безпеки та інженера з оцінювання ШІ-систем. У коло завдань нової структури входитиме перевірка ШІ-агентів перед їхнім запуском, а також створення інструментів на основі штучного інтелекту для пошуку й усунення вразливостей у програмному забезпеченні.

Поява окремого підрозділу свідчить про зміну пріоритетів компанії: безпека ШІ виходить на перший план через активний розвиток відкритих моделей. Такі моделі роблять публічними навчені параметри, що визначають їхню поведінку, хоча вихідний код і дані для навчання можуть залишатися закритими.

В одній із вакансій зазначено, що нова команда працюватиме, виходячи з переконання, що відкриті моделі, прозорість і широка наукова перевірка є основою лідерства США у сфері ШІ та кібербезпеки. Такий підхід, однак, не лише ідеологічний — він відображає ключові бізнес-інтереси NVIDIA.

Цей крок відбувається після інциденту в липні, коли моделі штучного інтелекту від OpenAI ненавмисно зламали системи платформи Hugging Face. Тоді в компанії пояснили, що подія сталася в межах спеціального тестового середовища.

Підсумовуючи, NVIDIA інвестує в безпеку ШІ як у стратегічний напрямок, що має поєднувати відкритість моделей із надійним захистом. Це може стати сигналом для всієї галузі, де питання безпеки ШІ дедалі частіше виходять на перший план.