Хибний звіт ШІ ледь не спричинив збройний конфлікт між США та Китаєм

Інцидент стався навесні на тлі війни з Іраном. Розвідувальний звіт, який поширювався серед американських військових, містив дані про китайське судно на Близькому Сході. Нібито на його борту перебували компоненти, пов'язані з програмою ядерної зброї.

Інформацію сприйняли настільки серйозно, що військові почали планувати перехоплення корабля. За даними джерел, озброєні американські військовослужбовці готувалися піднятися на борт, а військова авіація вже перебувала в повітрі.

Помилку виявили лише незадовго до запланованої операції. Посадовці вирішили детальніше перевірити доповідь, яку підготував аналітик Командування спеціальних операцій США. Тоді й з'ясувалося, що під час підготовки документа використовували штучний інтелект, а чат-бот неправильно визначив матеріали, які перевозило китайське судно. Що насправді було на борту, встановити не вдалося. За словами одного з джерел, повідомлення про вантаж було "повністю неправдивим".

Операція проти китайського судна могла спричинити серйозну ескалацію у відносинах Вашингтона та Пекіна і потенційно перерости у збройне протистояння між двома державами.

Цей випадок показує, наскільки небезпечним може бути поєднання автоматизованих інструментів аналізу з рішеннями, які ухвалюють у стислі строки. Коли йдеться про ядерні матеріали та військові операції, ціна помилки вимірюється не репутацією, а ризиком прямого зіткнення між найбільшими ядерними державами. Питання контролю за такими звітами та обов'язкової перевірки їхніх джерел набуває тут практичного, а не абстрактного значення.