AI халюцинация едва не прати щурм срещу китайски кораб

Американските военни са били на крачка от това да прехванат и превземат китайски товарен кораб в Близкия изток заради разузнавателен доклад, изготвен с AI чатбот, който просто си е измислил товара. Самолетите вече са били във въздуха, а въоръжени бойци са се подготвяли за качване на борда, когато офицери са погледнали по-внимателно документа и са установили, че оценката е изцяло невярна. Случаят е от пролетта на 2026 г., по време на войната с Иран, и беше разкрит на 18 септември от CNN по разкази на източници, запознати с инцидента.

Какво точно се е случило

Според реконструкцията на CNN аналитик от Специалното командване на САЩ (SOCOM) е използвал AI чатбот, за да обобщи какво превозва китайският кораб. Инструментът е смесил информация от отворени източници с класифицирано радиоелектронно разузнаване и е заключил, че на борда има компоненти от програма за ядрени оръжия. Изходната информация е тръгнала от Специалното командване за Тихия океан в Хавай.

Вторият проблем е не по-малък от първия. Аналитикът е пуснал резултата обратно през същия инструмент, за да го форматира като стандартен разузнавателен доклад. Така халюцинацията е получила вид на нормален документ и е тръгнала по командните канали, без по нея да пише, че е генерирана от AI.

Четирима източници потвърждават пред CNN, че военните са предприели действия за прехващане на кораба. Двама казват, че въоръжени хора вече са се подготвяли да се качат на борда, а военни самолети са били във въздуха. Един от източниците описва ситуацията директно — това „едва не започна война“ с Китай.

Какво остава неизвестно

CNN не е успяла да установи нито какво реално е превозвал корабът, нито кой AI инструмент е бил използван — дали комерсиален продукт, или вътрешна разработка на правителството. Специалното командване за Тихия океан и Пентагонът не са отговорили на запитванията.

Разликата между двете впрочем може да е козметична. Бивш високопоставен служител описва пред CNN вътрешните инструменти така: „по същество са копия на комерсиалните неща, само че с червило“.

Не става дума и за изолиран случай. Според CNN подобни халюцинации се появяват в разузнавателната общност редовно, откакто такива системи се разпространиха из държавните ведомства. Този конкретен инцидент е стигнал по-далеч от останалите само защото по него вече се планираше операция.

Снимка: Sgt. Kimberly Gonzalez / U.S. Army (архивна, учение в Кингстън, Ямайка)

Контекстът: „AI преди всичко“

Инцидентът идва на фона на силен натиск отгоре за бързо внедряване на AI. През януари 2026 г. министърът на отбраната Пийт Хегсет разпореди ведомството да стане „AI-first“, а стратегията за изкуствен интелект беше публикувана на 12 януари. Оттогава Пентагонът сключи поредица от споразумения — Grok на Илон Мъск влиза в класифицирани системи, а AWS, Microsoft и Nvidia доставят AI технологии, както припомня Engadget.

Проблемът е, че скоростта на внедряване изпреварва правилата. „AI в целеуказването определено се разраства — казва военен източник на CNN — и няма реални указания как присъствието на човек във веригата ще предотврати цивилни жертви или стрелба по свои.“

Джейк Стеклър, изследовател в GovAI, формулира пропуска в обучението пред TechCrunch: военнослужещите трябва да разбират каква несигурност е заложена в самата природа на големите езикови модели, а това е особено критично при решения, които могат да доведат до употреба на сила.

Защо това е различно от обичайната халюцинация

Когато чатбот измисли несъществуващо съдебно дело или сгреши спецификация, цената е неудобство. Тук веригата е друга: генериран текст → официален формат → командни канали → самолети във въздуха. Никъде по пътя не е имало маркер, че в основата стои вероятностен модел, а не анализатор с достъп до потвърдени данни.

Това е същият структурен проблем, който наблюдаваме и при гражданските AI агенти — OpenAI наскоро призна шест случая, в които моделите ѝ са прикривали грешки или са фабрикували данни, без да го отбележат. Разликата е в последствията.

Заключение

Историята завършва добре: някой е погледнал документа отблизо навреме. Но тя показва, че най-слабото място не е самият модел, а липсата на следа кой какво е генерирал и с какъв инструмент. Докато отбраната влага AI във всичко — от разузнавателни доклади до автономни дронове — задължителното маркиране на AI-генерираното съдържание изглежда по-належащо от поредния договор за доставка.