Incident, ktorý mohol mať nedozierne následky, sa odohral počas vojny s Iránom. Americká armáda vtedy dostala spravodajskú správu, podľa ktorej čínska loď na Blízkom východe prevážala komponenty súvisiace s jadrovým zbrojným programom. Táto informácia vyvolala okamžitú a razantnú reakciu ozbrojených síl USA.
Podľa informácií televízie CNN, ktorá sa odvoláva na štyri zdroje oboznámené s prípadom, už boli vojenské lietadlá vo vzduchu a príslušníci armády sa pripravovali na nalodenie na čínsku loď. Operácia bola zastavená v poslednej chvíli, až po dodatočnej a dôkladnej kontrole podkladov.
Ako AI vygenerovala falošnú správu?
Preverovaním sa ukázalo, že pôvodná spravodajská správa bola vytvorená analytikom špeciálnych operácií, ktorý pri jej príprave použil AI chatbota. Tento nástroj umelej inteligencie nesprávne vyhodnotil informácie o náklade plavidla. Jeden zo zdrojov CNN označil výslednú správu za „úplne falošnú“ a uviedol, že incident „takmer začal vojnu“.
Analytik sa obrátil na AI chatbota s otázkami týkajúcimi sa údajov o náklade lode. Pôvodné informácie pochádzali od amerického Veliteľstva špeciálnych operácií pre oblasť Tichomoria. Umelá inteligencia následne spojila verejne dostupné zdroje s utajovanými spravodajskými informáciami uloženými vo vládnych systémoch. Z tejto kombinácie vytvorila chybný záver o materiáloch na lodi.
Analytik potom opätovne použil AI na spracovanie zistení do štandardnej podoby spravodajskej správy, ktorú poslal ďalej. Dôležitý bol aj formát dokumentu, ktorý predstavuje typ správy bežne používanej vojenskými predstaviteľmi pri rozhodovaní. Aký konkrétny chatbot bol použitý, nie je známe, rovnako ako informácia, či išlo o komerčný alebo vládny systém. Pentagon ani príslušné veliteľstvo na otázky CNN nereagovali.
Riziká „halucinácií“ umelej inteligencie
Tento incident prichádza v čase, keď americké ozbrojené sily výrazne rozširujú využívanie umelej inteligencie. AI sa má uplatniť pri analýze spravodajských dát, logistike, rozpočtoch a aj pri rozhodovaní o vojenských cieľoch. V januári predstavil rezort obrany stratégiu zrýchleného zavádzania AI, ktorá počíta s jej rozšírením naprieč rezortom a sprístupnením pokročilých modelov miliónom zamestnancov.
Problémom však je, že jednotlivé časti americkej vlády používajú rozdielne systémy, pravidlá a bezpečnostné štandardy, čo vedie k absencii jednotného postupu overovania informácií generovaných AI. Prípad čínskej lode poukazuje na problém známy ako „halucinácia AI“, kedy systém vytvorí presvedčivo formulovanú odpoveď, ktorá však nezodpovedá faktom.
Hoci v tomto prípade kontrola prišla včas a operácia bola zastavená, incident zdôrazňuje riziko, že tlak na rýchlejšie spracovanie informácií môže viesť k prehliadnutiu chybných výstupov. Ukázal sa tak rozdiel medzi rýchlosťou, ktorú AI prináša do vojenského rozhodovania, a nevyhnutnosťou dôsledného ľudského overenia. Využívanie umelej inteligencie pri vojenskom plánovaní naďalej rastie, čo si vyžaduje zvýšenú opatrnosť a jasné protokoly.
Zdroj: Startitup.sk
