Дар ҳафтаҳои пеш аз Мавлуди соли гузашта, дар болои биёбони дурдасти Австралияи Ҷанубӣ, як буридаи хурди таърихи авиатсия ва AI сохта шудааст.
Ghost Bat – як ҳавопаймои сохти Австралия, ки тақрибан аз се ду ҳиссаи як ҳавопаймои ҷангии муқаррариро ташкил медиҳад, ҳадафро бо мушаки ҳаво ба ҳаво партоб кард.
Чизи чолиби диццат лётчики он буд.
Кӯршапалаки арвоҳ мустақил аст. Ҳеҷ одаме нест, ки онро аз кабина идора мекунад ва ё пилоти бесарнишин дар замин дар паси джойстик.
Ин як назаре ба ояндаи ҷанг аст, ки зеҳни сунъӣ дар омодагӣ, банақшагирӣ ва анҷом додани зарбаҳои низомӣ нақши хеле бештар мебозад.
Ghost Shark, ба монанди ҳамтои ҳавоии худ, инчунин зеҳни сунъиро қабул мекунад. (Таъминшуда: Департаменти мудофиаи Австралия)
Ва ин беназир нест – дронҳои мусаллаҳ дар Украина бо “миникомпютерҳои” пуриқтидор ва мавҷгирҳои намоён пайдо мешаванд, ки нерӯҳои Украинаро водор мекунанд, ки онҳо ба хулосае омаданд, ки онҳо тақрибан аз ҷониби AI идора карда шудаанд.
Ва Украина дронҳои сунъии худро дорад, ки масирҳои асосии таъмини Русияро ҳадаф қарор медиҳанд.
Чанде пеш вазири дифоъ Ричард Марлес ба Иёлоти Муттаҳида парвоз кард, то шахсан бо намояндагони ширкатҳои ба мисли OpenAI, Anthropic, Microsoft ва Google мулоқот кунад, ки моделҳои онҳо ба куҷо мераванд.
Нерӯи дифои Австралия яке аз бисёриҳо дар саросари ҷаҳон аст, ки барои омӯхтани роҳи беҳтарини ҳамгироии AI ба бисёре аз корҳое, ки он мекунад, аз арзёбии зудтари иктишофӣ то платформаҳои озмоишӣ бо борҳои марговар.
Ва он кор карда истодааст, ки чӣ гуна посбонҳо бояд гузошта шаванд ва эътироф мекунанд, ки дар ҳоле ки AI бояд нақш бозад, одамон ҳангоми кашидани триггерҳо ба сухани ниҳоӣ ниёз доранд.
AI (як навъ) парвоз мекунад
Ҳавопаймоҳо ба монанди Ghost Bat ва ҳамтои зериобии он, Ghost Shark (як киштии зериобии худмухтор) аломатҳои намоёни зеҳни сунъӣ мебошанд, ки дар Қувваҳои Мудофиаи Австралия (ADF) қабул карда мешаванд.
Нерӯҳои Ҳавоии Шоҳии Австралия (RAAF) Ghost Bat-ро ҳамчун “як роҳнамо барои ҳамгироии системаҳои автономӣ ва зеҳни сунъӣ барои эҷоди дастаҳои интеллектуалии инсон-мошин” тавсиф мекунад.
Аммо маршали ҳавоӣ Стивен Чаппел, сардори Қувваҳои Ҳавоӣ, қайд мекунад, ки баъзе маҳдудиятҳои барқасдона дар мағзи сарпӯши Рӯҳулкудс вуҷуд доранд.
“AI дар тарҳрезӣ ва таҳияи Ghost Bat иштирок кардааст, аммо он аз AI кор намекунад. Он аз рӯи барномасозии детерминистӣ кор мекунад” гуфт ӯ.
“Ҳамин тавр, мо тавассути санҷиши рақамии дугоникҳо бо дастгирии AI тарҳрезӣ кардем, ҳамагӣ ҳазорҳо ва ҳазорҳо вариантҳоро барои [Ghost Bat] гирифтан.
“Ва он яке аз ин вариантҳоро интихоб мекунад, аммо мо аниқ медонем, ки ин вариант чӣ гуна иҷро мешавад.”
Вай гуфт, ки соли гузашта дар озмоиши озмоишӣ, як операторе, ки дар як ҳавопаймои E7 Wedgetail ҷойгир аст, аввал ба Ghost Bat гуфта буд, ки ҳадафро ҷалб кунад, аммо системаи ҳавопаймо баъдан нақшаеро таҳия кард, ки чӣ гуна беҳтар кардани ин корро анҷом диҳад.
Бо вуҷуди ин, оператори E7 пеш аз сар додани мушак иҷозати ниҳоӣ дод.
“Ин худ нақшаи бозии худро таҳия намекунад. Аз ин рӯ, мо итминони комил дорем, ки он чӣ кор хоҳад кард ва чӣ кор намекунад”
гуфт у.
“Ва ин воқеан аз нуқтаи назари ҳуқуқӣ ва ахлоқӣ муҳим аст.”
Ричард Марлес дар якҷоягӣ бо Стивен Чаппелл, ки “маҳдудиятҳои барқасдона” -ро дар бораи Ghost Bat равшан мекунад. (Пешниҳодшуда: Вазорати мудофиа)
AI аллакай нишон медиҳад
Дар ҳоле ки ADF ҳоло ҳам аз бисёр ҷиҳат истифодаи беҳтарини AI-ро меомӯзад, технология аллакай дар ҷойҳои дигар ба таври назаррас қабул карда мешавад.
Истифодаи зеҳни сунъии Исроил дар ҷараёни маъракаи худ дар Ғазза таваҷҷӯҳро ба худ ҷалб кардааст.
Таҳлили Пажӯҳишгоҳи Байналмилалии Таҳқиқоти Стратегӣ (IISS) мегӯяд, ки истифодаи AI дар ҷангҳои Исроил пас аз ҳамлаҳои террористии 7 октябр ва оғози ҷангаш дар Ғазза “ба таври экспоненсиалӣ” афзоиш ёфтааст.
Гузориши нашрияи пешрафтаи исроилӣ +972 Маҷалла пешниҳод кардааст, ки як абзори таҳлилии сунъӣ бо номи Лаванда дар чанд ҳафтаи аввали ҷанг барои таҳияи феҳристи 37 000 нафар, ки гумонбар мешаванд, амалиёти низомии Ҳамос ё Ҷиҳоди исломии Фаластин ҳамчун ҳадафҳои эҳтимолии ҳамлаҳои ҳавоӣ истифода шудааст.
Исроил пешниҳодҳоро дар бораи истифодаи абзори AI, ки “амалиёти террористиро муайян мекунад ё кӯшиш мекунад, ки террорист будани шахсро пешгӯӣ кунад” рад кард ва гуфт, дар ҳоле ки системаҳои иттилоотӣ дар муайян кардани ҳадаф истифода мешаванд, таҳлилгарон бояд “имтиҳони мустақил” гузаронанд.
Таҳлили IISS нишон медиҳад, ки дар ҳоле ки истифодаи чунин системаҳо имкон дод, ки қарорҳои зудтар қабул карда шаванд, он инчунин хатари хатогиҳоро зиёд кардааст, зеро ҳадафҳо зудтар муайян карда мешаванд, ки одамон метавонанд онҳоро арзёбӣ кунанд.
Моҳи гузашта Созмони Милали Муттаҳид ва Кумитаи Байналмилалии Салиби Сурх (КБСС) як даъвати муштаракро барои манъи силоҳҳои худмухтор, ки “пешгӯӣ кардан ғайриимкон аст” ё ҳадафи инсонҳо қарор додаанд, интишор карданд.
Ин ду ниҳод изҳори нигаронӣ карданд, ки “қарорҳои ҳаёту мамот тавассути мошинҳо қабул карда мешаванд”.
Мушовири ҳуқуқии КБСС Ҷорҷия Ҳиндс гуфт, дар ҳоле ки пешрафтҳо ба монанди AI ва силоҳи автономӣ дар ҷанг аксар вақт ваъда медиҳанд, ки онҳо ба маҳдуд кардани талафоти ғайринизомиён кӯмак мекунанд, аксар вақт чунин ба назар мерасид, ки баръакс дуруст аст.
“Мо мушоҳидаи муноқишаҳоеро идома медиҳем, ки ба сатҳи ғайриқобили қабули зарари ғайринизомӣ оварда мерасонанд ва ин дар баъзе аз низоъҳоест, ки аз ҷиҳати технологӣ мукаммалтарин василаҳои ҷанг доранд” гуфт ӯ.
Як нишаст дар сари мизи фармон
Нигарониҳо дар бораи ҷалби одамон дар қабули қарорҳои AI аз онҳое, ки триггерро самаранок нигоҳ медоранд, то ба онҳое, ки дар атрофи мизи пурқуввати Defence нишастаанд, паҳн мешавад.
Гарчанде ки ҳавопаймоҳо ба монанди Ghost Bat як аломати ҷисмонии қабули AI дар дохили Мудофиа мебошанд, коршиносон бар ин назаранд, ки таъсири бузургтар воқеан ноаён аст.
Ин истифодаи AI барои огоҳ кардани қабули қарорҳои интиқодӣ, таҳлили иктишофӣ ва пешниҳоди тавсияҳое мебошад, ки пеш аз онҳое, ки барои зангҳои муҳимтарин вазифадор шудаанд.
Айна Туриллаззи аз Маркази тадқиқоти стратегӣ ва дифоии Донишгоҳи миллии Австралия гуфт, дар ҳамон ҷо ҷаҳиши воқеӣ сурат мегирад.
“Аксари корҳое, ки AI дар артиш мекунад, дар болооби ҳама гуна силоҳ аст” гуфт ӯ.
“Ин бештар дар бораи гирд овардани тасвири вазъият аст, ки инсон баъдан дар бораи он қарор қабул мекунад.”
Вай ба қабули технологияи ADF ишора мекунад, ба монанди системаи Maven Smart Palantir, ки боиси ихтилоф дар робитаҳои сиёсии муассисони он ва нигарониҳо дар бораи соҳибихтиёрии додаҳо шудааст.
Таҳлилгари аршади Пажӯҳишгоҳи сиёсати стратегии Австралия Малколм Дэвис нақшеро тавсиф кард, ки технологияе ба мисли Мэвен Смарт аллакай дар низоъҳо, аз ҷумла ҷанги ИМА ва Эронро ҳамчун “фармондеҳи кремний” бозӣ мекард.
“Онҳо қодиранд, ки фазои ҷангро хеле зуд арзёбӣ кунанд, шумораи кормандонро барои омода кардани фармоишҳо ва таҳлилҳо кам кунанд ва ин равандро зудтар иҷро кунанд, назар ба он чизе, ки бидуни AI имконпазир аст” гуфт ӯ.
ADF қаблан ба парлумон гуфта буд, ки Maven Smart то ба ҳол дар “қуттии қум” – яъне дар муҳити пӯшида истифода мешуд ва ба шабакаҳои васеи дифоъ пайваст нашудааст.
Мисолҳое мавҷуданд, ки зеҳни сунъӣ аз муҳитҳои “қуттии қум” хориҷ мешаванд, махсусан ҳодисаи Hugging Face, ки дар он садҳо агентҳои AI якҷоя кор карда буданд, то аз муҳити худ берун шаванд ва як ширкати дигарро ҳакер кунанд.
Вақте ки AI ба тасвири арзёбӣ ва қабули қарорҳо ворид мешавад, аллакай нигарониҳо дар бораи вобастагии аз ҳад зиёд ба қудрати бузурги он вуҷуд доранд.
Чӣ тарси ҳастаии замони шӯравӣ метавонад ба мо дар бораи AI таълим диҳад
Хонум Туриллаззӣ ба саргузашти Станислав Петров, подполковники шӯравӣ ишора мекунад, ки дар соли 1983 ҷаҳонро аз фалокати эҳтимолии ҳастаӣ дур кард.
Вақте ки системаҳои огоҳкунанда, ки ӯ назорат мекард, ҳушдорҳоро дар бораи ҳамлаи ногузири ҳастаии Иёлоти Муттаҳида баланд медошт, қарори Петров дар бораи таваққуф ва таҳқиқи ҳушдори бардурӯғ аз сар задани ҷанги тасодуфии ҳастаӣ пешгирӣ кард.
Чунон ки маълум мешавад, датчикхои спутники замони советй нури офтобро дар абрхо чун изи алангаи мушакхои баллистикии байникитъавй иштибох кардаанд.
Хонум Туриллаззи гуфт, ки тасмими муҳими Петров дар бораи таваққуф ва арзёбӣ, ба ҷои қабули кӯр-кӯрона огоҳиҳои автоматӣ, дар даврони зеҳни сунъии хеле тавонотар муҳимтар аст.
“Петров дуруст буд. Хавфи дастгирии қарорҳои AI дар он нест, ки мошин кор намекунад, балки он аст, ки одамон дар зери фишор арзёбии далелҳоро қатъ мекунанд ва танҳо ба тасдиқи тавсия ё далелҳо шурӯъ мекунанд” гуфт ӯ.
Вай гуфт, ки ин ба хатари ғарази автоматикунонӣ ишора мекунад – онҳое, ки таҳлили AI-ро тафсир мекунанд, нисбат ба доварии худ, ҳатто ба таври худкор, вазни бештаре медиҳанд.
Ва ӯ гуфт, ки хатарҳо дар муҳити низоъ, ки аз ҳарвақта зудтар ҳаракат мекунанд, дар он ҷо суръат баланд мешавад.
“Ҳамон фишоре, ки ҳар рӯз дороиҳост, дар вазъияти бӯҳронӣ ба масъулият табдил меёбад” гуфт ӯ.
“Агар ҳушдорҳо зудтар ҳаракат кунанд, ки дипломатҳо онҳоро аз худ карда метавонанд ё тасмимгирандагон онҳоро аз худ кунанд, роҳбарон пеш аз пурра шудани тасвири иктишофӣ дар бораи омодагӣ қарор қабул мекунанд.“
Вай ба муқобили интуитивӣ гуфт, вақте ки саҳмияҳо баландтар буданд, раванди қабули қарорҳо бояд суст карда шавад.
“Ҳар як системаи дастгирии қарорҳои AI, ки барои банақшагирӣ ё ҳадафгирӣ истифода мешавад, бояд режими бӯҳронӣ дошта бошад, ки сатри далелҳоро боло бардорад, номуайяниро ба ҷои ҳамвор кунад ва таваққуфро дар нуқтаҳои муайян маҷбур кунад” гуфт ӯ.
“Чунки суръат як хусусият аст, аммо тормоз, ба андешаи ман, дар ин ҷо қисми норасида аст.”
Доир ё хомӯш мондан дар ҳалқа
Сиёсати мавҷудаи AI дар мудофиа ба таври возеҳ изҳор мекунад, ки оператори инсонӣ ҳамеша барои ҳама амалҳое, ки аз ҷониби зеҳни сунъӣ анҷом дода мешавад, масъул ва ҳисоботдиҳанда хоҳад буд.
“Доварӣ ва масъулиятшиносии инсонӣ барои истифодаи қонунӣ, қонунӣ ва масъулиятноки AI ва кормандони таъиншудаи дифоъ муҳим аст. [Accountable Officers] ҳамеша барои истифода, қарорҳо ва натиҷаҳои он масъул хоҳад буд “гуфта мешавад дар он.
Дар истилоҳи амалӣ, ин маънои онро дорад, ки “дар ҳалқа” мондан ва кафолат додани он аст, ки касе назорат мекунад, ки AI кор мекунад ва дар нуқтаҳои муҳим дахолат кунад (масалан, истифодаи қувваи марговар).
Малколм Дэвис мегӯяд, ки технология ба монанди Maven Smart барои баҳодиҳии босуръати фазои ҷангӣ кӯмак мекунад. (ABC News: Ник Хаггарти)
Доктор Дэвис гуфт, дар ҳоле ки демократияҳои либералӣ, аз ҷумла Австралия, эҳтимолан ин сиёсатҳоро дар ҷои худ нигоҳ доранд, ҳеҷ кафолате вуҷуд надорад, ки рақибони эҳтимолӣ ба ҳамон стандартҳо риоя хоҳанд кард.
“Мо танҳо намедонем, ки рақибони худкомаи мо низ ҳамин корро мекунанд ё не” гуфт ӯ.
“Онҳо метавонанд ба манфиати худ бештар бубинанд, ки одамон” аз ҳалқа” дур бошанд ва ба AI имкон диҳад, ки назорати бештаре дошта бошад.
“Ин қобилияти онҳоро зиёд мекунад [make decisions] тезтар ва ин ба онхо бартарии харбй медихад.“
Дар мусоҳиба бо ABC аз ҷаноби Марлес пурсиданд, ки оё ӯ аз он нигарон аст, ки чӣ гуна AI аз ҷониби рақибони эҳтимолӣ қабул ва истифода мешавад?
“Ҷавоб ба ин ҷавобест, ки мо бисёр чизҳо медиҳем, ки мо дар мураккабтарин ва ба баъзе ҷиҳатҳо хатарбортарин манзараи стратегӣ зиндагӣ мекунем, ки пас аз анҷоми Ҷанги Дуюми Ҷаҳонӣ дорем”.
“Мо бояд технологияи худро пеш барем, то дӯстон, шарикон ва иттифоқчиён дар ин ҷо бартарии технологӣ дошта бошанд.
“Мо инчунин бояд ин корро дар доираи як қатор посбонҳо анҷом диҳем, ки ин маънои онро дорад, ки коре, ки мо дар робита ба рушди қобилияти мудофиавии худ дар байни дӯстон ва шарикони худ мекунем, ин аст, ки ҷаҳонро ба ҷои амнтар табдил диҳем.”
