០១ទិដ្ឋភាពទូទៅ៖ តើ LAWS/”killer robots” ជាអ្វី?

“អាវុធស្វ័យប្រវត្តិសម្លាប់” (Lethal Autonomous Weapons Systems — LAWS) មិនមែនជាឈ្មោះផលិតផលជាក់លាក់ណាមួយទេ ប៉ុន្តែជាគោលគំនិតគ្របដណ្តប់ដែលអ្នកជជែកនៅ UN ប្រើសំដៅដល់ប្រព័ន្ធអាវុធអាច “ជ្រើសរើស” (select) និង “ចូលប្រយុទ្ធ” (engage) នឹងគោលដៅ ដោយគ្មានការគ្រប់គ្រងផ្ទាល់ពីមនុស្សលើសេចក្តីសម្រេចប្រយុទ្ធនីមួយៗ។ ពាក្យ “killer robots” ជាពាក្យខ្លីរបស់សារព័ត៌មាន និងសង្គមស៊ីវិល — មិនមែនពាក្យផ្លូវការក្នុងឯកសារចរចាទេ។ និយមន័យពិតប្រាកដនៃ LAWS ខ្លួនឯង គឺជាសំណួរដែលកំពុងជជែកនៅឡើយ — គ្មានឯកសារអន្តរជាតិណាបានផ្តល់និយមន័យផ្លូវការឯកភាពគ្នាទេ (ផ្នែក B)។

អ្នកវិភាគការពារជាតិ (ដូចជា SIPRI) ជាទូទៅមិនចាត់ទុកភាពស្វ័យប្រវត្តិជាលក្ខណៈពីរ (binary) ទេ ប៉ុន្តែជាដឺក្រេលើប្រវែងជួរនៃ “វដ្តគោលដៅ” (targeting cycle)៖ រកឃើញ→តាមដាន→កំណត់អត្តសញ្ញាណ→ជ្រើសរើស→ចូលប្រយុទ្ធ។ ប្រព័ន្ធអាវុធជាច្រើនស្វ័យប្រវត្តិកម្មចំណុចខ្លះនៃវដ្តនេះប៉ុណ្ណោះ ដោយគ្មានព្រំដែនច្បាស់លាស់ថា ចំណុចណាចាប់ផ្តើមក្លាយជា “អាវុធស្វ័យប្រវត្តិ” តាមន័យនយោបាយ-ច្បាប់ — ខុសពីអត្ថបទមុនស្តីពីដ្រូនតូច ឬឧស្សាហកម្មអាវុធជាទូទៅ។

០២និយមន័យដែលកំពុងជជែក៖ “ការគ្រប់គ្រងដោយមនុស្សប្រកបដោយអត្ថន័យ”

គណៈកម្មាធិការកាកបាទក្រហមអន្តរជាតិ (ICRC) ជាស្ថាប័នមួយក្នុងចំណោមតិចតួចដែលបានផ្សព្វផ្សាយនិយមន័យការងារផ្ទាល់ខ្លួន (១២ ឧសភា ២០២១)៖ អាវុធស្វ័យប្រវត្តិ គឺជាអាវុធដែល “បន្ទាប់ពីការធ្វើឲ្យសកម្មដោយមនុស្សម្នាក់ ខ្លួនឯងផ្តួចផ្តើម ឬកេះឲ្យមានការវាយប្រហារ ដោយឆ្លើយតបនឹងព័ត៌មានពីបរិយាកាសដែលទទួលបានតាមឧបករណ៍ចាប់សញ្ញា និងផ្អែកលើ ‘ទម្រង់គោលដៅទូទៅ'” — មនុស្សប្រតិបត្តិការមិនជ្រើសរើស មិនដឹង ឬមិនគ្រប់គ្រងគោលដៅ ពេលវេលា ឬទីតាំងនៃការវាយប្រហារនីមួយៗនោះទេ បន្ទាប់ពីធ្វើឲ្យសកម្មរួច។ ICRC សង្កត់ធ្ងន់ថា និយមន័យនេះផ្តោតលើ “មុខងារសំខាន់” (critical functions) នៃការជ្រើសរើស និងអនុវត្តកម្លាំង មិនមែនប្រភេទបច្ចេកវិទ្យាណាមួយទេ។

នៅ CCW ខ្លួនឯង GGE បានចងក្រងតែការកំណត់លក្ខណៈ (characterizations) ផ្សេងៗគ្នាដែលគណៈប្រតិភូនីមួយៗលើកឡើង ដោយមិនទាន់សម្រេចនិយមន័យតែមួយ (ឯកសារ CCW/GGE.1/2023/CRP.1)។ ក្របខ័ណ្ឌទូទៅមួយចែកកម្រិតការចូលរួមរបស់មនុស្សជាបី៖ “human-in-the-loop” (មនុស្សអនុម័តគោលដៅនីមួយៗសិន) “human-on-the-loop” (មនុស្សឃ្លាំមើល និងអាចបញ្ឈប់ ប៉ុន្តែមិនអនុម័តគោលដៅនីមួយៗ) និង “human-out-of-the-loop” (ប្រព័ន្ធសម្រេចទាំងស្រុង គ្មានផ្លូវឲ្យមនុស្សអន្តរាគមន៍)។ ពាក្យ “ការគ្រប់គ្រងដោយមនុស្សប្រកបដោយអត្ថន័យ” (meaningful human control) ត្រូវបានផ្សព្វផ្សាយដំបូងដោយ Article 36 (អង់គ្លេស) ប្រមាណឆ្នាំ ២០១៣ ក្រោយមកទទួលយកទូលំទូលាយ ថ្វីត្បិតគ្មានការឯកភាពលើន័យ “ប្រកបដោយអត្ថន័យ” នោះក៏ដោយ។

០៣ប្រវត្តិ៖ ដំណើរការ GGE របស់ CCW ចាប់ពី ២០១៤

ការជជែកអន្តរជាតិផ្លូវការស្តីពី LAWS ចាប់ផ្តើមឆ្នាំ ២០១៤ ជាកិច្ចប្រជុំក្រៅផ្លូវការរបស់អ្នកជំនាញ ក្រោម CCW ចំនួនបីលើក រវាងឆ្នាំ ២០១៤-២០១៦។ នៅសន្និសីទពិនិត្យឡើងវិញលើកទី ៥ របស់ CCW ខែវិច្ឆិកា ២០១៦ រដ្ឋភាគីឯកភាពគ្នាបង្កើត GGE ជាផ្លូវការ ប្រជុំទៀងទាត់ចាប់ពី ២០១៧។ ក្នុងឆ្នាំ ២០១៩ GGE បានឯកភាពគោលការណ៍ណែនាំ ១១ — រួមមានការទទួលស្គាល់ថា IHL អនុវត្តពេញលេញលើ LAWS ការទទួលខុសត្រូវរបស់មនុស្សត្រូវរក្សានៅគ្រប់ដំណាក់កាល និងត្រូវវាយតម្លៃហានិភ័យពេញវដ្តជីវិតអាវុធ — ជាការណែនាំនយោបាយឯកភាពគ្នា មិនមែនឯកសារចងកាតព្វកិច្ចផ្លូវច្បាប់ទេ។

កិច្ចប្រជុំរដ្ឋភាគីជាន់ខ្ពស់ឆ្នាំ ២០២៣ បានបន្តអាណត្តិ GGE ដល់ ២០២៤-២០២៥ ដោយផ្តល់ភារកិច្ចថ្មី៖ រៀបចំ “សំណុំធាតុផ្សំនៃឧបករណ៍មួយ ដោយមិនកំណត់ជាមុននូវលក្ខណៈវា”។ ប្រធានក្រុម Robert In den Bosch (ហូឡង់) បានរៀបចំ “អត្ថបទរមូរ” (rolling text) សង្ខេបជម្រើសពីគណៈប្រតិភូ។ អាណត្តិ GGE ត្រូវបានពន្យារដល់ ២០២៦ ហើយកិច្ចប្រជុំចុងក្រោយ (រួមសេចក្តីថ្លែងការណ៍រួមខែកញ្ញា ២០២៥) នៅតែជជែកខ្លឹមសារនេះ ដោយមិនទាន់សម្រេចលទ្ធផលចុងក្រោយ។

០៤យន្តការច្បាប់៖ CCW ជាអនុសញ្ញា+ពិធីសារ និងច្បាប់ឆន្ទានុម័ត

ដើម្បីយល់ថាហេតុអ្វីមិនទាន់មានពិធីសារ LAWS ត្រូវយល់ពីរចនាសម្ព័ន្ធច្បាប់ពិតប្រាកដរបស់ CCW ជាមុន។ ឈ្មោះពេញរបស់ CCW គឺ “អនុសញ្ញាស្តីពីការហាមឃាត់ ឬកម្រិតការប្រើប្រាស់អាវុធធម្មតាមួយចំនួន ដែលអាចចាត់ទុកថាបង្កគ្រោះថ្នាក់ហួសហេតុ ឬបែងចែកមិនរើសអើង” ចុះហត្ថលេខានៅហ្សឺណែវ ថ្ងៃទី ១០ តុលា ១៩៨០ ចូលជាធរមាន ១៩៨៣។ CCW ជា “អនុសញ្ញាក្របខ័ណ្ឌ” ដែលបន្ថែមកាតព្វកិច្ចជាក់លាក់តាមរយៈពិធីសារដាច់ដោយឡែក ៥ — រដ្ឋភាគីអាចជ្រើសផ្តល់សច្ចាប័នលើពិធីសារខ្លះ មិនចាំបាច់ទាំងអស់។ សំខាន់ណាស់៖ ពិធីសារភាគច្រើនរបស់ CCW ចងកាតព្វកិច្ចផ្លូវច្បាប់ចំពោះរដ្ឋដែលបានផ្តល់សច្ចាប័ន — LAWS គ្រាន់តែជាប្រធានបទតែមួយគត់ដែលមិនទាន់មានពិធីសារផ្ទាល់ខ្លួន។

ចម្លើយចម្បងស្ថិតត្រង់នីតិវិធីសម្រេចចិត្តរបស់ CCW ខ្លួនឯង៖ សេចក្តីសម្រេចជាសារវន្ត (ការចរចាពិធីសារថ្មី) តម្រូវឲ្យមាន ឆន្ទានុម័ត (consensus) ក្នុងចំណោមរដ្ឋភាគីទាំងអស់ — មិនមែនសម្លេងភាគច្រើនទេ។ រដ្ឋតែមួយអាចទប់ស្កាត់លទ្ធផលបាន។

1. រដ្ឋភាគី CCW ត្រូវប្រជុំ GGE យ៉ាងហោចម្តងក្នុងមួយឆ្នាំ ក្រោមអាណត្តិដែលកិច្ចប្រជុំរដ្ឋភាគីជាន់ខ្ពស់ឯកភាព
2. គណៈប្រតិភូនីមួយៗលើកសំណើ ដែលក្រុមចងក្រងជា “អត្ថបទរមូរ”
3. ដើម្បីក្លាយជាលទ្ធផលផ្លូវការ (របាយការណ៍ ឬអាណត្តិថ្មី) ត្រូវការឆន្ទានុម័តពីរដ្ឋភាគីទាំងអស់ដែលមានវត្តមាន
4. ប្រសិនបើរដ្ឋណាមួយប្រកែក ឬពន្យារពេល លទ្ធផលនោះមិនអាចអនុម័តបានឡើយ
5. ដំណើរការនេះកើតឡើងវិញរាល់ឆ្នាំ ដោយគ្មានយន្តការបង្ខំឲ្យសម្រេចក្នុងកំណត់ពេលណាមួយ

០៥ភាគីគាំទ្រពិធីសារចង៖ រដ្ឋ និងចលនា Stop Killer Robots

អូទ្រីស (Austria) ជាប្រទេសដែលដើរតួនាំមុខច្បាស់លាស់បំផុត។ អូទ្រីសបានចូលរួមជាអ្នកនិពន្ធរួមដំបូងគេនៃសេចក្តីព្រាងសម្រេច UNGA ស្តីពី LAWS ជាមួយប្រទេសសហការចំនួន ២៧ ផ្សេងទៀត — ក្រោយមកអនុម័តជា A/RES/78/241 ថ្ងៃទី ២២ ធ្នូ ២០២៣។ សម្លេងគណៈកម្មាធិការទី ១ បញ្ជូនកញ្ចប់ដំបូង (១ វិច្ឆិកា ២០២៣) គឺ ១៦៤ គាំទ្រ ៥ ប្រឆាំង ៨ ភៀសខ្លួន ខណៈសម្លេងចុងក្រោយនៅសម័យប្រជុំពេញអង្គ (២២ ធ្នូ ២០២៣) គឺ ១៥២-៤-១១ — ភាពខុសគ្នាធម្មតារវាងគណៈកម្មាធិការ និងសម័យប្រជុំពេញអង្គ។

អូទ្រីសក៏បានរៀបចំសន្និសីទវីយែន “Humanity at the Crossroads” ថ្ងៃទី ២៩-៣០ មេសា ២០២៤ ដែល Article 36 រាយការណ៍ថា រដ្ឋច្រើនជាង ១១០ បានថ្លែងគាំទ្រ “ឧបករណ៍ចងកាតព្វកិច្ចផ្លូវច្បាប់” ក្នុងកិច្ចប្រជុំនោះ ព្រមទាំងមានការអំពាវនាវខ្លាំងពី UNSG និង ICRC ឲ្យបញ្ចប់ចរចាមុនឆ្នាំ ២០២៦។ លើសពីរដ្ឋ ចលនាសង្គមស៊ីវិល Stop Killer Robots (បង្កើតតុលា ២០១២) ដឹកនាំដោយអង្គការសមាជិករួមមាន Human Rights Watch, Amnesty International, Article 36, ICRAC, Mines Action Canada និង PAX — បច្ចុប្បន្នមានអង្គការសមាជិកជាង ៣០០ តំណាងប្រទេសជាង ៧០។ ចលនានេះទាមទារ “ច្បាប់អន្តរជាតិថ្មីស្តីពីភាពស្វ័យប្រវត្តិក្នុងប្រព័ន្ធអាវុធ ធានាការគ្រប់គ្រងដោយមនុស្សក្នុងការប្រើកម្លាំង” — ស្នើហាមឃាត់ប្រព័ន្ធដែល “តាមធម្មជាតិដំណើរការដោយគ្មានការគ្រប់គ្រងដោយមនុស្សប្រកបដោយអត្ថន័យ” ព្រមទាំងកម្រិតលើប្រព័ន្ធស្វ័យប្រវត្តិផ្សេងទៀត — មិនមែនហាមអាវុធស្វ័យប្រវត្តិទាំងអស់ដាច់ខាតនោះទេ។

០៦ភាគីប្រុងប្រយ័ត្ន៖ ហេតុអ្វីខ្លះមិនចង់បានពិធីសារថ្មី

តាមការវិភាគរបស់ Carnegie Endowment (សីហា ២០២៤) រដ្ឋដែលផ្តល់អាទិភាពដល់ដំណើរការ GGE ជាងការចរចាឧបករណ៍ចងកាតព្វកិច្ចថ្មីនោះ រួមមាន អូស្ត្រាលី ចិន ឥណ្ឌា អ៊ីស្រាអែល ជប៉ុន រុស្ស៊ី និងសហរដ្ឋអាមេរិក — ថ្វីត្បិតហេតុផលនីមួយៗខុសគ្នា។ ឥណ្ឌាបញ្ជាក់ជំហរច្បាស់លាស់បំផុត៖ គាំទ្រ “ឧបករណ៍ចងកាតព្វកិច្ចផ្លូវនយោបាយ” ក្នុងក្របខ័ណ្ឌ GGE ជាជាងសន្ធិសញ្ញាចងកាតព្វកិច្ចផ្លូវច្បាប់ភ្លាមៗ ដោយអះអាងថា “ការងារជាច្រើនត្រូវធ្វើនៅឡើយ” ជាពិសេសព្រោះគ្មានការឯកភាពគ្នាសូម្បីលើនិយមន័យមូលដ្ឋាន។ ឥណ្ឌាបានបោះឆ្នោតប្រឆាំងសេចក្តីសម្រេច UNGA ខែធ្នូ ២០២៣ ដោយចាត់ទុកថា GGE ជាឆាកសមស្របតែមួយគត់ ព្រមទាំងព្រួយបារម្ភថា ដំណើរការស្របគ្នាច្រើនហួសហេតុបង្កើត “ការធ្វើឡើងវិញនៃធនធាន”។

រុស្ស៊ីត្រូវបានកំណត់អត្តសញ្ញាណដោយអ្នកសង្កេតការណ៍ជាច្រើន (Arms Control Association) ថាជារដ្ឋសកម្មបំផុតក្នុងការទប់ស្កាត់ — ប្រើ “យុទ្ធសាស្ត្រនីតិវិធីពន្យារពេល និងបដិសេធសំណើរីកចម្រើន” ក្នុងកិច្ចប្រជុំ GGE។ ត្រឡប់ទៅឆ្នាំ ២០១៩ Human Rights Watch កត់សម្គាល់ថា រដ្ឋមួយចំនួន — អូស្ត្រាលី អ៊ីស្រាអែល រុស្ស៊ី ចក្រភពអង់គ្លេស និងសហរដ្ឋអាមេរិក — បានប្រកែកនឹងសំណើហាមឃាត់ (ban) ដោយសហរដ្ឋអាមេរិកអះអាងថា “អាវុធស្វ័យប្រវត្តិបានជួយការពារជីវិតជនស៊ីវិល”។ ជំហរនេះមិនស្មើ “ប្រឆាំងគ្រប់វិធានការ” ទេ — សហរដ្ឋអាមេរិកខ្លួនឯងបានបោះឆ្នោតគាំទ្រសេចក្តីសម្រេច UNGA ២០២៣ ថ្វីត្បិតនៅតែចង់ឲ្យ GGE ជាឆាកសំខាន់ — បង្ហាញថាជំហរនីមួយៗស្មុគស្មាញជាងការចាត់ក្រុម “គាំទ្រ/ប្រឆាំង” សាមញ្ញ។

០៧ប្រព័ន្ធការពារស្វ័យប្រវត្តិដែលមានជាច្រើនទសវត្សរ៍រួចហើយ

ចំណុចមួយច្រើនតែធ្លាក់ចេញពីការជជែកសាធារណៈ គឺប្រព័ន្ធអាវុធស្វ័យប្រវត្តិកម្មខ្ពស់ (រកឃើញ-តាមដាន-ចូលប្រយុទ្ធដោយគ្មានការអនុម័តគោលដៅពីមនុស្ស) មិនមែនបច្ចេកវិទ្យាថ្មីទេ។ ឧទាហរណ៍ច្បាស់លាស់បំផុតគឺ Phalanx CIWS របស់សេវាកម្មនាវីសហរដ្ឋអាមេរិក ផលិតដោយ General Dynamics (ក្រោយជាផ្នែក Raytheon) ចូលបម្រើការដំបូងលើនាវា USS Coral Sea ក្នុងឆ្នាំ ១៩៨០។ Phalanx ជា “ប្រព័ន្ធការពារចុងក្រោយ” ពេញលេញក្នុងខ្លួនឯង អាចរកឃើញ តាមដាន ចូលប្រយុទ្ធ និងបញ្ជាក់លទ្ធផលដោយស្វ័យប្រវត្តិទាំងស្រុង ដោយប្រើតែទិន្នន័យរ៉ាដាររបស់ខ្លួន។ ក្នុងម៉ូដស្វ័យប្រវត្តិពេញលេញ ប្រព័ន្ធនឹងបាញ់ដោយខ្លួនឯង ដើម្បីទប់ស្កាត់មីស៊ីលហោះលឿនហួសពេលមនុស្សអាចប្រតិកម្មបាន។ ប្រព័ន្ធការពារផ្សេងទៀត ដូចជា Aegis និង Patriot ក៏មានម៉ូដស្រដៀងគ្នា។

ចំណុចនេះសំខាន់ត្រង់ថា ប្រព័ន្ធការពារបែបនេះមិនស្ថិតកណ្តាលនៃការជជែកអំពី “killer robots” ទេ — រចនាសម្រាប់គោលដៅជាកាំជ្រួច/មីស៊ីល (មិនមែនមនុស្ស) ក្នុងបរិបទកំណត់ខ្លាំង ប្រើជាសាធារណៈជាច្រើនទសវត្សរ៍ដោយគ្មានចោទប្រកាន់ធ្ងន់ធ្ងរអំពីរំលោភ IHL។ អ្វីដែលថ្មី គឺការពង្រីកទៅរកគោលដៅចល័តលើគោក ឬសូម្បីតែមនុស្ស (ផ្នែក H-I)។

០៨ដ្រូនហោះជាតិចរន្ត និងការទាមទារភាពស្វ័យប្រវត្តិ

“ដ្រូនហោះជាតិចរន្ត” (loitering munitions) ជាអាវុធអាចហោះវិលជុំវិញ រង់ចាំគោលដៅលេចមុខ រួចប្រយុទ្ធតាមបញ្ជា ឬលក្ខខណ្ឌកម្មវិធី។ IAI (អ៊ីស្រាអែល) ផលិត Harpy (ជំនាន់ចាស់) អះអាងថា អាចដើរតាមស្វ័យប្រវត្តិទៅលើប្រភពសញ្ញារ៉ាដារក្នុងម៉ូដ “fire-and-forget”។ ក្នុងវេនកំណែក្រោយ Harop, IAI ខ្លួនឯងផ្សព្វផ្សាយម៉ូដ “man-in-the-loop” ជាចម្បង — ប្រតិបត្តិករមនុស្សពីចម្ងាយជ្រើសរើសគោលដៅមុននឹងចុះលោត — បង្ហាញថា ក្រុមហ៊ុនតែមួយអាចមានផលិតផលកម្រិតគ្រប់គ្រងខុសគ្នា។

ករណីជជែកខ្លាំងជាង គឺដ្រូន Kargu-2 ផលិតដោយ STM (ទួរគី)។ របាយការណ៍គណៈអ្នកជំនាញ UN ស្តីពីលីប៊ី (S/2021/229, មីនា ២០២១) សរសេរថា ក្នុងប្រតិបត្តិការជិតត្រីប៉ូលី ថ្ងៃទី ២៧ មីនា ២០២០ “កងកម្លាំង HAF ដកថយ ត្រូវបានហ្វូងហោះឥតមនុស្សបើក ឬប្រព័ន្ធអាវុធស្វ័យប្រវត្តិសម្លាប់ ដូចជា STM Kargu-2 ដេញតាម និងចូលប្រយុទ្ធពីចម្ងាយ”។ ប៉ុន្តែការវិភាគក្រោយមកសង្កត់ធ្ងន់ថា ភាសានេះ “បង្កប់ន័យខ្លាំង” ដោយមិនបញ្ជាក់ដាច់ខាត — លោក Jack McDonald (King’s College London) បញ្ជាក់ថា “សមហេតុផលនិយាយថា Kargu-2 អាចប្រើក្នុងលក្ខណៈស្វ័យប្រវត្តិបាន ប៉ុន្តែយើងមិនដឹងថាតើវាបានប្រើពិតប្រាកដដែរឬទេ”។ សម្ភារៈផ្សព្វផ្សាយ STM ខ្លួនឯង តាមអ្នកវិភាគខ្លះ បង្ហាញមនុស្សជ្រើសរើសគោលដៅជាមុន — សមត្ថភាពជ្រើសរើសហ្វូងស្វ័យប្រវត្តិទាំងស្រុងដែលក្រុមហ៊ុនអះអាង មិនធ្លាប់ត្រូវបានបង្ហាញជាសាធារណៈឡើយ។

ភាគីរុស្ស៊ី (តាមរយៈ ZALA Aero ជាផ្នែកមួយរបស់ Kalashnikov) បានផ្សព្វផ្សាយពីវេនកែច្នៃ “Izdeliye-53” នៃដ្រូន Lancet ថាអាចឲ្យដ្រូនជាច្រើន “ផ្ទេរព័ត៌មានគ្នាទៅវិញទៅមកអំពីយានក្រោះ ហើយចូលប្រយុទ្ធដោយស្វ័យប្រវត្តិទាំងស្រុង ដោយជ្រើសរើសគោលដៅពីប្រភេទដែលកំណត់ជាមុន” — តាមរបាយការណ៍អះអាងការដាក់ឲ្យប្រើប្រាស់ ខែតុលា ២០២៣ ប្រឆាំងនឹងប្រព័ន្ធកាំភ្លើងធំរបស់អ៊ុយក្រែន។ ដូចករណី Kargu-2 ការអះអាងនេះមកពីភាគីរុស្ស៊ីខ្លួនឯង ដោយគ្មានការផ្ទៀងផ្ទាត់ឯករាជ្យបញ្ជាក់ថា ការជ្រើសរើសគោលដៅពិតជាកើតឡើងដោយគ្មានមនុស្សនោះទេ។

០៩ឧបករណ៍ AI ណែនាំគោលដៅ៖ របាយការណ៍ និងការឆ្លើយតប

ក្រៅពីអាវុធស្វ័យប្រវត្តិផ្ទាល់ខ្លួន មានឧបករណ៍គាំទ្រការសម្រេចចិត្ត (decision-support) ណែនាំគោលដៅដល់អ្នកវិភាគមនុស្ស ខុសពី LAWS ព្រោះមនុស្សនៅតែសម្រេចចុងក្រោយ។ ករណីរាយការណ៍ច្រើនបំផុត គឺប្រព័ន្ធពីររបស់កងទ័ពអ៊ីស្រាអែល (IDF) តាមរបាយការណ៍ +972 Magazine, The Guardian, NPR និង France24។ “Gospel” (Habsora — ធ្នូ ២០២៣) ត្រូវបានពិពណ៌នាថា វិភាគទិន្នន័យឃ្លាំមើលស្វ័យប្រវត្តិ ណែនាំគោលដៅទម្លាក់គ្រាប់បែក ដោយអ្នកសារព័ត៌មានលើកតួលេខថា ផលិតគោលដៅបានប្រមាណ ១០០/ថ្ងៃ ធៀបនឹងប្រមាណ ៥០/ឆ្នាំពីមុន។ IDF ឆ្លើយតបថា Gospel គ្រាន់តែជា “ឧបករណ៍មួយប្រភេទ” ដោយអ្នកវិភាគនៅតែធ្វើ “ការត្រួតពិនិត្យឯករាជ្យ” ដើម្បីផ្ទៀងផ្ទាត់ថាគោលដៅអនុលោមតាមច្បាប់អន្តរជាតិ។

“Lavender” — រាយការណ៍ដោយ The Guardian ខែមេសា ២០២៤ ផ្អែកលើសក្ខីកម្មមន្ត្រីស៊ើបការណ៍សម្ងាត់ ៦ នាក់ — ត្រូវបានពិពណ៌នាថាជាមូលដ្ឋានទិន្នន័យ AI កំណត់អត្តសញ្ញាណបុរសប៉ាឡេស្ទីនអះអាងថាមានទំនាក់ទំនងក្រុមប្រដាប់អាវុធ ដោយមន្ត្រីខ្លះថា នៅដំណាក់កាលមួយបញ្ជីអាចមានឈ្មោះរហូតដល់ប្រមាណ ៣៧.០០០ នាក់ ជាមួយអត្រាត្រឹមត្រូវអះអាងប្រមាណ ៩០%។ IDF បដិសេធថា ខ្លួនប្រតិបត្តិការ “ប្រព័ន្ធ AI កំណត់អត្តសញ្ញាណភេរវករ ឬទាយថាមនុស្សណាម្នាក់ជាភេរវករ” ដោយពិពណ៌នា Lavender ថាគ្រាន់តែជា “មូលដ្ឋានទិន្នន័យ” ផ្គូផ្គងប្រភពស៊ើបការណ៍សម្ងាត់ មិនមែនបញ្ជីគោលដៅបញ្ជាក់ស្រេចនោះទេ។

ករណីទាំងពីរនេះមិនស្ថិតក្នុងនិយមន័យ LAWS តឹងរឹងទេ (មនុស្សនៅតែសម្រេចចុងក្រោយតាមការអះអាងផ្លូវការ) ប៉ុន្តែបង្ហាញថា ហេតុអ្វីនិយមន័យផ្នែក B សំខាន់ជាក់ស្តែង៖ ល្បឿន និងទំហំដែល AI ផលិតគោលដៅ អាចធ្វើឲ្យការត្រួតពិនិត្យរបស់មនុស្សខ្លីជាងមុន — ជាកង្វល់ដែល ICRC ហៅថា “ភាពលម្អៀងស្វ័យប្រវត្តិ” (automation bias, ផ្នែក J)។ អត្ថបទនេះមិនវាយតម្លៃភាពត្រឹមត្រូវនៃការចោទប្រកាន់ណាមួយទេ — គ្រាន់តែរាយការណ៍ជំហរភាគីនីមួយៗតាមប្រភពសាធារណៈ។

១០សំណួរច្បាប់មនុស្សធម៌អន្តរជាតិ៖ ជំហរ ICRC

ICRC ជាអ្នកទទួលបន្ទុកជាផ្លូវការលើកិច្ចអភិវឌ្ឍន៍ និងផ្សព្វផ្សាយ IHL បានប្រកាសជំហរផ្លូវការមួយ (១២ ឧសភា ២០២១) ស្នើវិធានច្បាប់ថ្មីបី៖ (១) ហាមឃាត់ដាច់ខាតប្រព័ន្ធអាវុធស្វ័យប្រវត្តិដែល “មិនអាចទាយទុកមុនបាន” ដោយសារហានិភ័យបែងចែកមិនរើសអើង (២) ហាមឃាត់ប្រព័ន្ធរចនាឬប្រើដើម្បីអនុវត្តកម្លាំងផ្ទាល់លើមនុស្ស និង (៣) កំណត់វិធានលើប្រព័ន្ធស្វ័យប្រវត្តិផ្សេងទៀតទាំងអស់ តាមកម្រិតលើប្រភេទគោលដៅ រយៈពេល/វិសាលភាព បរិបទប្រើប្រាស់ និងតម្រូវការអន្តរកម្មមនុស្ស-ម៉ាស៊ីន។ ICRC សង្កត់ធ្ងន់ថា ការបាត់បង់ការគ្រប់គ្រងរបស់មនុស្ស បង្កបញ្ហាសីលធម៌ធ្ងន់ធ្ងរដោយជំនួស “ការសម្រេចចិត្តរបស់មនុស្សអំពីជីវិត-សេចក្តីស្លាប់ ដោយឧបករណ៍ចាប់សញ្ញា កម្មវិធី និងម៉ាស៊ីន”។

គោលការណ៍ស្នូលរបស់ IHL — ការបែងចែក (distinction) សមាមាត្រភាព (proportionality) និងវិធានការប្រុងប្រយ័ត្នមុនវាយប្រហារ — សុទ្ធតែទាមទារការវិនិច្ឆ័យបរិបទតាមស្ថានភាពជាក់ស្តែងលើវាល។ អ្នកសិក្សាច្បាប់ជជែកខ្លាំងថា តើប្រព័ន្ធស្វ័យប្រវត្តិអាចវិនិច្ឆ័យបែបនេះបានពិតប្រាកដដែរឬទេ ជាពិសេសក្នុងបរិយាកាសមិនអាចទាយទុកមុនបាន (តំបន់ជនស៊ីវិល)។ សំណួរទីពីរ គឺ “គម្លាតទំនួលខុសត្រូវ” (accountability gap) — ប្រសិនបើប្រព័ន្ធវាយប្រហារខុសច្បាប់ តើនរណាទទួលខុសត្រូវ៖ អ្នកបញ្ជាការ ប្រតិបត្តិករ អ្នកសរសេរកម្មវិធី ឬក្រុមហ៊ុនផលិត? អ្នកសិក្សាច្រើនចាត់ទុកសំណួរនេះថាមិនទាន់មានចម្លើយច្បាស់លាស់ក្នុងច្បាប់អន្តរជាតិបច្ចុប្បន្នទេ។

• IHL អនុវត្តពេញលេញ៖ GGE (២០១៩) និង ICRC ឯកភាពថា LAWS មិនស្ថិតក្រៅច្បាប់អន្តរជាតិទេ
• ការទទួលខុសត្រូវរបស់មនុស្សត្រូវរក្សា៖ គោលការណ៍ណែនាំចម្បងទី ២ ក្នុងចំណោម ១១
• ការគ្រប់គ្រងដោយមនុស្សប្រកបដោយអត្ថន័យ៖ ICRC លើកជាតម្រូវការក្រោមវិធានទី ៣

១១ដំណើរការ UNGA ស្របគ្នា និងការអំពាវនាវថ្មីៗ

ខណៈ GGE ជាឆាកចរចាចម្បង ការមិនពេញចិត្តចំពោះល្បឿនយឺតបានជំរុញឲ្យអូទ្រីស និងសម្ព័ន្ធមិត្តបញ្ជូនកិច្ចការនេះទៅ UNGA ជាដំណើរការស្របគ្នា។ បន្ទាប់ពី A/RES/78/241 (ធ្នូ ២០២៣) គណៈកម្មាធិការទី ១ បានអនុម័តសេចក្តីសម្រេចបន្ត (L.77) ថ្ងៃទី ៥ វិច្ឆិកា ២០២៤ ដោយសម្លេង ១៦១-៣-១៣ — ស្នើរៀបចំពិគ្រោះយោបល់ក្រៅផ្លូវការឆ្នាំ ២០២៥ “បំពេញបន្ថែម” ជាមួយ CCW ព្រមទាំងសង្កត់ធ្ងន់លើ “សារៈសំខាន់នៃតួនាទីមនុស្សក្នុងការប្រើកម្លាំង”។ តាម Human Rights Watch ខែឧសភា ២០២៥ បានឃើញ “ការចាប់អារម្មណ៍ទូលំទូលាយ” ក្នុងកិច្ចប្រជុំផ្លូវការដំបូងរបស់ UNGA ស្តីពី LAWS។

ថ្ងៃទី ២៥ សីហា ២០២៦ អគ្គលេខាធិការ António Guterres និងប្រធាន ICRC បានចេញសេចក្តីអំពាវនាវរួមម្តងទៀត ស្នើឲ្យរដ្ឋបញ្ចប់ការចរចាច្បាប់ចងកាតព្វកិច្ចស្តីពី LAWS ជាបន្ទាន់ — កើនចេញពីការអំពាវនាវលើកមុនស្នើឲ្យបញ្ចប់ចរចាមុនឆ្នាំ ២០២៦ (សន្និសីទវីយែន ២០២៤)។ ចាប់ដល់ពេលបោះពុម្ពផ្សាយអត្ថបទនេះ GGE នៅតែបន្តជជែកលើ “អត្ថបទរមូរ” ដោយគ្មានឯកសារចុងក្រោយត្រូវបានអនុម័តនៅឡើយ។

១២សំណួរញឹកញាប់

១៣ប្រភព

1. ICRC — Position on Autonomous Weapon Systems (២០២១)
2. ICRC Casebook — Libya: Lethal Autonomous Weapon Systems
3. UN Office for Disarmament Affairs — Background on LAWS in the CCW
4. Digital Watch Observatory — GGE on LAWS
5. Arms Control Association — Geopolitics and Regulation of Autonomous Weapons (២៥)
6. Stop Killer Robots — គេហទំព័រផ្លូវការ
7. Stop Killer Robots — 164 States Vote Against the Machine (២០២៣)
8. Stop Killer Robots — 161 States Vote Against the Machine (២០២៤)
9. Stop Killer Robots — September 2025 GGE Joint Statement
10. Human Rights Watch — Killer Robots: UN Vote Should Spur Action
11. Carnegie Endowment — The Global Debate on LAWS: Indian Perspective (២០២៤)
12. Article 36 — Vienna Conference: Humanity at the Crossroads (២០២៤)
13. UN Digital Library — Resolution 78/241 (LAWS)
14. The Guardian — ‘The Gospel’: AI to Select Bombing Targets (២០២៣)
15. +972 Magazine — ‘Lavender’: AI Machine Directing Israel’s Bombing (២០២៤)
16. DVIDS — USS Truxtun Fires Phalanx CIWS (សេវាកម្មនាវីសហរដ្ឋអាមេរិក)
17. DVIDS — MQ-9 Reaper (កងកម្លាំងអាកាសជាតិសហរដ្ឋអាមេរិក)
18. Unsplash — Palais des Nations, Geneva (រូបភាព៖ Jonathan Ansel Moy de Vitry)

📷 រូបភាពក្នុងអត្ថបទនេះ មានប្រភព និងឥណទានម្ចាស់កម្មសិទ្ធិនៅក្រោមរូបភាពនីមួយៗ។ ចុចលើរូបភាព ដើម្បីមើលទំហំធំ។

✓ ផ្ទៀងផ្ទាត់ជាមួយប្រភពស្នូល ១៨ ប្រភព