
Deepfake និងប្រព័ន្ធផ្សព្វផ្សាយសិប្បនិម្មិត៖ បច្ចេកវិទ្យា AI ថោក ព្រឹត្តិការណ៍ក្លែងបន្លំពិតប្រាកដ និងស្តង់ដារ C2PA ដែលកំពុងលេចឡើង
គួរដឹង · បច្ចេកវិទ្យា និងគោលនយោបាយឌីជីថល (AI Technology & Policy)
⚡ សង្ខេបក្នុង ៣០ វិនាទី
បច្ចេកវិទ្យា AI សម្រាប់បង្កើតរូបភាព សំឡេង និងវីដេអូក្លែងបន្លំ (deepfake) បានក្លាយជាមធ្យោបាយថោក លឿន និងងាយស្រួលប្រើប្រាស់ជាងពេលណាទាំងអស់ ក្នុងរយៈពេលពីរបីឆ្នាំចុងក្រោយនេះ។ អត្ថបទនេះពន្យល់ពីមាត្រដ្ឋាននៃការផ្លាស់ប្តូរនេះ ព្រឹត្តិការណ៍ជាក់ស្តែងដែលមានឯកសារកត់ត្រាដោយសារព័ត៌មានចម្បង — ការក្លែងបន្លំព័ត៌មានមិនពិតផ្នែកនយោបាយ ការឆបោកសំឡេងក្លែងបន្លំក្នុងវិស័យហិរញ្ញវត្ថុ និងគ្រោះថ្នាក់រូបភាពគ្មានការយល់ព្រម — ព្រមទាំងការឆ្លើយតបផ្នែកបច្ចេកទេស និងគោលនយោបាយ៖ ស្តង់ដារភស្តុតាងខ្លឹមសារ C2PA (Coalition for Content Provenance and Authenticity) គោលនយោបាយផ្តាក់ស្លាកមាតិកា AI របស់វេទិកាធំៗដូចជា YouTube, Meta និង TikTok ក៏ដូចជាដែនកំណត់នៃបច្ចេកវិទ្យារកឃើញ deepfake ដែលនៅតែជាការប្រណាំងមិនចប់ចប់រវាងការបង្កើត និងការរកឃើញ។ អត្ថបទនេះមិនពាក់ព័ន្ធនឹងក្របខ័ណ្ឌគោលនយោបាយអភិបាលកិច្ច AI ទូលំទូលាយ ឬឧស្សាហកម្មសម្ភារៈឈ្លបយកការណ៍ទេ — ផ្តោតតែលើប្រព័ន្ធផ្សព្វផ្សាយសិប្បនិម្មិត និងបច្ចេកវិទ្យាផ្ទៀងផ្ទាត់ខ្លឹមសារដោយផ្ទាល់។
០១ហេតុអ្វីប្រព័ន្ធផ្សព្វផ្សាយសិប្បនិម្មិតក្លាយជាបញ្ហាបន្ទាន់
ពាក្យ «deepfake» លេចចេញឆ្នាំ ២០១៧ លើវេទិកា Reddit ដែលអ្នកប្រើប្រាស់ម្នាក់ប្រើម៉ូដែលបណ្តាញសរសៃប្រសាទ ដើម្បីជំនួសមុខមនុស្សក្នុងវីដេអូ។ នៅពេលនោះ ការបង្កើតវីដេអូក្លែងបន្លំដែលទំនងជាការពិត ទាមទារទិន្នន័យរូបភាព/វីដេអូគោលដៅច្រើន កុំព្យូទ័រកម្រិតខ្ពស់ដែលមានកាតក្រាហ្វិកខ្លាំង និងចំណេះដឹងបច្ចេកទេសកម្រិតជំនាញ។ ក្នុងរយៈពេលប្រហែលប្រាំពីរឆ្នាំក្រោយមក ស្ថានភាពបានផ្លាស់ប្តូរខ្លាំង៖ គំរូ AI បង្កើតឡើងសម្រាប់សាធារណជនទូទៅ អាចផលិតរូបភាព សំឡេង ឬវីដេអូដែលទំនងជាការពិត ក្នុងរយៈពេលប៉ុន្មាននាទី តាមរយៈកម្មវិធីទូរស័ព្ទ គេហទំព័រ ឬសេវាកម្ម API ដែលមិនទាមទារជំនាញកម្មវិធីកុំព្យូទ័រពិសេសអ្វីទាំងអស់។
ការផ្លាស់ប្តូរនេះមិនកើតឡើងតែលើផ្នែកតម្លៃ និងភាពងាយស្រួលប៉ុណ្ណោះទេ ថែមទាំងកើតឡើងលើគុណភាពលទ្ធផលផងដែរ។ រូបភាព និងសំឡេងសិប្បនិម្មិតកម្រិតខ្ពស់ សព្វថ្ងៃនេះពិបាកបែងចែកពីមាតិកាពិតប្រាកដសម្រាប់ភ្នែក ឬត្រចៀកមនុស្សធម្មតា ដោយមិនប្រើឧបករណ៍ជំនួយឡើយ — ចំណុចនេះហើយធ្វើឲ្យអង្គការសារព័ត៌មាន វេទិកាបណ្តាញសង្គម និងអាជ្ញាធរច្បាប់ចាប់ផ្តើមផ្តោតការយកចិត្តទុកដាក់ខ្លាំង មិនត្រឹមតែជាបញ្ហាបច្ចេកទេសទេ ថែមទាំងជាបញ្ហាទំនុកចិត្តសាធារណៈផងដែរ។
| ដើមកំណើតពាក្យ «deepfake» | លេចចេញឆ្នាំ ២០១៧ លើវេទិកា Reddit |
| ចំនួនវីដេអូ deepfake តាមដានលើអ៊ីនធឺណិត (កញ្ញា ២០១៩) | ១៤,៦៧៨ ដុំ — កើនទ្វេដងក្នុងរយៈពេលប្រាំបួនខែ (Deeptrace) |
| ភាគរយជាមាតិកាអាសអាភាសគ្មានការយល់ព្រម (២០១៩) | ប្រហែល ៩៦ភាគរយ នៃ deepfake ដែលរកឃើញលើអ៊ីនធឺណិត |
| ប្រភេទបច្ចេកវិទ្យាដែលអត្ថបទនេះគ្របដណ្តប់ | រូបភាព សំឡេង និងវីដេអូសិប្បនិម្មិត — មិនរាប់បញ្ចូលអត្ថបទ chatbot |
០២ទីផ្សារឧបករណ៍បង្កើតរូបភាព សំឡេង និងវីដេអូ AI
ទីផ្សារឧបករណ៍បង្កើតប្រព័ន្ធផ្សព្វផ្សាយសិប្បនិម្មិតបច្ចុប្បន្នមានក្រុមហ៊ុនធំៗជាច្រើនប្រកួតប្រជែងគ្នា ចែកតាមប្រភេទមាតិកា។ ផ្នែករូបភាព (text-to-image) មានក្រុមហ៊ុនដូចជា Midjourney, OpenAI (DALL·E/ChatGPT Images) និង Stability AI (Stable Diffusion)។ ផ្នែកវីដេអូ (text-to-video) ជាផ្នែកលូតលាស់លឿនបំផុត ដឹកនាំដោយ Sora របស់ OpenAI, Veo របស់ Google DeepMind និង Gen-4 របស់ Runway។ ចំណែកផ្នែកសំឡេង (voice cloning/TTS) មានក្រុមហ៊ុនឯកទេសដូចជា ElevenLabs និង Resemble AI ដែលអះអាងលទ្ធភាពក្លូនសំឡេងពីគំរូខ្លីៗតែប៉ុណ្ណោះ។
| រូបភាព (Text-to-Image) | Midjourney · OpenAI (DALL·E/ChatGPT Images) · Stability AI (Stable Diffusion) · Google (Imagen) |
| វីដេអូ (Text-to-Video) | OpenAI (Sora) · Google DeepMind (Veo) · Runway (Gen-4) · Adobe (Firefly Video — ក្រុមហ៊ុនអះអាង) |
| សំឡេង (Voice Cloning/TTS) | ElevenLabs · Resemble AI · Microsoft (ការស្រាវជ្រាវ VALL-E) · Respeecher |
🖼️ រូបភាព — ការប្រកួតប្រជែងលឿនបំផុត
ក្រុមហ៊ុនច្រើនអះអាងសមត្ថភាពជិតដូចរូបថតពិត — ជាការអះអាងផ្ទាល់ពីក្រុមហ៊ុន មិនមែនការវាយតម្លៃឯករាជ្យ
🎬 វីដេអូ — ថ្មីជាងគេ ប៉ុន្តែលូតលាស់លឿន
OpenAI ប្រកាស Sora ជាសាធារណៈឆ្នាំ ២០២៤ ខណៈ Google DeepMind និង Runway ចេញផ្សាយម៉ូដែលប្រកួតប្រជែងស្រដៀងគ្នា
🎙️ សំឡេង — ត្រូវការគំរូខ្លីបំផុត
ក្រុមហ៊ុនផ្នែកសំឡេងអះអាងលទ្ធភាពក្លូនសំឡេងពីគំរូខ្លីៗ — ទាក់ទងផ្ទាល់ជាមួយករណីនៅផ្នែក D
🏢 ក្រុមហ៊ុនធំបញ្ចូល Content Credentials
Adobe, OpenAI, Google ចាប់ផ្តើមភ្ជាប់ស្លាកភស្តុតាងខ្លឹមសារ C2PA ជាមួយលទ្ធផលបង្កើត — ពន្យល់នៅផ្នែក F

០៣ការក្លែងបន្លំព័ត៌មានផ្នែកនយោបាយ — ព្រឹត្តិការណ៍ជាក់ស្តែង
ក្នុងចំណោមប្រភេទគ្រោះថ្នាក់ដែលទទួលការចាប់អារម្មណ៍ខ្លាំងបំផុតពីសារព័ត៌មាន គឺការប្រើប្រព័ន្ធផ្សព្វផ្សាយសិប្បនិម្មិតដើម្បីជះឥទ្ធិពលលើដំណើរការនយោបាយ។ ព្រឹត្តិការណ៍ដែលមានឯកសារកត់ត្រាច្បាស់លាស់បំផុតកើតឡើងនៅសហរដ្ឋអាមេរិក និងស្លូវ៉ាគី។ ថ្ងៃមុនការបោះឆ្នោតបឋមរដ្ឋញូហែមសៀរ ខែមករា ២០២៤ អ្នកប្រឹក្សានយោបាយម្នាក់ឈ្មោះ Steve Kramer បានចាត់ចែងឲ្យផ្ញើសារជាសំឡេងទូរស័ព្ទស្វ័យប្រវត្តិ (robocall) ដោយប្រើសំឡេងក្លែងបន្លំរបស់ប្រធានាធិបតី Joe Biden ទៅកាន់អ្នកបោះឆ្នោតរាប់ពាន់នាក់ ជម្រុញកុំឲ្យទៅបោះឆ្នោត។
FCC ស្នើពិន័យ Kramer ចំនួន ៦ លានដុល្លារ ខណៈក្រុមហ៊ុនទូរគមនាគមន៍ Lingo Telecom ដែលបញ្ជូនសារនោះ ក៏ត្រូវពិន័យផងដែរ។ Kramer ត្រូវបានចោទប្រកាន់បទឧក្រិដ្ឋចំនួន ១៣ បទបង្ខិតបង្ខំកុំឲ្យបោះឆ្នោត និងបទល្មើសស្រាលចំនួន ១៣ បទក្លែងបន្លំជាបេក្ខជន។ នៅស្លូវ៉ាគី ពីរថ្ងៃមុនការបោះឆ្នោតរដ្ឋសភាកញ្ញា ២០២៣ សំឡេងក្លែងបន្លំមួយបានផ្សព្វផ្សាយតាមប្រព័ន្ធផ្សព្វផ្សាយសង្គម ធ្វើត្រាប់តាមអ្នកដឹកនាំគណបក្សប្រឆាំង Michal Šimečka ថាកំពុងពិភាក្សាផែនការក្លែងបន្លំសន្លឹកឆ្នោត។
| ការហៅទូរស័ព្ទក្លែងបន្លំ Biden (សហរដ្ឋអាមេរិក) | មករា ២០២៤ — មុនការបោះឆ្នោតបឋមរដ្ឋញូហែមសៀរ |
| ការពិន័យស្នើដោយ FCC | Steve Kramer ៦ លានដុល្លារ · Lingo Telecom ២ លានដុល្លារ |
| ចោទប្រកាន់ព្រហ្មទណ្ឌ | ១៣ បទឧក្រិដ្ឋបង្ខិតបង្ខំកុំឲ្យបោះឆ្នោត + ១៣ បទល្មើសក្លែងបន្លំបេក្ខជន |
| សំឡេងក្លែងបន្លំ Šimečka (ស្លូវ៉ាគី) | ពីរថ្ងៃមុនការបោះឆ្នោត កញ្ញា ២០២៣ — ផ្សព្វផ្សាយតាម Facebook |
០៤ការក្លែងបន្លំសំឡេងសម្រាប់ឆបោក — ករណីហិរញ្ញវត្ថុ
ក្រៅពីវិស័យនយោបាយ បច្ចេកវិទ្យាក្លូនសំឡេង និងវីដេអូក្លែងបន្លំក៏ត្រូវបានប្រើសម្រាប់ឆបោកហិរញ្ញវត្ថុផងដែរ ដោយករណីខ្លះមានចំនួនទឹកប្រាក់ខ្ពស់គួរឲ្យកត់សម្គាល់។ ករណីល្បីជាងគេកើតឡើងកុម្ភៈ ២០២៤ ចំពោះក្រុមហ៊ុនវិស្វកម្មពហុជាតិ Arup៖ បុគ្គលិកហិរញ្ញវត្ថុម្នាក់ត្រូវបានបញ្ឆោតឲ្យផ្ទេរប្រាក់ប្រហែល ២៥ លានដុល្លារ ក្រោយចូលរួមកិច្ចប្រជុំវីដេអូតាមអ៊ីនធឺណិត ដែលអ្នកចូលរួមរាល់រូបជាវីដេអូក្លែងបន្លំធ្វើត្រាប់តាមមន្ត្រីជាន់ខ្ពស់ក្រុមហ៊ុន រួមទាំងប្រធានហិរញ្ញវត្ថុ (CFO)។
ករណីមុននេះមួយទៀត ដែលរាយការណ៍ដំបូងបំផុតៗ កើតឡើងឆ្នាំ ២០១៩ ចំពោះក្រុមហ៊ុនថាមពលអង់គ្លេសមួយ៖ ជនល្មើសប្រើសំឡេងក្លែងបន្លំធ្វើត្រាប់តាមនាយកប្រតិបត្តិក្រុមហ៊ុនម្តាយអាល្លឺម៉ង់ ហៅទូរស័ព្ទបញ្ជាឲ្យប្រធានក្រុមហ៊ុនចំណុះផ្ទេរប្រាក់ ២៤៣,០០០ ដុល្លារទៅគណនីអ្នកផ្គត់ផ្គង់ក្លែងក្លាយជាបន្ទាន់។ ករណីទាំងពីរបង្ហាញលក្ខណៈរួមមួយ៖ ការជំរុញឲ្យសម្រេចចិត្តលឿន ក្រោមសម្ពាធពេលវេលា និងការប្រើអំណាចអ្នកគ្រប់គ្រងជាន់ខ្ពស់ ដើម្បីរំលងនីតិវិធីផ្ទៀងផ្ទាត់ធម្មតា។
| ក្រុមហ៊ុន Arup (ហុងកុង) — កុម្ភៈ ២០២៤ | បាត់បង់ប្រហែល ២៥ លានដុល្លារ — វីដេអូក្លែងបន្លំច្រើនរូបក្នុងកិច្ចប្រជុំតែមួយ |
| ក្រុមហ៊ុនថាមពលអង់គ្លេស — ២០១៩ | បាត់បង់ ២៤៣,០០០ ដុល្លារ — សំឡេងក្លែងបន្លំតែម្នាក់ឯង តាមទូរស័ព្ទ |
| លក្ខណៈរួម | ការជំរុញឲ្យសម្រេចចិត្តលឿន + ការប្រើអំណាចអ្នកគ្រប់គ្រងជាន់ខ្ពស់ក្លែងបន្លំ |
០៥គ្រោះថ្នាក់រូបភាពគ្មានការយល់ព្រម
ដូចបានលើកឡើងនៅផ្នែក A ការសិក្សាឆ្នាំ ២០១៩ របស់ក្រុមហ៊ុន Deeptrace រកឃើញថា ភាគច្រើនយ៉ាងច្បាស់នៃ deepfake ដែលមានលើអ៊ីនធឺណិតគឺជាមាតិកាអាសអាភាសគ្មានការយល់ព្រម ដោយផ្តោតគោលដៅភាគច្រើនលើស្ត្រី។ ព្រឹត្តិការណ៍ដែលនាំបញ្ហានេះចូលទៅក្នុងការជជែកសាធារណៈកម្រិតធំបំផុត កើតឡើងចុងខែមករា ២០២៤ នៅពេលរូបភាពអាសអាភាសក្លែងបន្លំរបស់តារាចម្រៀង Taylor Swift ចាប់ផ្តើមផ្សព្វផ្សាយយ៉ាងលឿនលើវេទិកា X។ តាមរបាយការណ៍ NBC News រូបភាពទាំងនោះទទួលការមើលច្រើនជាង ២៧ លានដងក្នុងរយៈពេលប្រហែល ១៩ ម៉ោង មុនគណនីដើមកំណើតត្រូវផ្អាក និងរូបភាពត្រូវដកចេញ។
X ប្រកាសថា ខ្លួនអនុវត្តគោលនយោបាយ «មិនអត់ឱនឡើយ» ចំពោះមាតិកាអាសអាភាសគ្មានការយល់ព្រម ហើយរារាំងការស្វែងរកឈ្មោះ «Taylor Swift» លើវេទិកាទាំងស្រុងសម្រាប់ប៉ុន្មានថ្ងៃ ដើម្បីកាត់បន្ថយការផ្សព្វផ្សាយបន្ត។ ព្រឹត្តិការណ៍នេះក៏ជំរុញការចាប់អារម្មណ៍ថ្មីលើច្បាប់សហព័ន្ធអាមេរិកសម្រាប់ការពារជនរងគ្រោះ ដែលពន្យល់នៅផ្នែក I។
| ភាគរយ deepfake ជាមាតិកាអាសអាភាសគ្មានការយល់ព្រម (២០១៩) | ប្រហែល ៩៦ភាគរយ (Deeptrace) |
| ព្រឹត្តិការណ៍ Taylor Swift | ចុងខែមករា ២០២៤ — ផ្សព្វផ្សាយលើវេទិកា X |
| ចំនួនការមើលមុនដកចេញ | ជាង ២៧ លានដង ក្នុងរយៈពេលប្រហែល ១៩ ម៉ោង (NBC News) |
| ការឆ្លើយតបរបស់ X | រារាំងការស្វែងរកឈ្មោះជាបណ្តោះអាសន្ន + ដកគណនីដើមកំណើត |

០៦C2PA — ស្តង់ដារភស្តុតាងខ្លឹមសារ (Content Credentials)
ដើម្បីឆ្លើយតបនឹងបញ្ហាខាងលើ ឧស្សាហកម្មបច្ចេកវិទ្យា និងសារព័ត៌មានបានបង្កើតស្តង់ដារបច្ចេកទេសរួមមួយ ហៅថា Coalition for Content Provenance and Authenticity (C2PA) ចេញផ្សាយសេចក្តីព្រាងសាធារណៈដំបូងឆ្នាំ ២០២១។ លទ្ធផលចម្បងហៅថា Content Credentials — ប្រៀបធៀបថាដូចជា «ស្លាកអាហារូបត្ថម្ភ» សម្រាប់មាតិកាឌីជីថល៖ ទិន្នន័យមេតាភ្ជាប់ជាមួយឯកសារ បង្ហាញប្រភពដើម ឧបករណ៍បង្កើត និងប្រវត្តិកែសម្រួល ដោយប្រើហត្ថលេខាឌីជីថលគ្រីបតូក្រាហ្វិកការពារកុំឲ្យកែច្នៃដោយងាយ។
គណៈកម្មាធិការចង្កោមរបស់ C2PA បច្ចុប្បន្នមានសមាជិកស្ថាប័នធំៗជាង ១០ រួមមាន Adobe, Amazon, BBC, Google, Meta, Microsoft, OpenAI, Publicis Groupe, Sony, TikTok និង Truepic។ Adobe ជាក្រុមហ៊ុនដំបូងគេអនុវត្តស្តង់ដារនេះក្នុង Photoshop ចាប់តាំងពី ២០២១។ ដល់ចុងឆ្នាំ ២០២៥ ក្រុមហ៊ុនផលិតកាមេរ៉ាដូចជា Sony (Camera Verify សម្រាប់អ្នកកាសែត មិថុនា ២០២៥) និង Nikon (firmware ម៉ូដែល Z6 III សីហា ២០២៥) ចាប់ផ្តើមបញ្ចូលសមត្ថភាពនេះក្នុងកាមេរ៉ា ខណៈ Google ប្រកាសគាំទ្រនៅលើ Pixel 10 ក្នុងខែដដែល។
| ព្រាងសាធារណៈដំបូង | ឆ្នាំ ២០២១ · កំណែបច្ចុប្បន្នភាពចុងក្រោយ ២.៤ (មេសា ២០២៦) |
| សមាជិកគណៈកម្មាធិការចង្កោម | Adobe, Amazon, BBC, Google, Meta, Microsoft, OpenAI, Publicis Groupe, Sony, TikTok, Truepic |
| ការអនុវត្តលើកាមេរ៉ា | Sony Camera Verify (មិថុនា ២០២៥) · Nikon Z6 III firmware (សីហា ២០២៥) |
| ការអនុវត្តលើវេទិកា | LinkedIn (ស្លាក «CR» ២០២៤) · TikTok (ស្លាក AI-generated ២០២៤) · YouTube (ស្លាក «captured with a camera» ២០២៤) |
០៧គោលនយោបាយផ្តាក់ស្លាកមាតិកា AI របស់វេទិកា
ក្រៅពីស្តង់ដារបច្ចេកទេស វេទិកាបណ្តាញសង្គមធំៗក៏បង្កើតគោលនយោបាយផ្ទាល់ខ្លួន ផ្តាក់ស្លាកមាតិកាដែលបង្កើត ឬកែសម្រួលដោយ AI។ YouTube ប្រកាសគោលនយោបាយ «ខ្លឹមសារកែច្នៃ ឬសិប្បនិម្មិត» ខែវិច្ឆិកា ២០២៣ ហើយចាប់ផ្តើមតម្រូវឲ្យអ្នកបង្កើតបញ្ចេញព័ត៌មានចាប់ពីមីនា ២០២៤ សម្រាប់វីដេអូទំនងជាការពិត តែផលិត ឬកែច្នៃដោយ AI — ដូចជាការជំនួសមុខ ឬសំឡេងសិប្បនិម្មិតរបស់មនុស្សពិត។ ខ្លឹមសារច្បាស់ថាមិនពិត ឬការកែសម្រួលតូចតាច មិនតម្រូវការបញ្ចេញព័ត៌មានទេ។ វីដេអូពាក់ព័ន្ធសុខភាព ព័ត៌មាន ការបោះឆ្នោត ឬហិរញ្ញវត្ថុ ទទួលការបង្ហាញស្លាកលេចធ្លោជាង ខណៈ YouTube អាចបន្ថែមស្លាកខ្លួនឯង ទោះអ្នកបង្កើតមិនប្រកាសក៏ដោយ ប្រសិនបើមានលទ្ធភាពបំភាន់អ្នកទស្សនា។
Meta ចាប់ផ្តើមប្រើស្លាក «Made with AI» ខែឧសភា ២០២៤ លើ Facebook, Instagram និង Threads រួមគ្នា ដោយកំណត់មាតិកា AI ពីសញ្ញាបច្ចេកទេសឧស្សាហកម្ម (ដូចជា C2PA/IPTC) និងការប្រកាសដោយអ្នកប្រើប្រាស់ផ្ទាល់។ ត្រឹមខែកក្កដា ២០២៤ ក្រុមហ៊ុនប្តូរឈ្មោះស្លាកទៅជា «AI Info» ខណៈប្រើពាក្យ «Imagined with AI» សម្រាប់រូបភាពទំនងជាការពិតដែលបង្កើតដោយ Meta AI ខ្លួនឯង។ TikTok ក៏ណែនាំស្លាក «AI-generated» ដោយប្រើវិធីទ្វេ៖ ឧបករណ៍ប្រកាសដោយអ្នកបង្កើត និងការរកឃើញស្វ័យប្រវត្តិកំពុងសាកល្បង ដោយផ្អែកលើទិន្នន័យ Content Credentials របស់ C2PA ជាផ្នែកមួយ។
| YouTube | «Altered or Synthetic Content» — ប្រកាស វិច្ឆិកា ២០២៣ · តម្រូវការចាប់ពី មីនា ២០២៤ |
| Meta (Facebook/Instagram/Threads) | «Made with AI» → ប្តូរឈ្មោះជា «AI Info» (កក្កដា ២០២៤) |
| TikTok | ស្លាក «AI-generated» — ប្រកាសដោយអ្នកបង្កើត + រកឃើញស្វ័យប្រវត្តិកំពុងសាកល្បង |
📺 YouTube
ស្លាកលេចធ្លោលើមាតិកាសុខភាព/ព័ត៌មាន/ការបោះឆ្នោត + ដំណើរការស្នើដកមាតិកាធ្វើត្រាប់តាមមុខ/សំឡេងខ្លួនឯង
📘 Meta
លាយបញ្ចូលទិន្នន័យមេតាឧស្សាហកម្ម + ការប្រកាសដោយអ្នកប្រើប្រាស់ — គ្របដណ្តប់បីវេទិកាក្នុងគោលនយោបាយតែមួយ
🎵 TikTok
ភ្ជាប់ជាមួយគោលការណ៍សហគមន៍ដែលទាមទារបញ្ចេញព័ត៌មានតាមស្លាក ស្ទីកឃើរ ឬចំណងជើងរង
០៨បច្ចេកវិទ្យា Watermark — SynthID និងចំណុចផ្សារភ្ជាប់ជាមួយ C2PA
ខណៈ C2PA ផ្តោតលើទិន្នន័យមេតាភ្ជាប់ជាមួយឯកសារ Google DeepMind អភិវឌ្ឍវិធីមួយទៀតហៅថា SynthID ដែលបង្កប់សញ្ញាសម្គាល់ (watermark) ដោយផ្ទាល់ចូលក្នុងខ្លឹមសារខ្លួនឯង — ដូចជាភីកសែលរូបភាព/វីដេអូ ឬលំនាំសំឡេង — ដោយមិនប៉ះពាល់គុណភាព និងមិនអាចមើលឃើញដោយភ្នែកមនុស្សធម្មតា។ SynthID រូបភាព (ភ្ជាប់ជាមួយ Imagen) ចេញផ្សាយសាធារណៈសីហា ២០២៣ ជាដំបូងគេ បន្ទាប់មកពង្រីកទៅសំឡេង/អត្ថបទ (Gemini) រួចដល់វីដេអូ (Veo)។
ភាពខុសគ្នាសំខាន់គឺ C2PA កត់ត្រាប្រវត្តិទាំងមូលជាទិន្នន័យមេតា ដែលអាចដកចេញបានប្រសិនបើឯកសារត្រូវថតអេក្រង់ថ្មី ឬបំប្លែងទ្រង់ទ្រាយ ខណៈ SynthID បង្កប់ជាផ្នែកនៃខ្លឹមសារខ្លួនឯង ធន់ជាងខ្លះចំពោះការកែច្នៃ ប៉ុន្តែក៏មិនមែនជាការធានាដាច់ខាតដែរ។ ក្រុមហ៊ុនធំៗ រួមទាំងសមាជិកគណៈកម្មាធិការចង្កោម C2PA កំពុងស្វែងរកមធ្យោបាយផ្សំវិធីទាំងពីរចូលគ្នា ខណៈមិនមានក្រុមហ៊ុនណាមួយអះអាងថា វិធីណាមួយអាចដោះស្រាយបញ្ហាទាំងស្រុងបានឡើយ។
| SynthID រូបភាព | ចេញផ្សាយសាធារណៈ សីហា ២០២៣ (ភ្ជាប់ជាមួយ Imagen) |
| SynthID អត្ថបទ/សំឡេង | ពង្រីកសម្រាប់ Gemini app/web |
| SynthID វីដេអូ | ភ្ជាប់ជាមួយម៉ូដែល Veo — បង្កប់ក្នុងភីកសែលរាល់ស៊ុម |
| C2PA ទល់នឹង SynthID | ទិន្នន័យមេតា (អាចដកចេញ) ទល់នឹង សញ្ញាបង្កប់ក្នុងខ្លឹមសារ (ធន់ជាងខ្លះ) |

០៩ការឆ្លើយតបផ្នែកច្បាប់ — សហរដ្ឋអាមេរិក និងសហភាពអឺរ៉ុប
ចំពោះគ្រោះថ្នាក់រូបភាពគ្មានការយល់ព្រមរៀបរាប់នៅផ្នែក E ប្រធានាធិបតីអាមេរិក Donald Trump បានចុះហត្ថលេខាលើច្បាប់ TAKE IT DOWN Act ថ្ងៃទី ១៩ ឧសភា ២០២៥ ទទួលការគាំទ្រទូលំទូលាយពីសភាទាំងពីរ (៤០៩–២ សភាតំណាងរាស្ត្រ · ឯកច្ឆន្ទព្រឹទ្ធសភា)។ ច្បាប់នេះកំណត់ជាបទឧក្រិដ្ឋសហព័ន្ធ ចំពោះការផ្សព្វផ្សាយរូបភាពស្និទ្ធិដោយគ្មានការយល់ព្រម រួមទាំងរូបភាពក្លែងបន្លំបង្កើតដោយ AI ដោយផ្តល់ទោសពន្ធនាគាររហូតដល់ ២ ឆ្នាំ (ធ្ងន់ជាងសម្រាប់ករណីកុមារ)។ វេទិកា និងគេហទំព័រត្រូវដកមាតិកាដែលជនរងគ្រោះស្នើសុំក្នុងរយៈពេល ៤៨ ម៉ោង ហើយលុបច្បាប់ចម្លងទាំងអស់។ សម្ព័ន្ធអ្នកគាំទ្រច្បាប់នេះមានចាប់ពី First Lady Melania Trump រហូតដល់អង្គការ NCMEC និងសហជីព SAG-AFTRA។
នៅសហភាពអឺរ៉ុប ច្បាប់ EU AI Act មាត្រា ៥០ កំណត់កាតព្វកិច្ចចំពោះអ្នកដាក់ឲ្យប្រើប្រាស់ (deployers) នៃប្រព័ន្ធ AI ដែលបង្កើត ឬកែច្នៃរូបភាព សំឡេង ឬវីដេអូក្លាយជា deepfake៖ ត្រូវបញ្ចេញព័ត៌មានច្បាស់លាស់ថា ខ្លឹមសារនោះត្រូវបានបង្កើត ឬកែច្នៃដោយសិប្បនិម្មិត ក្នុងពេលវេលាមិនយឺតជាងការទាក់ទងឬបង្ហាញដំបូង។ មាត្រានេះលើកលែងសម្រាប់ការស៊ើបអង្កេត/ការពារឧក្រិដ្ឋកម្មតាមច្បាប់ និងស្នាដៃសិល្បៈ/និយាយចំអកច្បាស់លាស់។ ចូលជាធរមានពេញលេញចាប់ពីថ្ងៃទី ២ សីហា ២០២៦។
| TAKE IT DOWN Act (សហរដ្ឋអាមេរិក) | ចុះហត្ថលេខា ១៩ ឧសភា ២០២៥ · ដកមាតិកាក្នុង ៤៨ ម៉ោង · ទោសពន្ធនាគាររហូតដល់ ២ ឆ្នាំ |
| ការគាំទ្រនៅសភា | ៤០៩–២ (សភាតំណាងរាស្ត្រ) · ឯកច្ឆន្ទ (ព្រឹទ្ធសភា) |
| EU AI Act មាត្រា ៥០ (Deepfake) | ត្រូវប្រកាសព័ត៌មានច្បាស់លាស់ — ចូលជាធរមាន ២ សីហា ២០២៦ |
| ករណីលើកលែង EU AI Act | ការស៊ើបអង្កេតឧក្រិដ្ឋកម្មតាមច្បាប់ · ស្នាដៃសិល្បៈ/និយាយចំអកច្បាស់លាស់ |
១០ក្រុមហ៊ុនរកឃើញ Deepfake និងព្រំដែននៃការតាមទាន់
ក្នុងសម្ព័ន្ធជាមួយស្តង់ដារ និងគោលនយោបាយខាងលើ មានក្រុមហ៊ុនឯកទេសកើនឡើងសម្រាប់ផ្តល់សេវារកឃើញមាតិកា deepfake ជូនសាជីវកម្ម ធនាគារ និងរដ្ឋាភិបាល។ Sensity AI (កំណើតឡើងវិញពី Deeptrace ផ្នែក A) បន្តជាក្រុមហ៊ុនតាមដានឧស្សាហកម្មដំបូងបំផុតម្នាក់។ Reality Defender ផ្តល់សេវារកឃើញពេលវេលាជាក់ស្តែង។ GetReal Labs ដឹកនាំដោយ Hany Farid អ្នកជំនាញកោសល្យវិច្ច័យឌីជីថលដ៏ល្បី ខណៈ Hive Moderation ផ្តល់សេវារកឃើញជាផ្នែកនៃសេវាសម្របសម្រួលមាតិកា។ Truepic (សមាជិក C2PA) ក៏ផ្តល់សេវាផ្ទៀងផ្ទាត់ការចាប់យករូបភាពដើម។
ទោះមានការវិនិយោគខ្លាំងលើឧស្សាហកម្មនេះក៏ដោយ ក្រុមហ៊ុនរកឃើញផ្ទាល់ខ្លួនទទួលស្គាល់ថា ការរកឃើញ deepfake នៅតែជាការប្រណាំងមិនចប់ចប់ជាមួយបច្ចេកវិទ្យាបង្កើត។ Reality Defender ខ្លួនឯងបានចេញផ្សាយការវិភាគមួយពន្យល់ថា ម៉ូដែលរកឃើញដែលដំណើរការល្អក្នុងមន្ទីរពិសោធន៍ ច្រើនដំណើរការមិនល្អដូចគ្នាក្នុងលក្ខខណ្ឌជាក់ស្តែង ព្រោះម៉ូដែលបង្កើតថ្មីៗលេចចេញលឿនជាងទិន្នន័យបណ្តុះបណ្តាលអាចទាន់។ លទ្ធផលគឺ ភាពត្រឹមត្រូវនៃឧបករណ៍រកឃើញអាចថយចុះជាបន្តបន្ទាប់ ភ្លាមៗនៅពេលម៉ូដែលបង្កើតជំនាន់ថ្មីចេញផ្សាយ។
| Sensity AI (Deeptrace) | ក្រុមហ៊ុនស្រាវជ្រាវឧស្សាហកម្មដំបូងគេ តាំងពី ២០១៩ |
| Reality Defender | រកឃើញពេលវេលាជាក់ស្តែងសម្រាប់ធនាគារ/រដ្ឋាភិបាល |
| GetReal Labs | ដឹកនាំដោយ Hany Farid អ្នកជំនាញកោសល្យវិច្ច័យឌីជីថល |
| Hive Moderation / Truepic | រួមបញ្ចូលក្នុងសេវាសម្របសម្រួលមាតិកា/ផ្ទៀងផ្ទាត់រូបភាព |
១១អ្វីត្រូវតាមដានបន្ត
- តើ EU AI Act មាត្រា ៥០ នឹងអនុវត្តម៉ឺងម៉ាត់ប៉ុណ្ណាចំពោះក្រុមហ៊ុនក្រៅសហភាពអឺរ៉ុប។
- តើវេទិកាបណ្តាញសង្គមធំៗនឹងផ្លាស់ប្តូរទៅជាការរកឃើញស្វ័យប្រវត្តិពេញលេញកម្រិតណា។
- តើក្រុមហ៊ុនផលិតកាមេរ៉ាផ្សេងទៀត នឹងបញ្ចូល Content Credentials ជាស្តង់ដារឧស្សាហកម្មដែរឬទេ។
- តើច្បាប់រដ្ឋនីមួយៗនៅសហរដ្ឋអាមេរិកទាក់ទង deepfake នយោបាយ នឹងបង្កើតបទដ្ឋានរួមថ្នាក់សហព័ន្ធនាពេលណា។
- តើឧស្សាហកម្មរកឃើញ deepfake នឹងអាចរក្សាចន្លោះគម្លាតតូចជាងបច្ចុប្បន្នដែរឬទេ។
១២សំណួរញឹកញាប់
តើ Deepfake គឺជាអ្វី ជាភាសាសាមញ្ញ?
Deepfake គឺជារូបភាព សំឡេង ឬវីដេអូក្លែងបន្លំ បង្កើតដោយ AI ដែលធ្វើត្រាប់តាមមុខមនុស្ស សំឡេង ឬព្រឹត្តិការណ៍ ដោយទំនងជាការពិត។ ពាក្យនេះលេចចេញឆ្នាំ ២០១៧ ហើយសព្វថ្ងៃនេះ ការបង្កើតវាមិនទាមទារជំនាញកម្មវិធីខ្ពស់ដូចមុនទៀតទេ។
តើ C2PA ខុសពី watermark ដូចជា SynthID យ៉ាងណា?
C2PA កត់ត្រាទិន្នន័យមេតាភ្ជាប់ជាមួយឯកសារ ដែលអាចដកចេញបានប្រសិនបើថតអេក្រង់ ឬបំប្លែងទ្រង់ទ្រាយថ្មី។ SynthID បង្កប់សញ្ញាចូលក្នុងខ្លឹមសារខ្លួនឯង ធន់ជាងខ្លះចំពោះការកែច្នៃ ប៉ុន្តែក៏មិនធានាដាច់ខាតដែរ។
តើមានច្បាប់ការពារជនរងគ្រោះពីរូបភាពគ្មានការយល់ព្រមដែរឬទេ?
មាន។ នៅសហរដ្ឋអាមេរិក ច្បាប់ TAKE IT DOWN Act (ឧសភា ២០២៥) តម្រូវឲ្យវេទិកាដកមាតិកាបែបនេះក្នុង ៤៨ ម៉ោង ក្រោយទទួលការស្នើសុំពីជនរងគ្រោះ ហើយកំណត់ជាបទឧក្រិដ្ឋសហព័ន្ធ រួមទាំងករណីបង្កើតដោយ AI។
តើវេទិកាបណ្តាញសង្គមទាំងអស់ផ្តាក់ស្លាកមាតិកា AI ដូចគ្នាដែរឬទេ?
អត់ទេ។ YouTube ប្រើ «Altered or Synthetic Content» Meta ប្រើ «AI Info» ខណៈ TikTok ប្រើ «AI-generated» — នីមួយៗលាយបញ្ចូលការប្រកាសដោយអ្នកបង្កើត និងការរកឃើញស្វ័យប្រវត្តិផ្នែកខ្លះ។
តើបច្ចេកវិទ្យារកឃើញ deepfake អាចទុកចិត្តបានពេញលេញដែរឬទេ?
ទេ។ Reality Defender ទទួលស្គាល់ថា ម៉ូដែលរកឃើញដែលដំណើរការល្អក្នុងមន្ទីរពិសោធន៍ ច្រើនដំណើរការមិនស្មើគ្នាក្នុងលក្ខខណ្ឌជាក់ស្តែង ព្រោះម៉ូដែលបង្កើតថ្មីវិវត្តលឿនជាងទិន្នន័យបណ្តុះបណ្តាលអាចទាន់។
តើអត្ថបទនេះខុសពីអត្ថបទស្តីពីអភិបាលកិច្ច AI ទូទៅយ៉ាងណា?
អត្ថបទនេះផ្តោតជាក់លាក់លើប្រព័ន្ធផ្សព្វផ្សាយសិប្បនិម្មិត ព្រឹត្តិការណ៍ក្លែងបន្លំពិតប្រាកដ និងស្តង់ដារភស្តុតាងខ្លឹមសារ ខណៈអត្ថបទអភិបាលកិច្ច AI ទូទៅផ្តោតលើក្របខ័ណ្ឌគោលនយោបាយទូលំទូលាយជាងនេះ។
១៣ប្រភព (Sources)
- C2PA — Providing Origins of Media Content — Coalition for Content Provenance and Authenticity
- Content Credentials — background & adoption timeline — Wikipedia
- Deepfake CFO Video Calls Result in $25MM in Damages — Trend Micro
- Finance worker pays out $25 million after video call with deepfake ‘CFO’ — CNN
- A Voice Deepfake Was Used To Scam A CEO Out Of $243,000 — Forbes
- FCC Proposes $6 Million Fine for Deepfake Robocalls Around NH Primary — Federal Communications Commission
- Criminal charges and FCC fines issued for deepfake Biden robocalls — NPR
- Slovakia: Deepfake audio offers worrying example of AI abuse — International Press Institute
- Taylor Swift’s name not searchable on X days after deepfakes go viral — NBC News
- New Research Finds 96% of Deepfakes Are Pornographic — Emerging Tech Brew (Deeptrace 2019 study)
- The TAKE IT DOWN Act — federal law summary — Congress.gov / Congressional Research Service
- TAKE IT DOWN Act — Wikipedia summary — Wikipedia
- Article 50: Transparency Obligations — EU Artificial Intelligence Act (official text portal)
- How we’re helping creators disclose altered or synthetic content — YouTube Blog
- Meta’s Approach to Labeling AI-Generated Content and Manipulated Media — Meta
- New labels for disclosing AI-generated content — TikTok Newsroom
- Watermarking AI-generated text and video with SynthID — Google DeepMind
- Google DeepMind has launched a watermarking tool for AI-generated images — MIT Technology Review
- Why Lab Benchmarks Fail Real-World Deepfake Detection — Reality Defender
✓ ផ្ទៀងផ្ទាត់ជាមួយប្រភពបឋម · ធ្វើបច្ចុប្បន្នភាព តុលា ២០២៦
📷 រូបភាពក្នុងអត្ថបទនេះ មានប្រភព និងឥណទានម្ចាស់កម្មសិទ្ធិនៅក្រោមរូបភាពនីមួយៗ។ ចុចលើរូបភាព ដើម្បីមើលទំហំធំ។
📚 បច្ចេកវិទ្យា និង AI · គួរដឹង Eksastra
អត្ថបទចំណេះដឹងស៊ីជម្រៅជាភាសាខ្មែរ ផ្អែកលើប្រភពដែលអាចផ្ទៀងផ្ទាត់បាន។
បច្ចេកវិទ្យា និង AI ទាំងអស់ →អភិបាលកិច្ច AI — ក្របខ័ណ្ឌគោលនយោបាយទូលំទូលាយឧស្សាហកម្មសម្ភារៈឈ្លបយកការណ៍ពាណិជ្ជកម្មទីផ្សារ Generative AI — ក្រុមហ៊ុន និងគំរូធំៗគួរដឹង Eksastra