ក្រុមហ៊ុន Microsoft បានថ្លែងកាលពីថ្ងៃពុធថា ខ្លួនបានរកឃើញការរំខានលើប្រទេសអាមេរិករួមមានអ៊ីរ៉ង់ កូរ៉េខាងជើង រុស្ស៊ី និងចិន ដែលប្រើការកេងចំណេញផ្នែក AI ដែលបានអភិវឌ្ឍដោយក្រុមហ៊ុន និងប្រើវាជាផ្នែកមួយនៃការស្រាវជ្រាវលើប្រតិបត្តិការសាយប័រ។
បច្ចេកទេសដែលក្រុមហ៊ុន Microsoft បានសង្កេតឃើញនៅក្នុងសហប្រតិបត្តិការជាមួយនឹងដៃគូ OpenAI បង្ហាញពីការគំរាមកំហែងដែលកំពុងកើតមាន មិនមែនជារឿងថ្មីនោះទេ បើយោងតាមក្រុមហ៊ុន Redmond រដ្ឋ Washington បានបញ្ជាក់នៅក្នុងប្លុក (Blog Post)។ ប៉ុន្តែនៅក្នុងប្លុកនោះក៏បានរៀបរាប់ពីសង្រ្គាមភូមិសាស្រ្តនយោបាយកំពុងតែប្រើ Large-Language Models (LLMs) ដើម្បីពង្រីកលទ្ធភាពទៅកាន់បណ្តាញណេតវើក (Breach Networks) ផ្សេងដើម្បីធ្វើប្រតិបត្តិការ។ ក្រុមហ៊ុន Microsoft បានថ្លែងថា ការវាយប្រហាររកឃើញ Large-Language Models (LLMs) ពាក់ព័ន្ធទាំងអស់ជាមួយនឹងម្ចាស់ដៃគូ និងបានបន្ថែមថា វាពិតជាចាំបាច់ត្រូវបង្ហាញជាសាធារណៈ បើទោះជាវាស្ថិតនៅក្នុងដំណាក់ទើបចាប់ផ្តើមក្តី។ ក្រុមហ៊ុនសន្តិសុខសាយប័របានប្រើ Machine-Learning នៅលើការការពារ ដើម្បីស្វែងរកសកម្មភាពអាក្រក់នៅក្នុងបណ្តាញណេតវើក។ ប៉ុន្តែឧក្រឹដ្ឋជន និងហេគឃ័រក៏ប្រើវាដែរ បន្ថែមនិងការការណែនាំពី Large-Language Models (LLMs) ដែលដឹកនាំដោយ OpenAI’s ChatGPT ថែមទៀត។
ក្រុមហ៊ុន Microsoft បានវិនិយោគរាប់ពាន់លានដុល្លារលើ OpenAI និងកាលពីថ្ងៃពុធ នេះបានប្រកាសថានឹងបញ្ចេញរបាយការណ៍ដែលបានកត់សម្គាល់ឃើញថា AI ត្រូវបានរំពឹងថានឹងជំរុញនូវសកម្មភាពឆបោក (Malicious Social Engineering) ដែលបណ្តាលឱ្យមានការចម្លងរូបភាព (Deepfake) និងសម្លេង។ ការគំរាមកំហែងដល់លទ្ធិប្រជាធិបតេយ្យបានកើនឡើងជាង ៥០ប្រទេសតាមរយៈការបោះឆ្នោត ដែលពង្រីកនូវព័ត៌មានមិនពិត និងត្រូវបានកើតឡើងរួចមកហើយ។ ក្រុមហ៊ុន Microsoft បានផ្តល់នូវឧទាហរណ៍ខ្លះដូចករណីដែល AI Accounts និង Assets របស់ក្រុមអ្នកប្រើប្រាស់ហើយត្រូវបានគេបិទ៖
– ក្រុមចារកម្មសាយប័រកូរ៉េខាងជើង Kimsuky បានប្រើ LLMs ដើម្បីស្វែងរកក្រុមបរទេសនិយមដែលសិក្សានៅក្នុងប្រទេស និងបង្កើតមាតិកាដែលទំនងជាត្រូវបានប្រើនៅក្នុងការបន្លំ Spear-Phishing។
– ឆ្មាំបដិវត្តអ៊ីរ៉ង់ក៏បានប្រើ LLMs ដើម្បីជួយដល់ការឆបោក Social Engineering ការដោះស្រាយបញ្ហានៅក្នុងកម្មវិធី (Software) និងសិក្សាពីរបៀបដែលអ្នកឈ្លានពានអាចគេចពីការតាមចាប់នៅក្នុងការសម្របសម្រួលដើម្បីអាចគ្រប់គ្រងលើ Network។ ទាំងនោះរួមមានការបង្កើតអ៊ីម៉ែលសម្រាប់ឆបោកដូចជា មាននរណាម្នាក់ក្លែងជាមកពីភ្នាក់ងារអភិវឌ្ឍអន្តរជាតិ និងព្យាយាយលួងជនរងគ្រោះឱ្យចូលទៅកាន់គេហទំព័រឆបោក។ នៅក្នុងរឿងនេះ AI ជួយបង្កើនល្បឿន និងជំរុញដល់ការបង្កើតអ៊ីម៉ែល។
– អង្គភាពស៊ើបការណ៍យោធា GRU រុស្ស៊ី Fancy Bear បានប្រើ LLMs ដើម្បីស្រាវជ្រាវរកបច្ចេកវិទ្យា Satellite និងរ៉ាដា ដែលប្រហែលជាពាក់ព័ន្ធទៅនឹងសង្រ្គាមនៅអ៊ុយក្រែន។
– ក្រុមចារកម្មសាយប័រចិន Aquatic Panda ដែលមានគោលដៅលើឧស្សាហកម្ម វិស័យអប់រំ និងរដ្ឋាភិបាលប្រទេសបារាំង និងម៉ាឡេស៊ី បានប្រើ LLMs នេះជាមធ្យោបាយសម្រាប់ស្វែងរករបៀបដែល LLMs អាចបង្កើនប្រតិបត្តិការបច្ចេកទេសរបស់ពួកគេ។
– ក្រុមហេគចិន Maverick Panda ដែលមានគោលដៅលើក្រសួងការពារជាតិអាមេរិកបានប្រើ LLMs សម្រាប់ការវាយតម្លៃប្រសិទ្ធភាពរបស់ LLMs ខណៈពេលដែលវាជាប្រភពព័ត៌មានលើប្រធានបទ បុគ្គលល្បី (High Profile Individuals) ភូមិសាស្រ្តនយោបាយក្នុងតំបន់ ឥទ្ធិពលអាមេរិក និងកិច្ចការផ្ទៃក្នុងផងដែរ។
នៅក្នុងប្លុកផ្សេងដែលបានចេញផ្សាយកាលពីថ្ងៃពុធ OpenAI បានថ្លែងថា បច្ចេកវិទ្យាដែលបានរកឃើញស្របគ្នានឹងការវាយតម្លៃពីមុនដែលបានរកឃើញរបស់ Chatbot GTP-4។ កាលពីខែមេសា នាយកទីភ្នាក់ងារសន្តិសុខសាយប័រអាមេរិក លោក Jen Easterly បានប្រាប់សភាថា មានការគំរាមកំហែង និងបញ្ហាប្រឈមចំនួនពីរគឺចិន និង AI។ លោកបានបន្ថែមថា ដល់ពេលដែលអាមេរិកត្រូវធានាថា AI ត្រូវបានបង្កើតឡើង និងដាក់ឱ្យប្រើប្រាស់ប្រកបដោយសុវត្ថិភាព។ ការរិះគន់ពីការបញ្ចេញ ChatGPT ជាសាធានារណៈកាលពីចុងឆ្នាំ២០២២ និងបញ្ចេញដោយគូប្រជែងរវាងក្រុមហ៊ុន Google និង Meta ថាវាការប្រញាប់ប្រញាល់ដោយគ្មានការទទួលខុសត្រូវ ដោយចាត់ទុកថាសន្តិសុខភាគច្រើនពិតជាបានគិតគូរក្រោយបញ្ហាដែលកើតឡើង។ នាយកប្រតិបត្តិក្រុមហ៊ុន Tenable លោក Amit Yoran បានពោលថា ការពិតណាស់ឧក្រឹដ្ឋជនកំពុងតែប្រើ LLMs ដែលត្រូវបានធ្វើឡើងនៅពេល Pandora’s Box ត្រូវបានបើក ។ អ្នកជំនាញសន្តិសុខសាយប័របានរិះគន់ពីការបង្កើត និងការប្រើប្រាស់មុខងារ Tools ដោះស្រាយបញ្ហាភាពងាយរងគ្រោះនៅក្នុង LLMs របស់ក្រុមហ៊ុន Microsoft នៅពេលដែលក្រុមហ៊ុនគួរតែយកចិត្តទុកដាក់ធ្វើយ៉ាងណាឱ្យវាមានសុវត្ថិភាព។ លោក Gary McGraw អតីតយុទ្ធជនផ្នែកសន្តិសុខកុំព្យូព័រ និងជាស្ថាបនិកនៃវិទ្យាស្ថាន Berryville Institute of Machine Learning បានសួរថា ហេតុអ្វីបានជាក្រុមហ៊ុនមិនបង្កើត Black-box LLM ដែលមានសុវត្ថិភាព សម្រាប់ជំនួសឱ្យការលក់ឧបករណ៍ការពារ។ សាស្រ្តាចារ្យនៅ NYU បានថ្លែងថា ខណៈពេលនៃការប្រើ AI និង LLMs អាចនឹងមិនបង្កបញ្ហាភ្លាមៗនោះទេ។ ប៉ុន្តែ វានឹងក្លាយជាអាវុធដ៏មានឥទ្ធិពលនៅក្នុងបទល្មើសយោធារបស់ប្រទេសនីមួយៗ៕
ប្រភពព័ត៌មាន៖ ថ្ងៃទី១៤ ខែកុម្ភៈ ឆ្នាំ២០២៤
