ក្រុមហ៊ុន Google បានប្រកាសពីការពង្រីកការប្រើប្រាស់កម្មវិធីផ្តល់រង្វាន់ (Vulnerability Rewards Program (VRP)) ចំពោះអ្នកស្រាវជ្រាវដែលបានរកឃើញនូវភាពងាយរងគ្រោះនានា ដែលកើតមានចំពោះប្រព័ន្ធ AI (artificial intelligence) ក្នុងគោលដៅពង្រឹងសុវត្ថិភាព និងសន្តិសុខប្រព័ន្ធ AI (bolster AI safety and security)។
![Artificial Intelligence Threats](https://i0.wp.com/blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEg2Vwp-vsNIe0a-UKv_0y-uByLG9X4k25T12nG4Nuz2Y5BWgZqPF0ijb9Apxdw4XlZEfm7lnQVnvroDe5zuwQDn_QmfGXf-GBo3PNky4zmT81iP8CJ-qB3k5bnZotN1G25buLwpOhqKiL3HFFt8lCtgpu-GK8k7i_jeCKlqU9KYO2HqdYzwRfK0Ma3IdN3u/s728-rw-ft-e30/execute.jpg?w=696&ssl=1)
លោកស្រី Laurie Richardson និងលោក Royal Hansen ជាថ្នាក់ដឹកនាំផ្នែកសុវត្ថិភាពក្រុមហ៊ុន Google បានថ្លែងថា បច្ចេកវិទ្យា AI ជំនាន់ថ្មី បង្កើតនូវការព្រួយបារម្ភជាងជំនាន់ចាស់ដូចជា សក្តានុពលនៃការលំអៀង ភាពមិនត្រឹមត្រូវ ការរៀបចំគម្រូ ឬការបកស្រាយខុសពីទិន្នន័យ (ការយល់ច្រលំ)។ ផ្នែកខ្លះនៃ Categories រួមមាន Prompt Injection, ការលេចធ្លាយនៃព័ត៌មានសំខាន់ៗពី Training Datasets, ការរៀបចំគម្រូ (Model Manipulation), ការវាយប្រហារបង្កឱ្យមានភាពច្របូកច្របល់ដែលបង្កឡើងដោយក្រុមហេគឃ័រ ជាហេតុបណ្តាលឱ្យមានការចាត់ថ្នាក់ខុស និងការលួចចម្លងគម្រូ (model) ជាដើម។ គួរឱ្យកត់សម្គាល់ដែរថា ក្រុមហ៊ុន Google កាលពីដើមខែកក្កដា បានណែនាំពីការបង្កើតក្រុម AI Red Team សម្រាប់ជួយចង្អុលបង្ហាញពីការគំរាមកំហែងលើប្រព័ន្ធ AI ដែលជាផ្នែកមួយនៃគ្រោងការណ៍សុវត្ថិភាព AI (Secure AI Framework (SAIF))។ ជាងនេះទៀត ក្រុមហ៊ុនក៏បានប្រកាសពីការប្តេជ្ញាចិត្តរក្សានូវសុវត្ថិភាព AI ដោយការពង្រឹងនូវខ្សែចង្វាក់ផ្គត់ផ្គង់ AI តាមរយៈសុវត្ថិភាព Open-Source ដែលមានស្រាប់ដូចជា Supply Chain Levels សម្រាប់ Software Artifacts (SLSA) និង Sigstore។
ក្រុមហ៊ុន Google ក៏បានបន្តថា ហត្ថលេខាឌីជីថលដូចជា Sigstore ដែលអនុញ្ញាតឱ្យអ្នកប្រើប្រាស់អាចបញ្ជាក់ (Verify) ថាកម្មវិធីនោះមិនមានបញ្ហា (Tampered) ឬ ជំនួស (Replaced) បាន។ Metadata ដូចជា SLSA ជាភស្តុតាងបង្ហាញប្រាប់យើងនូវអ្វីៗដែលមាននៅក្នុងកម្មវិធី និងពីរបៀបដែលកម្មវិធីត្រូវបានបង្កើតឡើង ដែលអនុញ្ញាតឱ្យអតិថិជនអាចធានាបាននូវអាជ្ញាប័ណ្ណ (Ensure License Compatibility), ដឹងពីភាពងាយរងគ្រោះ (Identify Know Vulnerabilities) និងដឹងពីការគំរាមកំហែងថែមទៀត (Detect More Advanced Threats)។ ក្រុមហ៊ុន OpenAI ក៏បានបង្ហើបប្រាប់ពីការរៀបចំក្រុមការពារផ្នែកខាងក្នុង (Internal Preparedness Team)ផងដែរ ដើម្បីតាមដាន វាយតម្លៃ ព្យាករណ៍ និងការពារប្រឆាំងទៅនឹងហានិភ័យ Cybersecurity, Chemical, Biological, Radiological បូករួមទាំងនុយក្លេអ៊ែ (CBRN) ដើម្បីសុវត្ថិភាពនៃការពង្រីកខ្លួនរបស់ AI៕
ប្រភពព័ត៌មាន៖ ថ្ងៃទី២៧ ខែតុលា ឆ្នាំ២០២៣
ប្រែសម្រួលដោយ៖ កញ្ញា