ក្រុមហ៊ុន Google បានប្រកាសពីការពង្រីកការប្រើប្រាស់កម្មវិធីផ្តល់រង្វាន់ (Vulnerability Rewards Program (VRP)) ចំពោះអ្នកស្រាវជ្រាវដែលបានរកឃើញនូវភាពងាយរងគ្រោះនានា ដែលកើតមានចំពោះប្រព័ន្ធ AI (artificial intelligence) ក្នុងគោលដៅពង្រឹងសុវត្ថិភាព និងសន្តិសុខប្រព័ន្ធ AI (bolster AI safety and security)។
លោកស្រី Laurie Richardson និងលោក Royal Hansen ជាថ្នាក់ដឹកនាំផ្នែកសុវត្ថិភាពក្រុមហ៊ុន Google បានថ្លែងថា បច្ចេកវិទ្យា AI ជំនាន់ថ្មី បង្កើតនូវការព្រួយបារម្ភជាងជំនាន់ចាស់ដូចជា សក្តានុពលនៃការលំអៀង ភាពមិនត្រឹមត្រូវ ការរៀបចំគម្រូ ឬការបកស្រាយខុសពីទិន្នន័យ (ការយល់ច្រលំ)។ ផ្នែកខ្លះនៃ Categories រួមមាន Prompt Injection, ការលេចធ្លាយនៃព័ត៌មានសំខាន់ៗពី Training Datasets, ការរៀបចំគម្រូ (Model Manipulation), ការវាយប្រហារបង្កឱ្យមានភាពច្របូកច្របល់ដែលបង្កឡើងដោយក្រុមហេគឃ័រ ជាហេតុបណ្តាលឱ្យមានការចាត់ថ្នាក់ខុស និងការលួចចម្លងគម្រូ (model) ជាដើម។ គួរឱ្យកត់សម្គាល់ដែរថា ក្រុមហ៊ុន Google កាលពីដើមខែកក្កដា បានណែនាំពីការបង្កើតក្រុម AI Red Team សម្រាប់ជួយចង្អុលបង្ហាញពីការគំរាមកំហែងលើប្រព័ន្ធ AI ដែលជាផ្នែកមួយនៃគ្រោងការណ៍សុវត្ថិភាព AI (Secure AI Framework (SAIF))។ ជាងនេះទៀត ក្រុមហ៊ុនក៏បានប្រកាសពីការប្តេជ្ញាចិត្តរក្សានូវសុវត្ថិភាព AI ដោយការពង្រឹងនូវខ្សែចង្វាក់ផ្គត់ផ្គង់ AI តាមរយៈសុវត្ថិភាព Open-Source ដែលមានស្រាប់ដូចជា Supply Chain Levels សម្រាប់ Software Artifacts (SLSA) និង Sigstore។
ក្រុមហ៊ុន Google ក៏បានបន្តថា ហត្ថលេខាឌីជីថលដូចជា Sigstore ដែលអនុញ្ញាតឱ្យអ្នកប្រើប្រាស់អាចបញ្ជាក់ (Verify) ថាកម្មវិធីនោះមិនមានបញ្ហា (Tampered) ឬ ជំនួស (Replaced) បាន។ Metadata ដូចជា SLSA ជាភស្តុតាងបង្ហាញប្រាប់យើងនូវអ្វីៗដែលមាននៅក្នុងកម្មវិធី និងពីរបៀបដែលកម្មវិធីត្រូវបានបង្កើតឡើង ដែលអនុញ្ញាតឱ្យអតិថិជនអាចធានាបាននូវអាជ្ញាប័ណ្ណ (Ensure License Compatibility), ដឹងពីភាពងាយរងគ្រោះ (Identify Know Vulnerabilities) និងដឹងពីការគំរាមកំហែងថែមទៀត (Detect More Advanced Threats)។ ក្រុមហ៊ុន OpenAI ក៏បានបង្ហើបប្រាប់ពីការរៀបចំក្រុមការពារផ្នែកខាងក្នុង (Internal Preparedness Team)ផងដែរ ដើម្បីតាមដាន វាយតម្លៃ ព្យាករណ៍ និងការពារប្រឆាំងទៅនឹងហានិភ័យ Cybersecurity, Chemical, Biological, Radiological បូករួមទាំងនុយក្លេអ៊ែ (CBRN) ដើម្បីសុវត្ថិភាពនៃការពង្រីកខ្លួនរបស់ AI៕
ប្រភពព័ត៌មាន៖ ថ្ងៃទី២៧ ខែតុលា ឆ្នាំ២០២៣
ប្រែសម្រួលដោយ៖ កញ្ញា
