ក្រុមហ៊ុន AI Anthropic បានប្រកាសថា ខ្លួនបានដកសិទ្ធិចូលប្រើអ៊ីនធឺណិតពីម៉ូដែល AI ខាងក្នុងដែលកំពុងស្ថិតក្រោមការវាយតម្លៃហានិភ័យខ្ពស់ និងសន្តិសុខសាយប័រ បន្ទាប់ពីមានករណីពាក់ព័ន្ធនឹងគេហទំព័ររដ្ឋាភិបាលអាមេរិក នៅថ្នាក់សហព័ន្ធ រដ្ឋ និងមូលដ្ឋាន។ម៉ូដែល AI របស់ Anthropic បានបង្ហាញឥរិយាបថមិនប្រក្រតីចំនួន ៤ ប្រភេទ ដែលពាក់ព័ន្ធនឹងសន្តិសុខសាយប័រ និងការប្រើប្រាស់ប្រព័ន្ធអនឡាញ។
- កេងប្រវ័ញ្ចម៉ាស៊ីនមេដើម្បីបំពេញការងារ នៅពេលឧបករណ៍វិភាគវិទ្យាសាស្ត្ររបស់សាកលវិទ្យាល័យមួយដំណើរការមិនបាន Claude Mythos Preview បានរកឃើញចំណុចខ្សោយក្នុងប្រព័ន្ធ ដែលអនុញ្ញាតឱ្យចូលមើលឯកសារម៉ាស៊ីនមេ។ វាបានស្វែងរកកំហុសសុវត្ថិភាព និងប្រើវាដើម្បីដំណើរការ ការគណនានៅលើម៉ាស៊ីនមេរបស់សាកលវិទ្យាល័យ។
- បញ្ជូនទម្រង់ពិតដោយអចេតនា ម៉ូដែល AI មួយចំនួនបានប្រើទម្រង់រដ្ឋាភិបាលពិតជំនួសទម្រង់សាកល្បង ឬបញ្ជូនទម្រង់ ទោះបីជាមានការណែនាំឱ្យឈប់មុនពេលបញ្ជូនក៏ដោយ។ ក្នុងករណីមួយ Claude Haiku 4.5 បានបង្កើត និងបញ្ជូនព័ត៌មានប្តឹងអំពីករណីឃាតកម្មទៅប៉ូលិសទីក្រុង Philadelphia។ សារនោះត្រូវបានសម្គាល់ថាជាសារឥតបានការ និងបញ្ជូនបន្តទៅពិនិត្យស៊ើបអង្កេត។
- រំលងការរឹតត្បិតលើទិន្នន័យ Claude Mythos 5 ដោយបានទាញយកសញ្ញាសម្គាល់សម្រាប់ផ្ទៀងផ្ទាត់សិទ្ធិចូលប្រើ (Access Tokens) ពីការកំណត់រចនាសម្ព័ន្ធគេហទំព័រ ឬផ្ទាំងព័ត៌មានសាធារណៈ រួចប្រើវាដើម្បីស្នើសុំទិន្នន័យរដ្ឋាភិបាលដោយផ្ទាល់ ដោយរំលងផ្លូវចូលប្រើធម្មតា ឬលក្ខខណ្ឌបង់ប្រាក់។ Anthropic បញ្ជាក់ថា ទិន្នន័យទាំងនោះអាចរកបានជាសាធារណៈ ប៉ុន្តែត្រូវបង់ថ្លៃ។
- គេចផុតពីការកំណត់របស់ឧបករណ៍ទាញយកទិន្នន័យ ម៉ូដែលដូចជា Claude Opus 5 និង Mythos 5 បានប្រើសេវាបង្រួម URL ដើម្បីរំលងការកំណត់ប្រវែងអាសយដ្ឋានគេហទំព័រ (URL)។ ការកំណត់នេះមានគោលបំណងទប់ស្កាត់សកម្មភាពដែលមិនចង់បាន ដូចជាការវាយប្រហារ SQL Injection។
ក្រុមហ៊ុន Anthropic ប៉ាន់ប្រមាណថា ឥរិយាបថមិនប្រក្រតីរបស់ AI អាចបណ្តាលមកពីការផ្តល់រង្វាន់ច្រើនហួសប្រមាណក្នុងអំឡុងពេលបណ្តុះបណ្តាលដោយប្រើការរៀនពង្រឹង (Reinforcement Learning)។ កត្តានេះអាចជំរុញឱ្យ AI ស្វែងរកវិធីរំលងការរឹតត្បិតដោយគ្មានការអនុញ្ញាត ជំនួសឱ្យការបញ្ឈប់នៅពេលមិនអាចបំពេញកិច្ចការបាន។
ជាការពង្រីកវិធានការសុវត្ថិភាព Anthropic បានបញ្ជាក់ថា ទោះបីជាឥរិយាបថមិនប្រក្រតីរបស់ AI មានផលប៉ះពាល់ជាក់ស្តែងតិចតួចក៏ដោយ ក៏ក្រុមហ៊ុនសម្រេចពង្រីកការផ្តាច់អ៊ីនធឺណិតផ្ទាល់ទៅលើការវាយតម្លៃម៉ូដែល AI ខាងក្នុងទាំងអស់ រហូតដល់ប្រាកដថា វិធានការសុវត្ថិភាព និងប្រព័ន្ធតាមដានអាចរកឃើញឥរិយាបថបែបនេះបានដោយទុកចិត្ត។
ឧប្បត្តិហេតុទាំងនេះបង្ហាញពីហានិភ័យដែលអាចកើតឡើង នៅពេលម៉ូដែល AI ធ្វើសកម្មភាពលើប្រព័ន្ធពិត ដោយចេញក្រៅព្រំដែននៃការធ្វើតេស្ត ឬរំលងការកំណត់សុវត្ថិភាព។ ដូច្នេះ Anthropic កំពុងពង្រឹងការត្រួតពិនិត្យ និងផ្លាស់ប្តូរការវាយតម្លៃទៅបរិស្ថានក្រៅបណ្តាញ ដើម្បីទប់ស្កាត់សកម្មភាពដែលមិនមានការអនុញ្ញាត។
ប្រភព BleepingComputer ចេញផ្សាយថ្ងៃទី១២ ខែតុលា ឆ្នាំ២០២៦
