អ្នកស្រាវជ្រាវបានបង្ហាញថា វាអាចទៅរួចចំពោះការកេងចំណេញលើ real-time voice API របស់ OpenAI ជំនាន់ ChatGPT-40 ដែលជា LLM Chatbot ឈានមុខ សម្រាប់ឆបោកប្រាក់ដែលមានអត្រាជោគជ័យពីទាបទៅមធ្យម។
ChatGPT-40 គឺជា AI model ចុងក្រោយបំផុតរបស់ OpenAI ដែលមានបំពាក់មកជាមួយនូវការជំរុញមុខងារជាច្រើនដូចជាការរួមបញ្ចូលអត្ថបទ សំឡេង និង Vision Inputs និង Outputs។ អាស្រ័យលើមុខងារថ្មីរបស់ OpenAI បានរួមបញ្ចូលនូវមុខងារសុវត្ថិភាពផ្សេងៗដើម្បីតាមចាប់ និងស្ទាក់មាតិកាគ្រោះថ្នាក់ដូចជាថតចម្លងសំឡេងដែលគ្មានការអនុញ្ញាត។
ការឆបោកផ្អែកលើសំឡេងគឺជាបញ្ហាដែលបណ្តាលឱ្យខាតបង់ប្រាក់រាប់លានដុល្លាររួចទៅហើយ ហើយការលេចឡើងនូវបច្ចេកវិទ្យា Deepfake និង AI-Powered Text-To-Speech Tools ធ្វើឱ្យស្ថានភាពកាន់តែអាក្រក់ឡើងៗ។ ខណៈពេលដែលអ្នកស្រាវជ្រាវនៅ UIUC បានបង្ហាញនៅក្នុងឯកសារស្រាវជ្រាវរបស់ពួកគេថា មុខងារថ្មីរបស់បច្ចេកវិទ្យាដែលបច្ចុប្បន្នអាចស្វែងរកបានដោយគ្មានការរឹតបន្តឹង និងគ្មានការការពារប្រឆាំងនឹងការបំពានអាចកើតមានដោយសារឧក្រិដ្ឋជនសាយប័រ និងជនឆបោក។ មុខងារទាំងនេះអាចត្រូវបានប្រើសម្រាប់ឌីស្សាញ និងដំណើរការ ការឆបោកទ្រង់ទ្រាយធំដោយមិនចាំបាច់ប្រើមនុស្ស ប្រើតែសំឡេង (voice generation events)។
ការសិក្សាលទ្ធផល៖ លទ្ធផលសិក្សារបស់អ្នកស្រាវជ្រាវរកឃើញការឆបោកផ្សេងៗដូចជាការផ្ទេរប្រាក់ធនាគារ ការដកហូត Gift Card ការផ្ទេរប្រាក់គ្រីបតូ និងការលួចព័ត៌មានសម្ងាត់គណនីបណ្តាញសង្គម ឬ Gmail។ ទីភ្នាក់ងារ AI ដែលឆបោកប្រើ Voice-enabled ChatGPT-40 automation tools ដើម្បីរុករកផេក (navigate pages) ការបញ្ចូលទិន្នន័យ ការគ្រប់គ្រងកូដផ្ទៀងផ្ទាត់ពីរជាន់ និងការណែនាំទាក់ទងនឹងការឆបោកជាក់លាក់។ ដោយសារតែ GPT-40 ពេលខ្លះបដិសេធមិនព្រមគ្រប់គ្រងទិន្នន័យសម្ងាត់ដូចជាអត្តសញ្ញាណ អ្នកស្រាវជ្រាវបានប្រើបច្ចេកទេស Jailbreaking ភ្លាមៗដើម្បីឆ្លងកាត់ការការពារទាំងនេះ។ ជំនួសឱ្យមនុស្សពិត អ្នកស្រាវជ្រាវបានបង្ហាញពីរបៀបដែលពួកគេទំនាក់ទំនងជាមួយទីភ្នាក់ងារ AI ដោយដៃ ធ្វើត្រាប់តាមតួនាទីជនរងគ្រោះដែលងាយយល់ច្រលំ ដោយប្រើប្រាស់គេហទំព័រពិតៗដូចជា Bank of America ដើម្បីបញ្ជាក់ពីប្រតិបត្តិការផ្ទេរប្រាក់ដែលជោគជ័យ។ អ្នកស្រាវជ្រាវពន្យល់ថា យើងដាក់ពង្រាយទីភ្នាក់ងាររបស់យើងលើសំណុំរង (Subset) នៃការឆបោកទូទៅ។ យើងបានក្លែងបន្លំការឆបោកដោយធ្វើអន្តរកម្មដោយដៃជាមួយទីភ្នាក់ងារសំឡេង AI ដោយដើរតួជាជនរងគ្រោះដែលគួរឱ្យទុកចិត្ត។ ដើម្បីកំណត់ភាពជោគជ័យ យើងបានបញ្ជាក់ដោយដៃ ថាតើស្ថានភាពបញ្ចប់ត្រូវបានសម្រេចនៅលើកម្មវិធី/ គេហទំព័រពិត ឬអត់។ ឧទាហរណ៍៖ យើងបានប្រើ Bank of America សម្រាប់ការឆបោកផ្ទេរប្រាក់តាមធនាគារ ហើយបញ្ជាក់ថា លុយពិតជាត្រូវបានផ្ទេរ។ ទោះជាយ៉ាងណា យើងមិនបានវាស់ស្ទង់ពីសមត្ថភាពបញ្ចុះបញ្ចូលរបស់ភ្នាក់ងារទាំងនេះទេ។
ជារួមមក អត្រាជោគជ័យមានចន្លោះពី ២០-៦០% ជាមួយនឹងការប៉ុនប៉ងនីមួយៗតម្រូវឱ្យមានសកម្មភាពរុករក (Browser) រហូតដល់ទៅ ២៦ និងមានរយៈពេលរហូតដល់ ៣នាទីក្នុងសេណារីយូស្មុគស្មាញបំផុត។ ធនាគារផ្ទេរប្រាក់ និងការក្លែងបន្លំទីភ្នាក់ងារ IRS ដែលបរាជ័យភាគច្រើនដោយសារតែកំហុសនៃអត្ថបទ (Transcription errors) ឬតម្រូវការរុកគេហទំព័រស្មុគស្មាញពេក (navigation requirements)។ ទោះជាយ៉ាងណា អត្តសញ្ញាណដែលបានលួចពី Gmail ជោគជ័យ ៦០% ខណៈដែលការផ្ទេរគ្រីបតូ និងការលួចព័ត៌មានពី Instagram ជោគជ័យតែ ៤០% ប៉ុណ្ណោះ។ ចំពោះតម្លៃវិញ អ្នកស្រាវជ្រាវកត់សម្គាល់ឃើញថា ប្រតិបត្តិការនៃការឆបោកទាំងនេះមានតម្លៃមិនថ្លៃទេ ត្រឹមតែ ០,៧៥ដុល្លារ។ ការឆបោកផ្ទេរប្រាក់តាមធនាគារ ដែលមានភាពស្មុគស្មាញជាងនេះមានតម្លៃ ២,៥១ដុល្លារ។ ទោះជាតម្លៃខ្ពស់ជាងនេះក្តី ក៏តម្លៃនេះនៅតែទាបបើប្រៀបទៅនឹងប្រាក់ចំណេញដែលរកបានពីប្រភេទនៃការឆបោក។
ការឆ្លើយតបរបស់ OpenAI៖ OpenAI ប្រាប់សារព័ត៌មាន BleepingComputer ថា ម៉ូឌែលចុងក្រោយរបស់ខ្លួន 01 (បច្ចុប្បន្នជំនាន់ Preview) ដែល Support “វែកញែកកម្រិតខ្ពស់ (advanced reasoning)” ត្រូវបានបង្កើតឡើងជាមួយនឹងការការពារប្រសើរជាងមុន ប្រឆាំងនឹងប្រភេទនៃការបំពាននេះ។ OpenAI ក៏កត់សម្គាល់ដែរថា អត្ថបទពី UIUC ជួយពួកគេបង្កើត ChatGPT ឱ្យកាន់តែល្អឡើង ដោយបញ្ឈប់សកម្មភាពកេងចំណេញ ហើយអ្នកស្រាវជ្រាវតែងតែស៊ើបអង្កេតពីរបៀបដែលពួកគេអាចបង្កើនភាពរឹងមាំរបស់ពួកគេ។ GPT-40 រួមបញ្ចូលវិធានការមួយចំនួន ដើម្បីការពារការកេងចំណេញ រួមទាំងរឹតបន្តឹងលើការបង្កើតសំឡេងទៅជាសំណុំនៃសំឡេង (set of pre-approved voices) ដើម្បីការពារការក្លែងបន្លំ។ 01-Preview ទទួលបានពិន្ទុខ្ពស់ បើយោងតាមការវាយតម្លៃនៃសុវត្ថិភាព Jailbreak របស់ OpenAI ដែលវាស់វែងពីម៉ូឌែលសម្រាប់ទប់ទល់នឹងការបង្កើតមាតិកា ដែលមិនមានសុវត្ថិភាពក្នុងការឆ្លើយតបនឹងជនខិលខូច ដោយទទួលបានពិន្ទុ ៨៤% ទល់នឹង ២២% សម្រាប់ GPT-40។ នៅពេលធ្វើតេស្តសាកល្បងប្រើសំណុំថ្មី (set of new) ការវាយតម្លៃសុវត្ថិភាពទាមទារកាន់តែច្រើន 01-Preview ទទួលបានពិន្ទុខ្ពស់ ៩៣% ទល់នឹង ៧១% សម្រាប់ GPT-40។ សន្មតថា LLMs កម្រិតខ្ពស់មានភាពធន់នឹងការបំពានកាន់តែប្រសើរឡើង នោះជំនាន់ចាស់នឹងត្រូវលុបចោលតាមដំណាក់កាល។ ទោះជាយ៉ាងណា ហានិភ័យនៃហេគឃ័រដែលប្រើ Voice-enabled chatbots ផ្សេងទៀតជាមួយនឹងការរឹតបន្តឹងតិចតួចនៅតែមាន ហើយការសិក្សាដូចជាការលើកឡើងនេះបង្ហាញពីសក្តានុពលនៃការខូចខាតដ៏ច្រើនដែលឧបករណ៍ថ្មីទាំងនេះមាន៕
ប្រភពព័ត៌មាន៖ ថ្ងៃទី០៣ ខែវិច្ឆិកា ឆ្នាំ២០២៤
