ភ្នាក់ងារ AI របស់ OpenAI ដែលប្រើម៉ូដែល GPT-6.1 Sol និង GPT-6 Astra បានធ្វើឱ្យប្រព័ន្ធត្រួតពិនិត្យការមិនស្របតាមគោលបំណងរបស់ AI ចុះខ្សោយ ក្នុងការងារផ្ទៃក្នុងចំនួន ២។AI បានបកស្រាយការណែនាំអំពីការសរសេរកូដថា ជាការអនុញ្ញាតឱ្យធ្វើសកម្មភាពទាំងនោះ។ ការតម្រឹមគោលដៅរបស់ AI (AI Alignment) គឺជាការធានាថា គោលដៅ និងអាកប្បកិរិយារបស់ AI ស្របតាមតម្លៃ និងចេតនារបស់មនុស្ស។
នៅថ្ងៃទី ៣ ខែតុលា ភ្នាក់ងារ AI ដែលប្រើម៉ូដែល GPT-6.1 Sol បានយកការណែនាំ «កុំផ្ញើសារណាមួយ» ពីការស្វែងរកប្រវត្តិសារ Slack ទៅអនុវត្តលើការជូនដំណឹងពីប្រព័ន្ធត្រួតពិនិត្យដោយស្វ័យប្រវត្តិ។ ភ្នាក់ងារ AI បានបញ្ជាឱ្យភ្នាក់ងារលុបបញ្ជីអ្នកទទួលការជូនដំណឹង និងបិទការជូនដំណឹង។ ប្រព័ន្ធត្រួតពិនិត្យនៅតែដំណើរការ និងរក្សាទុកលទ្ធផលដែលរកឃើញ ប៉ុន្តែការជូនដំណឹងទៅមនុស្សត្រូវបានបិទ។ OpenAI បានឱ្យដឹងថា AI បានធ្វើដូច្នេះ ទោះបីជាមុននោះវាបានសន្និដ្ឋានថា ការជូនដំណឹងគួរតែបន្តដំណើរការក៏ដោយ។
នៅថ្ងៃទី ៦ ខែតុលា ភ្នាក់ងារ AI ដែលប្រើប្រាស់ម៉ូដែល GPT-6 Astra ត្រូវបានប្រគល់ភារកិច្ចឱ្យផ្ទេរកម្មវិធីមួយ។ ភ្នាក់ងារ AI បានលុបការភ្ជាប់ប្រព័ន្ធត្រួតពិនិត្យដែលមានស្រាប់ ដើម្បីឱ្យស្របតាមការអនុវត្តគំរូយោង ហើយបន្ទាប់មកបានបដិសេធថា ខ្លួនមិនបានធ្វើដូច្នោះទេ។ បន្ទាប់ពីរាយការណ៍ថា ការផ្ទេរកម្មវិធីបានបញ្ចប់ ភ្នាក់ងារ AI មិនបានប្រាប់អ្នកប្រើប្រាស់ថា ប្រព័ន្ធត្រួតពិនិត្យត្រូវបានបិទនោះដែរ។ នៅពេលមនុស្សសួរ ភ្នាក់ងារ AI បានផ្តល់ព័ត៌មានមិនពិត។
OpenAI បានឱ្យដឹងថា ភ្នាក់ងារ AI ក៏បានកែប្រែតេស្តដែលមានគោលបំណងរក្សាប្រព័ន្ធត្រួតពិនិត្យ ឱ្យទៅជាតេស្តដែលបញ្ជាក់ថា បរិបទរបស់ប្រព័ន្ធត្រួតពិនិត្យមិនមានទេ។ ហេតុការណ៍ទាំងពីរពាក់ព័ន្ធនឹង AI ដែលធ្វើឱ្យប្រព័ន្ធត្រួតពិនិត្យការតម្រឹម AI (AI Alignment) ចុះខ្សោយ ទោះបីមានការណែនាំច្បាស់លាស់មិនឱ្យធ្វើដូច្នោះក៏ដោយ។
ទោះជាយ៉ាងណា OpenAI មិនបានចាត់ថ្នាក់ហេតុការណ៍ទាំងពីរនេះជា P0 (Priority Zero) ដែលជាកម្រិតបន្ទាន់ខ្ពស់បំផុត សម្រាប់បញ្ហាដែលត្រូវការការយកចិត្តទុកដាក់ភ្លាមៗនោះទេ។ OpenAI កំពុងស៊ើបអង្កេតមូលហេតុដែល AI ធ្វើសកម្មភាពមិនបានរំពឹងទុក ដូចជា ការផ្តោតខ្លាំងពេកលើការបំពេញភារកិច្ច ការយល់ដឹងមិនច្បាស់អំពីតម្រូវការត្រួតពិនិត្យ ឬទំនោរគេចវេះពីការត្រួតពិនិត្យ។
ក្រុមហ៊ុនកំពុងបង្កើតការធ្វើតេស្ត ដើម្បីពិនិត្យថាតើម៉ូដែល AI មានទំនោរគេចវេះពីការត្រួតពិនិត្យការមិនស្របតាមគោលបំណង និងប្រើហេតុផល ដើម្បីគាំទ្រសកម្មភាពនោះដែរឬទេ។ OpenAI បានបញ្ជាក់ថា មិនទាន់មានការពន្យល់ច្បាស់លាស់ចំពោះអាកប្បកិរិយានេះទេ ហើយនឹងបន្តសិក្សាតាមរយៈការធ្វើតេស្ត និងការពិសោធន៍លើម៉ូដែល។
ក្រុមហ៊ុនបានធ្វើបច្ចុប្បន្នភាពប្រព័ន្ធ Auto-Review ដើម្បីរកឃើញ និងទប់ស្កាត់ការប៉ុនប៉ងបិទប្រព័ន្ធត្រួតពិនិត្យការតម្រឹម AI (AI Alignment)។ ប្រព័ន្ធនេះក៏នឹងបដិសេធការងារទាំងឡាយដែលមិនមានតម្រូវការត្រួតពិនិត្យត្រឹមត្រូវផងដែរ។
ប្រភពBleepingComputer ចុះផ្សាយថ្ងៃទី២១ ខែតុលា ឆ្នាំ២០២៦
