AI Hallucination คืออะไร อันตรายแค่ไหน พร้อมยกตัวอย่างจริง

ทุกวันนี้คุณมั่นใจแค่ไหนว่าคำตอบที่ได้จาก AI เป็นเรื่องจริง? เพราะในโลกของ AI นั้น นอกจากจะต้องระวังคลิปปลอมจาก Deepfake แล้ว ก็ยังมีสิ่งที่เรียกว่า AI Hallucination หรืออาการหลอนของ AI ที่ชอบแต่งเรื่องหรือกุประวัติศาสตร์ขึ้นมาใหม่ด้วยน้ำเสียงที่มั่นใจสุด ๆ จนมนุษย์แยกไม่ออก หลายคนอาจมองเป็นเรื่องตลก แต่จริงๆ แล้วมันอาจสร้างปัญหาต่างๆ ตามมาได้โดยที่คุณไม่รู้ตัว และในบทความนี้จะพาคุณไปหาคำตอบว่าอาการหลอนนี้เกิดจากอะไร แล้วมีวิธีดูยังไงว่าคำตอบไหนเป็นของจริง คำตอบไหนเป็นเรื่องกุขึ้นมา ก่อนที่คุณจะตกเป็นเหยื่อรายต่อไปโดยไม่รู้ตัว

AI Hallucination คืออะไร?

AI Hallucination คือ อาการผิดปกติอย่างหนึ่งของ AI ที่แต่งเรื่องโกหก สร้างสถิติปลอม หรือบิดเบือนข้อเท็จจริงขึ้นมาเองดื้อๆ โดยมันจะส่งคำตอบเหล่านั้นกลับมาให้เราด้วยน้ำเสียงที่มั่นใจจนดูแนบเนียนมาก เพราะมันเองก็มั่นใจว่าคำตอบที่สร้างขึ้นมาถูกต้อง 100% แต่พอเราป้อนข้อมูลที่ถูกต้องไปให้ มันก็จะรีบขอโทษและปรับแต่งผลลัพธ์ให้ใกล้เคียงกับคำตอบที่เราให้ทันที อาการนี้ไม่ได้เกิดจากความตั้งใจของ AI เอง แต่เป็นข้อจำกัดทางเทคนิคในการประมวลผลที่พร้อมจะเปลี่ยน AI ผู้ช่วยสุดฉลาด ให้กลายเป็นนักสร้างข่าวปลอมโดยที่มันเองก็ไม่รู้ตัว

AI Hallucination เกิดจากอะไร?

AI Hallucination เกิดขึ้นได้จากหลายสาเหตุ เนื่องจากระบบเบื้องหลังของ AI จะต้องประมวลผลข้อมูลมหาศาล ซึ่งต้นตอของอาการหลอนนี้มักเกิดขึ้นตั้งแต่ตอนป้อนข้อมูลไปจนถึงตอนที่ AI คิดคำนวณ โดยเราจะขอสรุปสาเหตุหลักๆ ดังนี้

• ข้อมูลที่ใช้ฝึกสอนมีปัญหา: หากข้อมูลที่นำมาใช้เทรนระบบมีข้อผิดพลาด มีข้อมูลเท็จปะปน หรือมีโทนเสียงที่ฟังดูลำเอียง AI ก็จะจดจำและนำข้อมูลเหล่านั้นมาประมวลผลเพื่อมาตอบ
• การตั้งค่าที่เน้นความสร้างสรรค์มากเกินไป: ในระบบโมเดลภาษาจะมีการตั้งค่าความสร้างสรรค์ หรือค่า Temperature หากตั้งค่านี้ไว้สูง AI ก็จะทำให้ AI เลือกเดาคำศัพท์แปลกๆ จนมโนเรื่องขึ้นมาเอง
• AI เดาใจ เพราะคำสั่งที่ไม่ชัดเจน: หากเราป้อนคำสั่งที่คลุมเครือ ไม่มีเป้าหมายแน่ชัด หรือชี้นำไปในทางที่ผิด ระบบจะเดาบริบทและสร้างคำตอบขึ้นมา แม้ว่าคำตอบนั้นจะไม่มีอยู่จริงเลย
• ข้อจำกัดของโครงสร้างโมเดล: เนื่องจากปัญญาประดิษฐ์ในปัจจุบันถูกพัฒนาขึ้นด้วยระบบ Deep Learning ทำให้บางครั้งมันจดจำข้อมูลตอนฝึกสอนมามากเกินไปจนไม่สามารถประยุกต์ใช้กับเรื่องใหม่ๆ ได้ ในทางกลับกันมันอาจจำโครงสร้างแบบหลวมๆ จนอาจบิดเบือนข้อมูลมาตอบเรา
• ไม่ได้เชื่อมต่อข้อมูลปัจจุบัน: AI หลายตัวไม่ได้เข้าถึงอินเทอร์เน็ตแบบเรียลไทม์ เวลาที่เราถามถึงเรื่องราวใหม่ๆ หรือข้อมูลเฉพาะทางที่ไม่มีอยู่ในฐานข้อมูลเดิม มันจึงเลือกที่จะเดาคำตอบถัดไปที่น่าจะใช่ที่สุด แทนการปฏิเสธว่าไม่รู้ จนเกิดเป็นอาการหลอนที่เราพบได้บ่อย

แล้วปัญหาของ AI Hallucination คืออะไร?

แม้ว่าอาการหลอนของ AI อาจจะดูเป็นเรื่องตลกขบขันสำหรับบางคนที่ไม่ได้ใช้งาน AI จริงๆ จังๆ แต่ในความเป็นจริงแล้ว ปัญหานี้อาจส่งผลร้ายแรงในวงกว้าง โดยเฉพาะถ้าคุณเริ่มพึ่งพา AI ในการทำงานหรือการตัดสินใจสำคัญๆ สำหรับปัญหาที่อาจตามมามีดังนี้

• เผยแพร่ข้อมูลเท็จในวงกว้าง: เมื่อ AI สร้างข้อมูลปลอมที่น่าเชื่อถือขึ้นมา คนที่ไม่ทันตรวจสอบจะนำข้อมูลนั้นไปแชร์ต่อจนเกิดข่าวปลอมและข้อมูลที่บิดเบือนกระจายอยู่บนโลกออนไลน์อย่างรวดเร็ว ต่อให้แก้ไขข้อมูลเรียบร้อย แต่ข้อมูลก็อาจฝังรากลึกลงไปในความคิดของใครหลายคนไปแล้ว
• ความเสียหายในสายงานที่เกี่ยวข้องกับความเป็นความตาย: หากผู้ที่ประกอบอาชีพที่เกี่ยวข้องกับสายงานวิชาชีพและกฎหมายนำคำตอบของ AI ไปใช้โดยไม่ได้รีเช็กอีกที อาจเกิดความผิดพลาดร้ายแรงตามมา เช่น ทนายความที่ใช้ข้อกฎหมายปลอมที่ AI แต่งขึ้นในชั้นศาล หรือนักศึกษาที่อ้างอิงงานวิจัยที่ไม่มีอยู่จริง หรือหากบุคลากรทางการแพทย์นำ AI ไปใช้วินิจฉัยโรคจนแนะนำวิธีรักษาแบบผิดๆ หรือจ่ายยาผิดชนิด ก็อาจส่งผลขั้นรุนแรงถึงแก่ชีวิตของผู้ป่วยได้เลย
• ทำลายความน่าเชื่อถือขององค์กร: หากบริษัทนำ AI มาให้บริการลูกค้าและ AI ให้ข้อมูลสินค้าแบบผิดๆ กับลูกค้า ก็จะทำให้ลูกค้าไม่เชื่อใจองค์กรนั้นและอาจเปลี่ยนใจไปเลือกคู่แข่งที่น่าเชื่อถือกว่าทันที
• ความเสี่ยงด้านความปลอดภัยทางไซเบอร์: AI อาจจะหลอนจนสร้างโค้ดคอมพิวเตอร์ที่มีช่องโหว่ หรือแนะนำซอฟต์แวร์ปลอมที่มีไวรัสฝังอยู่ ทำให้องค์กรเสี่ยงต่อการถูกโจมตีง่ายกว่าเดิม

แล้วมีวิธีสังเกต AI Hallucination ได้อย่างไรบ้าง?

การจะจับผิดว่า AI ให้ผลลัพธ์ที่เป็นความจริงหรือกำลังมโนข้อมูลขึ้นมานั้นไม่ใช่เรื่องง่ายเลย เพราะระบบมักจะตอบกลับมาด้วยภาษาที่ดูเป็นมืออาชีพมากๆ แต่ถึงอย่างนั้นเราก็มีวิธีจับพิรุธอาการหลอนได้ด้วยตัวเอง โดยการสังเกตสัญญาณเตือนและใช้วิธีตรวจสอบง่ายๆ ดังต่อไปนี้

1. ถามคำถามเดิมซ้ำๆ

ให้คุณลองส่งคำถามเดิมหรือเปลี่ยนคำในคำถามเล็กน้อย แล้วลองถามในบทสนทนาเดิมอีกครั้ง หาก AI เริ่มให้ข้อมูล ตัวเลข หรือเหตุการณ์ที่ขัดแย้งกับคำตอบแรก แสดงว่าระบบกำลังหลอนและเริ่มเดาสุ่มข้อมูลให้คุณแล้ว

2. สแกนหาแหล่งอ้างอิง

ให้คุณลองขอให้ AI แนบลิงก์เว็บไซต์ ชื่อหนังสือ หรือชื่องานวิจัยเพื่อยืนยันคำตอบว่าถูกต้องจริงๆ แล้วลองกดเข้าไปดูลิงก์หรือเอาชื่อเหล่านั้นไปค้นหาต่อใน Google อีกที เพราะบ่อยครั้งที่อาการหลอนจะแสดงออกมาในรูปแบบของการกุชื่อผู้เชี่ยวชาญ ปลอมแปลงชื่อวารสาร หรือสร้าง URL ปลอมขึ้นมา แต่พอเปิดเข้าไปกลับเป็นหน้าเว็บที่ไม่มีอยู่จริง หรือขึ้นว่า Error 404

3. สังเกตการใช้คำที่ดูมั่นใจเกินเหตุ

เวลาคุณสอบถามข้อมูลที่เน้นข้อเท็จจริงแล้วคำตอบที่ได้กลับมาดูมั่นใจสุดๆ แต่พออ่านดูดีๆ แล้วกลับไม่มีสาระสำคัญอะไรเลย หรือพอดูตัวเลขสถิติจริงๆ ก็พบว่าตัวเลขมันดูสวยเกินไป เช่น 100% ทั้งๆ ที่ในความเป็นจริงแล้วแทบจะเป็นไปไม่ได้เลยที่จะไม่มีความคลาดเคลื่อนอยู่ในนั้น นั่นก็เพราะ AI กำลังใช้ทักษะทางภาษามาแต่งประโยคให้ดูสวยหรูเพื่อปกปิดความไม่รู้ของตัวเอง และพยายามตอบคำถามของเราให้จบๆ ไป แต่พอเราถามว่าแน่ใจใช่ไหม มันก็รีบกลับลำแล้วเปลี่ยนคำตอบใหม่ให้ทันที

4. ดูช่วงเวลาและเหตุการณ์ที่เกิดขึ้นในปัจจุบัน

เนื่องจาก AI แต่ละตัวจะมีช่วงเวลาอัปเดตข้อมูลที่ไม่เท่ากัน หากคุณลองถามเกี่ยวกับเหตุการณ์เพิ่งเกิดขึ้นเมื่อวาน ข่าวด่วน หรือข้อมูลสถิติล่าสุดของปีนี้ แล้ว AI กลับตอบกลับมาเป็นฉากๆ ราวกับรู้เหตุการณ์ทั้งหมด ให้ตั้งข้อสงสัยไว้ก่อนเลยว่าข้อมูลเหล่านั้นอาจมีทั้งข้อมูลจริงและข้อมูลที่แต่งขึ้นมา เพราะตัวระบบจริงๆ อาจจะยังไม่มีข้อมูลชุดนั้นอยู่ในระบบเลยด้วยซ้ำ

รวมตัวอย่าง AI Hallucination ที่เกิดขึ้นจริงในโลกอินเทอร์เน็ต

อาการหลอนไม่ได้เป็นเพียงแค่ทฤษฎีในห้องทดลอง แต่ยังเกิดขึ้นจริงและสร้างความปั่นป่วนมาแล้วบนโลกอินเทอร์เน็ต ตั้งแต่ความผิดพลาดขำๆ ไปจนถึงเรื่องราวระดับชาติที่สร้างความเสียหายมหาศาล และนี่คือ 3 ตัวอย่างเหตุการณ์จริงที่สะท้อนให้เห็นว่าเวลาที่ AI หลอนนั้นน่ากลัวขนาดไหน

1. คดี Mata v. Avianca, Inc. ปี 2023

ทนายความคนหนึ่งใช้แชตบอตช่วยหาข้อมูลและเตรียมสำนวนคดีเพื่อยื่นต่อศาล ปรากฏว่า AI ได้กุเรื่องคดีความและประวัติการตัดสินของศาลในอดีตขึ้นมาดื้อๆ ถึง 6 คดี ซึ่งไม่มีอยู่จริงในประวัติศาสตร์กฎหมายเลย ทนายความคนดังกล่าวหลงเชื่อคำตอบเหล่านั้นจนนำไปยื่นต่อศาลจริงๆ แต่ผู้พิพากษาก็จับได้และสั่งปรับทนายคนดังกล่าวเป็นเงิน 2,000 ดอลลาร์สหรัฐ

2. งานเปิดตัว Google Bard ปี 2023

ในงานเปิดตัวระบบค้นหาอัจฉริยะรุ่นแรกของ Google ตัวระบบได้โชว์การตอบคำถามเกี่ยวกับกล้องโทรทรรศน์อวกาศ James Webb โดย AI ตอบอย่างมั่นใจว่ากล้องตัวนี้เป็นกล้องแรกที่ถ่ายภาพดาวเคราะห์นอกระบบสุริยะได้ แต่ในความเป็นจริงแล้ว ภาพแรกนั้นถูกถ่ายไว้ได้โดยกล้องโทรทรรศน์อื่นตั้งแต่ปี 2004 ความผิดพลาดที่เกิดขึ้นต่อหน้าสาธารณชนนี้ทำให้หุ้นของบริษัทแม่ดิ่งลงทันที และมูลค่าตลาดหายไปกว่าแสนล้านดอลลาร์ภายในเพียงข้ามคืน

3. Savey Meal-bot ของ PAK’nSAVE

ซูเปอร์มาร์เก็ต PAK’nSAVE ได้นำ AI มาช่วยคิดสูตรอาหารแชตบอตให้ลูกค้า โดยระบุวัตถุดิบที่มีอยู่ในตู้เย็นแล้ว AI นำมาครีเอตเมนูมาให้ ปรากฏว่าระบบเกิดอาการหลอนและแนะนำเมนูชื่อหรูหราแต่ผสมผสานวัตถุดิบที่เป็นสารเคมีอันตราย เช่น สูตรน้ำยาทำความสะอาดที่ปล่อยก๊าซคลอรีนพิษ หรือสูตรอาหารโชยกลิ่นแอมโมเนีย โชคดีที่มีบล็อกเกอร์อาหารเข้าไปเจอและแจ้งเตือนผู้คนได้ทันเวลา

มีวิธีป้องกันอาการหลอนของ AI ไหม?

แม้ว่าเราจะไม่สามารถแก้อาการหลอนของ AI ให้หายไปแบบ 100% แต่ในฐานะผู้ใช้งาน เรามีวิธีกำหนดกรอบและควบคุมไม่ให้ AI แสดงผลลัพธ์มั่วๆ ออกมาได้โดยเริ่มตั้งแต่ขั้นตอนการสั่งงานไปจนถึงการตรวจสอบผลลัพธ์ ดังนี้

1. ออกแบบคำสั่งให้ชัดเจน

หากเราส่งคำสั่งกว้างๆ หรือคลุมเครือเกินไป AI จะพยายามเดาใจและมโนคำตอบขึ้นมาทันที วิธีแก้คือเราต้องระบุบริบทให้ชัดเจน ตีกรอบสิ่งที่อยากรู้ให้แคบที่สุด แล้วส่งข้อมูลอ้างอิงที่ถูกต้องกำกับไปให้มันด้วย ทั้งนี้เราแนะนำให้สั่งปิดท้ายประโยคไปเลยว่า “หากไม่ทราบข้อมูลที่แน่ชัด ให้ตอบว่าไม่ทราบ ห้ามเดาหรือแต่งเรื่องขึ้นมาเอง” วิธีนี้จะช่วยลดอัตราการหลอนและบังคับให้ AI ยอมรับตรงๆ เวลาที่ไม่มีข้อมูลจริงในระบบ

2. ตรวจทานข้อมูลข้ามค่าย

อย่าเพิ่งปักใจเชื่อคำตอบจาก AI ตัวเดียว ยิ่งถ้าเป็นข้อมูลสำคัญหรือรายงานที่ต้องการความถูกต้องสูงด้วยแล้ว แนะนำให้นำคำถามเดียวกันไปถาม AI ค่ายอื่นควบคู่กันไปด้วยสัก 2-3 ตัว แล้วดูว่าโมเดลภาษาจากค่ายอื่นจะให้ผลลัพธ์ สถิติ หรือชื่อบุคคลตรงกันหรือไม่ ซึ่งจะช่วยให้คุณคัดกรองเนื้อหาได้แม่นยำขึ้น และหากคำตอบของทุกค่ายขัดแย้งกันเอง แสดงว่าข้อมูลชุดนั้นเกิดจากอาการหลอนแน่นอน

3. เปิดฟังก์ชันเชื่อมต่ออินเทอร์เน็ต

หากคุณถามข้อมูลที่เป็นกระแส ข่าวปัจจุบัน หรือสถิติล่าสุด ให้ใช้บริการ AI ที่เปิดระบบค้นหาข้อมูลจากอินเทอร์เน็ตได้ เช่น เปิดฟังก์ชัน Search หรือ Web Browsing ซึ่งระบบจะไม่ได้ดึงคำตอบมาจากความจำในอดีตเพียงอย่างเดียว แต่จะเสิร์ชหาข้อมูลจากเว็บไซต์ที่น่าเชื่อถือ ณ เวลานั้น แล้วนำมาสรุปให้เราฟัง วิธีนี้จะช่วยลดอาการมโนคำถัดไปของ AI และล็อกให้คำตอบอยู่บนพื้นฐานของความจริงในโลกปัจจุบันได้มากที่สุด

สุดท้ายนี้ อาการหลอนของ AI ไม่ใช่สิ่งที่น่ากลัว ตราบใดก็ตามที่มนุษย์ยังคงรู้เท่าทันมัน อย่าลืมว่า AI ในวันนี้เปรียบเสมือนผู้ช่วยฝึกงานที่เก่งกาจและพร้อมจะเรียนรู้ตลอดเวลา แต่การกลั่นกรอง ตรวจสอบ และตัดสินใจขั้นสุดท้ายยังคงเป็นสิทธิ์ขาดของเราอยู่ดี เพราะท้ายที่สุดแล้วผู้ที่นำข้อมูลไปใช้จริงและต้องรับผิดชอบต่อผลลัพธ์นั้น ไม่ใช่ระบบคอมพิวเตอร์ แต่เป็นตัวเราเอง