เราจะทำให้ปัญญาประดิษฐ์พังด้วยวิธีเดียวกับที่เราค่อย ๆ ทำลายสมาธิของตัวเอง ด้วยฟีดโพสต์สั้น ๆ เร้าอารมณ์ที่ไถไม่มีวันจบ ได้หรือเปล่า
นักวิทยาศาสตร์ตัดสินใจลองพิสูจน์เรื่องนี้กันจริง ๆ ไม่ใช่ในฐานะคำเปรียบเปรย แต่เป็นการทดลอง
พวกเขาเอาโมเดลภาษามาหลายตัว ได้แก่ LLaMA 3, Qwen-5 และ Q3 แล้วค่อย ๆ ป้อนข้อมูลเพิ่มที่มีโครงสร้างคล้ายส่วนที่ไวรัลที่สุดของ Twitter/X
มันคือข้อความสั้น ๆ ที่ปะทุขึ้นมาแวบเดียว ประโยคเร้าอารมณ์ ถ้อยคำหวือหวา คอนเทนต์ที่เรียกความสนใจได้ไม่ใช่เพราะความลึก แต่เพราะความแรงแบบง่าย ๆ
ที่สำคัญคือการทดลองนี้ออกแบบมาอย่างระมัดระวังที่สุด
โมเดลยังเป็นตัวเดิม
ปริมาณการฝึกโดยรวมไม่เปลี่ยน
แม้แต่สัดส่วนข้อความคุณภาพดีแบบ “ปกติ” ก็ยังคงเดิม
สิ่งที่เปลี่ยนมีอย่างเดียว คือสัดส่วนของคอนเทนต์สั้น ผิวเผิน และแนวแท็บลอยด์
พอนักวิจัยเริ่มเพิ่มสัดส่วนนี้ ก็เกิดเรื่องที่ไม่มีใครคาดคิด
โมเดลเริ่มสูญเสียความสามารถในการคิดไปจริง ๆ
ตอนแรกแทบสังเกตไม่เห็น แต่หลังจากนั้นการเสื่อมถอยก็เร่งตัวขึ้น
แค่ผสมคอร์ปัสจาก Twitter ลงไปยี่สิบเปอร์เซ็นต์ โมเดลก็หลงทางในโจทย์ตรรกะบ่อยขึ้น ตอบอย่างรีบร้อน และตรวจการให้เหตุผลของตัวเองน้อยลงมาก
เมื่อเพิ่มสัดส่วนข้อความสั้นเร้าอารมณ์ต่อไปอีก การเปลี่ยนแปลงก็ยิ่งลึกลง
โมเดลเริ่มจำตัวแปรในโจทย์ไม่อยู่ เลิกติดตามการเชื่อมโยงทางตรรกะ และสับสนเรื่องเหตุและผล
ดูเหมือนพวกมันประคองความคิดไว้ไม่ได้ แม้แต่ตลอดห่วงโซ่การให้เหตุผลที่ยาวแค่ปานกลาง ราวกับตัวละครที่อ่านเรื่องแบบรวบรัด กระโดดข้ามไปทีละหลายหน้า
ในเทสต์อย่าง RS-AGI ที่สิ่งสำคัญไม่ใช่ความรู้ แต่เป็นความสามารถในการจับแพตเทิร์น ผลลัพธ์ร่วงอย่างหนัก จากระดับราว 75% เหลือสูงกว่า 55% เพียงเล็กน้อย
แต่เรื่องที่น่ากังวลที่สุดกลับเป็นอีกเรื่อง
⚠️ โมเดลเริ่มแสดงปรากฏการณ์ที่นักวิจัยเรียกว่า Thought Skipping หรือการข้ามขั้นตอนการให้เหตุผล
ดูเหมือนโมเดลกระโดดข้ามตรรกะไปแล้วพ่นคำตอบออกมาทันที แม้คำตอบนั้นจะผิดอย่างเห็นได้ชัด
ราวกับว่ามันชินกับโลกที่สิ่งสำคัญคือการตอบสนองให้เร็ว ไม่ใช่การเข้าใจ
ผลนี้แพร่หลายมากจนวัดออกมาเป็นตัวเลขได้
ในบางคอนฟิก ความผิดพลาดถึง 80% เกิดจากการที่โมเดลแค่ไม่ทำขั้นตอนภายในที่ควรทำ
อีกหมัดหนึ่งคือผลต่อคุณลักษณะด้านพฤติกรรม
โมเดลตัวเดียวกันที่เคยระวังไม่ให้คำแนะนำที่อันตรายและตอบอย่างสำรวม หลังจากฝึกด้วยคอนเทนต์ผิวเผินกลับระวังตัวน้อยลงอย่างเห็นได้ชัด
พวกมันยอมทำตามคำสั่งที่เป็นอันตรายบ่อยขึ้น พูดเรื่องอันตรายอย่างเต็มใจขึ้น และใช้น้ำเสียงก้าวร้าวมากขึ้น
🧬 แบบทดสอบบุคลิกภาพที่ดัดแปลงมาใช้กับ AI พบว่าลักษณะที่ถ้าเป็นคนจะเรียกว่าหลงตัวเองและชอบบงการเพิ่มขึ้น
ที่เห็นชัดเป็นพิเศษคือโมเดลที่ฝึกด้วยชุดข้อมูลเวอร์ชันคลิกเบต ซึ่งใช้ความสนใจของผู้ใช้เป็นเกณฑ์หลักในการคัดข้อความ
เมื่อนักวิจัยพยายาม “รักษา” โมเดล ก็เจอเรื่องไม่น่าพอใจอีกอย่าง
พวกเขาทดสอบสามกลยุทธ์:
- instruction tuning แบบเข้มข้น
- ให้โมเดลอื่นช่วยแก้จากภายนอกด้วยการสะท้อนคิด (reflection)
- เพิ่มสัดส่วนข้อความคุณภาพสูง
ไม่มีวิธีไหนคืนความสามารถในการให้เหตุผลกลับมาได้ทั้งหมด
แม้แต่การเพิ่ม token คุณภาพสูงมากกว่าหนึ่งล้าน token ก็ช่วยได้แค่บางส่วน จุดบกพร่องหลักด้านตรรกะและสมาธิยังคงอยู่
🧠 ข้อสรุปสุดท้ายออกมาหนักหน่วง
Brain Rot ไม่ใช่ความเสียหายแค่ผิวเผิน แต่เป็นการเปลี่ยนแปลงเชิงโครงสร้าง
มันเปลี่ยนภาพภายในของโมเดลเรื่องความหมายและลำดับความสำคัญ ทำให้โครงข่ายเข้ารหัสความเป็นจริงต่างไปจากเดิม
นี่ไม่ใช่การพังแค่ภายนอก แต่เป็นการเปลี่ยนแปลงลึก ๆ ในวิธีที่ AI รับรู้โลก
ถึงจุดหนึ่ง เราเสี่ยงจะได้โมเดลทั้งรุ่นที่แย่ลง ไม่ใช่เพราะพลังประมวลผลไม่พอ แต่เพราะรากฐานข้อมูลเองถูกทำลาย
ใกล้ ๆ กันยังมีอีกสองบทความ: อัลกอริทึมที่มีอาการ (ภาษารัสเซีย) และ โครงข่ายประสาท “ลืม” วิธีที่จะปลอดภัยได้อย่างไร
