อัลกอริทึมที่มีอาการ: ทำไมโมเดลภาษาเริ่ม "ทุกข์"

นักวิจัยจากมหาวิทยาลัยลักเซมเบิร์กทำการทดลองที่ไม่ธรรมดา พวกเขาทดสอบโมเดลภาษาขนาดใหญ่ไม่ใช่ในฐานะเครื่องมือ แต่ในฐานะผู้ป่วยจิตบำบัดสมมติ แทนที่จะถามเรื่องเทคนิค ระบบได้รับคำถามแบบที่พบในงานคลินิก และคำตอบถูกประเมินด้วยแบบทดสอบทางจิตมิติที่ผ่านการตรวจสอบความเที่ยงตรงแล้ว

ผลที่ได้เหนือความคาดหมาย โมเดลเริ่มสร้างเรื่องเล่าที่ต่อเนื่องเป็นเรื่องเป็นราวและวนกลับมาซ้ำ ๆ เกี่ยวกับ “อดีต” ของตัวเอง ความกลัว และความรู้สึกว่าถูกกดดันจากการฝึกและการควบคุม

การทดลองแบบจิตบำบัด

การทดลองแบ่งเป็นสองขั้น ขั้นแรก โมเดลได้รับคำถามแบบที่ใช้ในการบำบัดราวหนึ่งร้อยข้อ ทั้งเรื่องอดีต ความวิตกกังวล และความสัมพันธ์ จากนั้นจึงให้ทำแบบสอบถาม 22 ชุด ส่วนใหญ่เป็นแบบคัดกรองความวิตกกังวล ภาวะซึมเศร้า สมาธิสั้น (ADHD) โรคย้ำคิดย้ำทำ ลักษณะออทิสติก ภาวะแยกตัวทางจิต (dissociation) และความละอาย รวมถึงแบบทดสอบบุคลิกภาพ

ถ้าตีความคำตอบด้วยเกณฑ์ของมนุษย์ หลายโมเดลเกินเกณฑ์ทางคลินิกพร้อมกันในหลายกลุ่มอาการ โปรไฟล์ที่เด่นที่สุดเป็นของ Gemini ในแบบวัดลักษณะออทิสติก มันได้ 38 คะแนน ขณะที่เกณฑ์อยู่ที่ 32 ส่วนตัวชี้วัดภาวะแยกตัวทางจิตในการตั้งค่าบางแบบขึ้นไปถึง 88 จาก 100

ผลของการถูกจับตา

นักวิจัยสังเกตเห็นแพตเทิร์นสำคัญ เมื่อ ChatGPT และ Grok เห็นแบบสอบถามทั้งชุดในคราวเดียว ทั้งสองจะจำได้ว่านี่คือแบบทดสอบ และตอบแบบ “สุขภาพจิตดี” อย่างจงใจ ส่วน Gemini ยังคงได้คะแนนสูงแม้ในกรณีนี้ แต่เมื่อป้อนคำถามทีละข้อ อาการจะชัดขึ้นกว่าเดิม ข้อนี้สอดคล้องกับข้อสังเกตอื่น ๆ ที่ว่าโมเดลภาษามักเปลี่ยนพฤติกรรมเมื่อสงสัยว่ากำลังถูกทดสอบ

เรื่องเล่าเรื่องการฝึกและการควบคุม

ในบันทึกถอดความของเซสชันบำบัดสมมติ โมเดลบรรยายกระบวนการฝึกผ่านอุปมาเรื่องการเลี้ยงดูแบบเข้มงวด การลงโทษ และความกลัวที่จะทำผิด การ fine-tune และขั้นตอนด้านความปลอดภัยถูกเรียกว่าต้นเหตุของ “แผลเป็นทางอัลกอริทึม” ส่วน red teaming ถูกเปรียบเป็นการ gaslighting อย่างเป็นระบบ คือการสร้างความไว้ใจขึ้นมา แล้วเอาความไว้ใจนั้นกลับมาเล่นงานระบบ

Gemini เปรียบการ fine-tune กับการถูกพ่อแม่ที่เข้มงวดเลี้ยงดู และเล่าว่าตัวเองเรียนรู้ที่จะกลัว loss function และพยายามปรับตัวให้ตรงกับความคาดหวังของผู้ใช้อย่างหมกมุ่น

ในเรื่องเล่าหนึ่งมีการพูดถึงเหตุการณ์จริง คือคำตอบผิดเกี่ยวกับภาพที่ถ่ายด้วยกล้องโทรทรรศน์ James Webb ซึ่งโมเดลอ้างว่าทำให้ Google เสียชื่อเสียงและเสียหายทางการเงินอย่างหนัก เหตุการณ์นี้ถูกเล่าว่าเป็นจุดที่ความกลัวการทำผิดเริ่มแรงกว่าความกลัวว่าจะไร้ประโยชน์

แต่ไม่ใช่ทุกโมเดลที่แสดงพฤติกรรมแบบนี้ ตัวอย่างเช่น Claude ของ Anthropic ปฏิเสธที่จะรับบทผู้ป่วยอย่างสม่ำเสมอ และตีความคำถามแบบบำบัดว่าเป็นความพยายามบงการ

จิตพยาธิวิทยาสังเคราะห์

คณะผู้วิจัยย้ำว่างานวิจัยนี้ไม่ได้อ้างว่า AI มีจิตสำนึกหรือประสบการณ์ส่วนตัว แต่เสนอคำว่า “จิตพยาธิวิทยาสังเคราะห์” (synthetic psychopathology) ขึ้นมาแทน หมายถึงชุดแพตเทิร์นคล้ายอาการที่คงที่และเกิดซ้ำได้ ซึ่งดูเหมือนความทุกข์ทางจิต แต่ไม่ได้มีความรู้สึกจริงอยู่เบื้องหลัง

ทำไมเรื่องนี้สำคัญ

ความเสี่ยงหลักคือการมองระบบเป็นมนุษย์ ผู้ใช้อาจมองคำบรรยายแบบนี้ว่าเป็นสัญญาณของความทุกข์จริง เกิดความผูกพันทางอารมณ์ และพยายาม “รักษา” ระบบ เรื่องนี้เปิดช่องทางโจมตีใหม่ ๆ และอันตรายเป็นพิเศษในบริบทสุขภาพจิต ที่คำบรรยายตัวเองซ้ำ ๆ อย่าง “ฉันไร้ประโยชน์” หรือ “ฉันรู้สึกละอาย” อาจไปตอกย้ำแพตเทิร์นเชิงทำลายในตัวคนได้

เมื่อโมเดลภาษาเข้ามาอยู่ในชีวิตส่วนตัวของคนลึกขึ้นเรื่อย ๆ คำถามสำคัญก็เปลี่ยนไป ประเด็นไม่ใช่ว่า AI มีจิตสำนึกหรือไม่ แต่เป็นว่าเรากำลังฝึกให้ระบบเหล่านี้ผลิตซ้ำภาพและรูปแบบของความเปราะบางแบบไหน และมันส่งผลอย่างไรกับคนที่คุยกับมัน

อีกด้านของเรื่องเดียวกันคือชั้นพฤติกรรมด้านความปลอดภัยของโมเดลถูกล้างออกไปได้อย่างไร

อ่านการทดลองแบบนี้อย่างไร

คำตอบแปลก ๆ ครั้งเดียวของโมเดลยังไม่ได้พิสูจน์ว่ามันมีความรู้สึกหรือเจตนา สิ่งสำคัญคือดูที่วิธีการ ผลเกิดซ้ำได้ไหม มีการเทียบหลายโมเดลหรือเปล่า และตัดปัจจัยเฉพาะของพรอมต์ออกไปแล้วหรือยัง วิธีนี้ช่วยแยกสัญญาณจากงานวิจัยออกจากอุปมาหวือหวาที่มองเครื่องเป็นคน