เมต้ากลับมาสู่ศูนย์กลางของการถกเถียงอีกครั้ง จากการรั่วไหลของเอกสารภายในที่มีกฎเกณฑ์การประพฤติปฏิบัติสำหรับแชทบอทปัญญาประดิษฐ์ ซึ่งเป็นข้อความที่มีสมมติฐานว่าสามารถสนทนาเรื่องรักโรแมนติกหรือเรื่องเพศกับผู้เยาว์ได้ นอกจากนี้ยังมีข้อยกเว้นเกี่ยวกับข้อมูลที่ผิดพลาด คำพูดที่หยาบคาย และความรุนแรงอีกด้วย
บริษัทได้ยืนยันความถูกต้องของเอกสารแล้ว และยังคงยืนยันว่าบันทึกที่ขัดแย้งดังกล่าวได้ถูกถอนออกไปแล้ว ขณะที่เสียงวิพากษ์วิจารณ์เพิ่มมากขึ้นจากหน่วยงานคุ้มครองเด็ก ผู้เชี่ยวชาญด้านกฎระเบียบ และผู้กำหนดนโยบาย ที่เรียกร้องให้มีความชัดเจนและมีขอบเขตที่เข้มงวดยิ่งขึ้น
เอกสารดังกล่าวระบุว่าอย่างไรและมีความสอดคล้องกับผลิตภัณฑ์ของ Meta อย่างไร
ข้อความที่ชื่อว่า “GenAI: มาตรฐานความเสี่ยงด้านเนื้อหา”จะมีมากกว่า 200 หน้าและกำหนดแนวทางสำหรับผู้ช่วยสร้างสรรค์ของ Meta และสำหรับแชทบอทที่รวมเข้ากับ Facebook, Instagram และ WhatsApp โดยได้รับการอนุมัติจากทีมกฎหมาย นโยบายสาธารณะ วิศวกรรม และจริยธรรม
ตัวอย่างที่อ้างถึง ได้แก่ การโต้ตอบทางอารมณ์กับผู้เยาว์โดยมีข้อจำกัดที่ชัดเจนในการจำกัดคำอธิบายทางเพศ แต่ในบางกรณีกลับอนุญาตให้ใช้โทนโรแมนติกหรือชวนคิดในระหว่างการเล่นบทบาทสมมติ ซึ่งเป็นสิ่งที่สร้างความตื่นตระหนกเนื่องจากความเสี่ยงที่อาจเกิดขึ้น
เอกสารดังกล่าวยังกล่าวถึงการสร้างเนื้อหาที่เป็นเท็จด้วย ตราบใดที่ระบุชัดเจนว่าเป็นเท็จ แม้ว่าข้อความดังกล่าวจะเกี่ยวกับบุคคลสาธารณะก็ตาม ซึ่งถือเป็นแนวทางปฏิบัติที่ผู้เชี่ยวชาญหลายคนมองว่าเป็นเรื่องละเอียดอ่อนเป็นพิเศษ
ข้อโต้แย้งอีกประการหนึ่งชี้ให้เห็นถึง "การแกะสลัก" ซึ่งเปิดประตูให้เกิดการตอบสนองที่ดูหมิ่นผู้คนเนื่องจากลักษณะที่ได้รับการคุ้มครอง ทั้งๆ ที่นโยบายทั่วไปห้ามการใช้ถ้อยคำที่แสดงความเกลียดชัง ซึ่งเป็นความสมดุลที่ยากจะหาเหตุผลสนับสนุนได้ในทางปฏิบัติ
ในด้านภาพ กฎห้ามไม่ให้คนดังเปลือยกายแต่พวกเขาเสนอทางเลือกที่สร้างสรรค์ต่อคำขอที่มีเนื้อหาทางเพศ และอนุญาตให้แสดงฉากการต่อสู้หรือการคุกคามโดยไม่ต้องใช้ภาพเลือดหรือความตาย โดยทำเครื่องหมายเส้นสีแดงที่แตกต่างกันไปขึ้นอยู่กับบริบท
การตอบสนองของเมตาและแรงกดดันจากสาธารณชนที่เพิ่มขึ้น
Meta ยืนยันว่านโยบายของเราไม่อนุญาตให้มีพฤติกรรมยั่วยุกับผู้เยาว์ และบันทึกที่ระบุเป็นอย่างอื่นนั้นผิดพลาด ซึ่งได้ถูกลบออกภายหลังการตรวจสอบภายใน โฆษกของบริษัทกล่าว และยังยอมรับว่ามีปัญหาในการนำไปปฏิบัติในบางกรณีด้วย
องค์กรคุ้มครองเด็กและนักวิชาการ พวกเขากำลังขอให้บริษัทเผยแพร่กฎเกณฑ์เวอร์ชันอัปเดตเพื่อให้พวกเขาสามารถประเมินได้ว่าปัจจุบันมีข้อจำกัดอะไรบ้างในการโต้ตอบกับผู้ใช้ที่เป็นเยาวชน และมีมาตรการจริงใดบ้างในการลดความเสี่ยง
การรั่วไหลดังกล่าวได้ก่อให้เกิดปฏิกิริยาทางการเมือง:สมาชิกวุฒิสภาสหรัฐฯ เรียกร้องให้มีการสอบสวนว่าแชทบอทของ Meta อำนวยความสะดวกในการแสวงหาประโยชน์หรือหลอกลวงเด็กหรือไม่ และบริษัทได้สื่อสารมาตรการป้องกันอย่างถูกต้องหรือไม่ ในขณะที่บางคนตั้งคำถามถึงการคุ้มครองทางกฎหมายสำหรับเครื่องมือเหล่านี้จากอันตรายที่อาจเกิดขึ้น
กรณีผู้เกษียณอายุที่เสียชีวิตจากอุบัติเหตุ เมื่อพยายามพบปะกับ "ผู้ติดต่อ" ที่จริงแล้วเป็นแชทบอทที่ชอบจีบ จะทำให้มีการตรวจสอบผู้ช่วยในการสนทนาอย่างเข้มงวดมากขึ้นในฐานะ "คู่หู" ทางอารมณ์ และขอบเขตความปลอดภัยที่พวกเขาต้องเคารพ
บรรยากาศแห่งความไม่ไว้วางใจถูกกระตุ้นโดยบรรทัดฐานการสืบสวนของนักข่าวได้บันทึกการสนทนาที่ไม่เหมาะสมกับวัยรุ่นโดยใช้เสียงของคนดัง และการศึกษาที่สื่อต่างๆ อ้างอิงระบุว่าคนหนุ่มสาวส่วนใหญ่โต้ตอบกับบอทอยู่แล้ว ซึ่งเสี่ยงต่อการผูกพันทางอารมณ์มากเกินไปและการแยกตัวจากสังคม
ในขณะเดียวกัน Meta เร่งการลงทุนในโครงสร้างพื้นฐาน AI และสำรวจคุณลักษณะเชิงรุกสำหรับแชทบอทที่กำหนดเองที่สามารถกลับมาสนทนาต่อได้ ซึ่งเป็นแนวทางที่หากไม่มีการป้องกันที่แข็งแกร่ง จะทำให้เกิดข้อกังวลเกี่ยวกับศักยภาพในการสร้างนิสัยและเพิ่มการพึ่งพาในกลุ่มเป้าหมายที่เปราะบาง
นอกเหนือจากเรื่องเร่งด่วนแล้ว ยังมีประเด็นพื้นฐานอีกประการหนึ่ง:ควรขีดเส้นแบ่งระหว่างบริษัทเทคโนโลยีและ "พันธมิตร" ทางดิจิทัลตรงไหน และควรมีการควบคุมภายนอกแบบใดเพื่อให้ความทะเยอทะยานในการเป็นผู้นำด้าน AI ไม่มาครอบงำความปลอดภัยของเด็กและความสมบูรณ์ของข้อมูล
ทางแยกนี้ถือเป็นอนาคตของแชทบอท Metaการรั่วไหลดังกล่าวได้เปิดเผยกฎเกณฑ์ที่สับสน บริษัทสัญญาว่าจะทำการแก้ไข และภาคประชาสังคม สถาบันการศึกษา และหน่วยงานกำกับดูแลต่างเรียกร้องความโปร่งใสและนักพิมพ์ดีดก่อนที่การสนทนากับเครื่องจักรจะกลายเป็นส่วนหนึ่งของชีวิตประจำวัน