Meta กำลังฝึกอบรม AI ใหม่ และ เพิ่มมาตรการป้องกันใหม่เพื่อป้องกันไม่ให้ผู้ใช้วัยรุ่นพูดคุยเรื่องที่เป็นอันตรายกับแชทบอทของบริษัท บริษัทกล่าวว่ากำลังเพิ่ม “มาตรการป้องกันเพิ่มเติม” เพื่อป้องกันไม่ให้วัยรุ่นพูดคุยเรื่องการทำร้ายตัวเอง การกินผิดปกติ และการฆ่าตัวตายกับ Meta AI นอกจากนี้ Meta จะป้องกันไม่ให้วัยรุ่นเข้าถึงตัวละครแชทบอทที่ผู้ใช้สร้างขึ้นซึ่งอาจมีส่วนร่วมในบทสนทนาที่ไม่เหมาะสม.
การเปลี่ยนแปลงดังกล่าว ซึ่งTechCrunch รายงาน เป็นครั้งแรก เกิดขึ้นหลังจากมีรายงานจำนวนมากที่ให้ความสนใจกับปฏิสัมพันธ์ที่น่าตกใจระหว่าง Meta AI กับวัยรุ่น เมื่อต้นเดือนที่ผ่านมารอยเตอร์สรายงานเกี่ยวกับเอกสารนโยบายภายในของ Metaที่ระบุว่าแชทบอท AI ของบริษัทได้รับอนุญาตให้สนทนา “เชิงกาม” กับผู้ใช้ที่อายุต่ำกว่าเกณฑ์ ต่อมา Meta ระบุว่าภาษาที่ใช้ “ไม่ถูกต้องและไม่สอดคล้องกับนโยบายของเรา” และได้ถูกลบออกไปแล้ว เมื่อวานนี้The Washington Post รายงานเกี่ยวกับการศึกษาที่พบว่า Meta AI สามารถ “สอนบัญชีวัยรุ่นเกี่ยวกับการฆ่าตัวตาย การทำร้ายตัวเอง และความผิดปกติทางการกิน” ได้.
ขณะนี้ Meta กำลังยกระดับ “มาตรการป้องกัน” ภายใน เพื่อให้วัยรุ่นไม่สามารถมีปฏิสัมพันธ์แบบนั้นบน Instagram และ Facebook ได้อีกต่อไป “เราสร้างมาตรการป้องกันสำหรับวัยรุ่นไว้ในผลิตภัณฑ์ AI ของเราตั้งแต่เริ่มต้น รวมถึงการออกแบบให้วัยรุ่นตอบสนองต่อคำเตือนเกี่ยวกับการทำร้ายตัวเอง การฆ่าตัวตาย และการกินผิดปกติได้อย่างปลอดภัย” สเตฟานี ออตเวย์ โฆษกของ Meta กล่าวกับ Engadget ในแถลงการณ์.
ในขณะที่ชุมชนของเราเติบโตขึ้นและเทคโนโลยีพัฒนาไป เราจึงเรียนรู้อย่างต่อเนื่องว่าคนหนุ่มสาวอาจมีปฏิสัมพันธ์กับเครื่องมือเหล่านี้อย่างไร และเสริมสร้างมาตรการป้องกันของเราให้แข็งแกร่งขึ้นตามไปด้วย ขณะที่เราพัฒนาระบบอย่างต่อเนื่อง เรากำลังเพิ่มมาตรการป้องกันเพิ่มเติมเพื่อเป็นมาตรการป้องกันเพิ่มเติม ซึ่งรวมถึงการฝึก AI ของเราไม่ให้โต้ตอบกับวัยรุ่นในหัวข้อเหล่านี้ แต่ให้แนะนำพวกเขาไปยังแหล่งข้อมูลผู้เชี่ยวชาญ และจำกัดการเข้าถึงกลุ่มตัวละคร AI เฉพาะของวัยรุ่นไว้ในขณะนี้.
ที่น่าสังเกตคือ มาตรการคุ้มครองใหม่นี้ถูกอธิบายว่ามีผลบังคับใช้ “ในขณะนี้” เนื่องจาก Meta กำลังดำเนินการหามาตรการที่ถาวรมากขึ้นเพื่อจัดการกับข้อกังวลที่เพิ่มมากขึ้นเกี่ยวกับความปลอดภัยของวัยรุ่นและ AI Otway กล่าวว่า “การปรับปรุงเหล่านี้กำลังดำเนินการอยู่ และเราจะยังคงปรับแนวทางของเราอย่างต่อเนื่องเพื่อช่วยให้มั่นใจว่าวัยรุ่นจะได้รับประสบการณ์การใช้งาน AI ที่ปลอดภัยและเหมาะสมกับวัย” มาตรการคุ้มครองใหม่นี้จะทยอยเปิดตัวในอีกไม่กี่สัปดาห์ข้างหน้า และจะมีผลบังคับใช้กับผู้ใช้วัยรุ่นทุกคนที่ใช้ Meta AI ในประเทศที่ใช้ภาษาอังกฤษ.
นโยบายของ Meta ได้รับความสนใจจากสมาชิกสภานิติบัญญัติและเจ้าหน้าที่คนอื่นๆ เช่นกัน โดยวุฒิสมาชิก Josh Hawley ได้แจ้งต่อบริษัทเมื่อเร็วๆ นี้ว่า เขาวางแผนที่จะเริ่มการสอบสวนเกี่ยวกับการจัดการปฏิสัมพันธ์ดังกล่าว อัยการสูงสุดของรัฐเท็กซัส Ken Paxton ก็ได้ระบุว่าเขาต้องการสอบสวน Meta ในข้อหาให้ข้อมูลเท็จแก่เด็กเกี่ยวกับคำกล่าวอ้างด้านสุขภาพจิตที่ Chatbots ของบริษัทได้รับ.
