บน Telegram ตอนนี้ กำลังเผชิญปัญหาบอท AI ที่สามารถเป็น ” บอทเปลือยกาย ” คนในภาพถ่ายได้ ซึ่งถูกนำไปใช้สร้างภาพ deepfake อนาจารโดยไม่ได้รับความยินยอม และบางภาพ ก็ยังเป็นภาพนาจารของเด็ก เรื่องนี้ ยังแก้ได้ไม่จบ แม้จะมีความพยายามจากฝ่ายนิติบัญญัติและบริษัทเทคโนโลยีในการปราบปรามก็ตาม
ตั้งแต่ปี 2020 มีการค้นพบบอท Telegram ที่ใช้ AI สร้างภาพโป๊เปลือย ซึ่งในขณะนั้นมีการสร้างภาพอนาจารกว่า 100,000 ภาพ รวมถึงภาพของเด็ก นับเป็นจุดเริ่มต้นของปัญหา deepfake ปัจจุบัน
เว็๋บไซจ์ WIRED ตรวจสอบพบว่ามีบอทใน Telegram อย่างน้อย 50 ตัว ที่อ้างว่าสามารถสร้างภาพหรือวิดีโออนาจาร โดยมีผู้ใช้รวมกันกว่า 4 ล้านคน บอทบางตัวมีผู้ใช้มากกว่า 400,000 คนต่อเดือน สะท้อนให้เห็นถึงการแพร่กระจายของเครื่องมือสร้าง deepfake และ Telegram กลายเป็นแหล่งรวมบอทเหล่านี้ ซึ่งตัวเลขนี้เป็นเพียงส่วนเล็กๆ เท่านั้น
Deepfake อนาจาร ส่งผลกระทบต่อสุขภาพจิต ทำให้เกิดความบอบช้ำทางจิตใจ รู้สึกอับอาย หวาดกลัว และอับอายต่อเหยื่ออย่างมาก ปัญหา deepfake นั้นเริ่มทวีความรุนแรงขึ้นและแพร่หลายไปทั่วอินเทอร์เน็ต มีทั้งเว็บไซต์ แอปพลิเคชัน และบอท Telegram ที่ถูกนำไปใช้โจมตีผู้หญิงและเด็กผู้หญิงทั่วโลก
แม้จะมีกฎหมายและนโยบายของบริษัทเทคโนโลยี แต่ deepfake อนาจาร ยังคงแพร่ระบาด ทั้งในแอปสโตร์ และโซเชียลมีเดีย สะท้อนให้เห็นถึงความล่าช้าในการแก้ปัญหา และ Telegram เองก็ถูกวิพากษ์วิจารณ์ถึงนโยบายที่ไม่ชัดเจน ที่ไม่สามารถจัดการกับเนื้อหาเหล่านี้ได้
ปัญหานี้สะท้อนให้เห็นถึงความจำเป็นเร่งด่วนในการรับมือกับ deepfake อนาจาร ทั้งการพัฒนากฎหมาย เทคโนโลยี และความร่วมมือระหว่างภาครัฐและเอกชน เพื่อปกป้องผู้ใช้งาน โดยเฉพาะผู้หญิงและเด็ก จากภัยคุกคามทางออนไลน์รูปแบบใหม่นี้
ที่มา
https://www.wired.com/story/ai-deepfake-nudify-bots-telegram/
