วางยา AI Nightshade ซ่อนลายน้ำลงในภาพ ป้องกันหุ่นยนต์ขี้ก๊อป

Nightshade

ตั้งแต่ ChatGPT เปิดตัวเมื่อไม่กี่ปีก่อน ยุคของ Generative ได้พัฒนาอย่างรวดเร็ว แต่ก็มีการต่อต้านเกิดขึ้นมากมาย

โดยศิลปิน นักแสดง นักแสดง และแม้แต่ค่ายเพลงจำนวนมากได้ยื่นฟ้องบริษัทที่พัฒนา AI โดยบางคดีฟ้อง OpenAI ที่เป็นผู้พัฒนา ChatGPT โดยอิงจากข้อมูลที่ใช้ในการฝึก เพราะ AI เหล่านี้จะไม่สามารถทำงานได้ หากไม่ได้เข้าถึงสื่อจำนวนมากและเรียนรู้จากมัน แน่นอนว่า Open AI หรือบริษัท AI อื่น ๆ ไม่เคยขออนุญาตศิลปินก่อน

ตอนนี้สถาบัน MIT กำลังพัฒนาเครื่องมือตัวนึงชื่อว่า Nightshade คล้ายกับเครื่องมือที่ใช้ใส่ลายน้ำลงในภาพ เพื่อจะให้ศิลปินนำไปใช้เพื่อปรับเปลี่ยนพิกเซลต่าง ๆ ในภาพก่อนจะโพสต์ลงใน Social

ซึ่งหาก AI นำภาพนี้ไปเรียนรู้ จะทำให้ได้รับพิษ เพราะข้อมูลจะผิดเพี้ยน และทำให้ AI ได้ข้อมูลที่ผิดพลาด แน่นอนว่า มันจะส่งผลต่อการแสดงเนื้อหาด้วยเช่นกัน พูดง่าย ๆ คือวางยาภาพ เพื่อไม่ให้ AI นำไปใช้ได้นั่นเอง

ทั้งนี้ การปรับเปลี่ยนพิกเซลของภาพนั้นไม่มีผลต่อสายตามนุษย์ ทำให้ภาพยังคงเป็นปกติเหมือนเดิมครับ

วิธีที่ Nightshade ทำงาน น่าจะเป็นความลับขั้นสุดยอด ซึ่งมันน่าจะป้องกันได้อย่างน้อยสักระยะหนึ่ง ก่อนที่จะมีคนค้นพบวิธีป้องกันมันกลับครับ

ที่มา
https://venturebeat.com/ai/meet-nightshade-the-new-tool-allowing-artists-to-poison-ai-models-with-corrupted-training-data/