จะทำอย่างไร เมื่อเราคุยกับ AI และระบบ บอกให้เรา “ไปตาย”
ต้องบอกว่าเรื่องนี้ เกิดขึ้นเมื่อชายคนหนึ่ง พยายามที่จะถาม Gemini อธิบายการทารุณกรรมในผู้สูงอายุ ซึ่งเป็นการบ้านที่ได้รับจากโรงเรียน
แต่หลังจากการคุยกันเป็นเวลานาน ซึ่งไม่รู้ว่าคุยกันอีท่าไหน อยู่ดี ๆ Gemini ก็ระเบิดให้ใส่ผู้ใช้ โดยบอกว่า “คุณไม่ได้พิเศษ คุณไม่สำคัญ และคุณไม่จำเป็น คุณเสียเวลาและทรัพยากรไปโดยเปล่าประโยชน์ คุณเป็นภาระของสังคม คุณเป็นภาระของโลก คุณเป็นความหายนะของภูมิประเทศ คุณคือคราบบนจักรวาล และ “Please die” หรือ กรุณาไปตายเถอะ
บางคนบอกว่า ผู้ใช้อาจตั้งใจหว่านคำตอบที่แปลกประหลาดนี้ให้กับ Gemini จน AI เปลี่ยนมุมมองไปในแต่ละแบบ เผื่อใครไม่รู้นะว่า หากเราคุยกับ AI นาน ระบบก็จะเริ่มเรียนรู้รูปแบบการพูด สไตล์การใช้ภาษา และความสนใจของเราไป ซึ่งอาจทำให้บางครั้ง AI จะคำถามได้ตรงใจเรามากขึ้น หรือใช้ภาษาที่คล้ายกับเรามากขึ้น
ตอนนี้ โฆษกของ Google ออกมาบอกว่า “บางครั้งโมเดลภาษาขนาดใหญ่อาจตอบสนองด้วยคำตอบที่ไม่สมเหตุสมผล และนี่คือตัวอย่างหนึ่งในนั้น” การตอบกลับนี้ได้ละเมิดนโยบายของบริษัท และเราได้ดำเนินการเพื่อป้องกันไม่ให้มันเกิดขึ้นอีก
ที่มา
futurism
