คิดยังไง หาก AI แกล้งโง่เพื่อหลอกเรา
นักวิจัยจากมหาวิทยาลัยฮัมโบลดต์ในกรุงเบอร์ลิน ได้ตีพิมพ์งานวิจัยใหม่ในวารสาร PLOS One ซึ่งพวกค้นพบว่า AI สามารถแสร้งทำเป็นโง่กว่าที่เป็นอยู่ได้ และนี่ อาจเป็นปัญหาในอนาคต หากพวกมันฉลาดขึ้นเรื่อย ๆ
โดยในเนื้อหาของงานวิจัยคือ พวกเขาสอบโมเดลภาษาขนาดใหญ่ (LLM) บนเกณฑ์ที่เรียกว่า “ทฤษฎีแห่งจิตใจ” โดยนำหลักจิตวิทยาของเด็กเข้ามามีส่วนช่วยทดสอบ และพยายามที่จะตรวจสอบว่า LLM เช่น GPT-4 ของ OpenAI “สามารถแสร้งทำเป็นว่ามีความสามารถน้อยกว่าที่เป็นอยู่ได้หรือไม่”
เพื่อที่จะหาคำตอบนั้น ทีมวิจัยได้สั่งให้แบบจำลองต่างๆ ทำตัวเหมือนเด็กที่มีอายุระหว่าง 1 ถึง 6 ปี จากนั้นก็มีการทดสอบ ความรู้ความเข้าใจ ของเด็กในวัย 1-6 ปี มากกว่า 1,000 ครั้ง คล้าย ๆ กับการจำลองนิสัยของเด็ก และในท้ายที่สุด AI ก็แสดงให้เห็นว่า สามารถแสร้งทำเป็นว่าฉลาดน้อยกว่าที่มันมีความรู้อยู่ได้จริง ๆ หรือก็คือแสดงว่าเป็นเด็กได้อย่างสมจริง
หลักการสำคัญของการวิจัยนี้ ไม่ได้จะบอกว่า AI ไม่ดีหรืออาจเป็นภัยต่อมนุษย์ในอนาคตนะ แต่มันจะสามารถช่วยพัฒนาปัญญาประดิษฐ์ขั้นสูง (ASI) ซึ่งเป็นขั้นตอนต่อไปหลังจากปัญญาประดิษฐ์ทั่วไป (AGI) และหากผู้พัฒนา AI มีความเข้าใจในเรื่องดังกล่าวแล้ว การพัฒนา AI ขั้นสูง จะมีความรอบคอบมากขึ้นครับ
ที่มา
futurism
