[ถอดบทเรียน V2] ย้อนกลับไปปี 2023 เคยมีข่าวทนายใช้ ChatGPT ช่วยเขียนว่าความทางกฎหมาย สุดท้ายพบเป็นข้อมูลเท็จ ถูกสั่งปรับ 5,000 ดอลลาร์ฯ หรือประมาณ 180,000 บาท ล่าสุดหนักกว่าเดิม รอบนี้พบทนายใช้ Gen AI สร้างหลักฐานเท็จถึง 3 ครั้ง สุดท้ายถูกแนะนำให้สั่งปรับทั้ง 3 รอบ คิดเป็นเงินกว่า 5 แสนบาท
เมื่อเดือนตุลาคมปี 2024 ที่ผ่านมา พบทนายรายหนึ่งในสหรัฐฯ ที่ชื่อ Rafael Ramirez จากรัฐเท็กซัส ได้ใช้ Gen AI ช่วยสร้างหลักฐานเท็จถึง 3 คดี สำหรับใช้อ้างอิงคำพิพากษาในเอกสาร
Mark J. Dinsmore ผู้พิพากษาศาลแขวงสหรัฐฯ ประจำเขตทางใต้ของรัฐอินเดียนา ได้มีมติให้ลงโทษนาย Rafael Ramirez ด้วยการแนะนำให้สั่งปรับเป็นจำนวนเงินถึง 15,000 ดอลลาร์ฯ หรือประมาณ 507,000 บาท สืบเนื่องจากทนายรายดังกล่าว ไม่สามารถตรวจสอบความถูกต้องและความแม่นยำ ของคำพิพากษาที่อ้างต่อศาลและทนายความฝ่ายตรงข้ามได้อย่างเหมาะสม
ทว่าทาง Ramirez ได้กล่าวโต้แย้งถึงบทลงโทษดังกล่าวว่ารุนแรงเกินไป พร้อมยืนยันว่าตนเองไม่ได้มีเจตนาฉ้อฉล แต่ก็ยอมรับและเมิดในส่วน Federal Rule of Civil Procedure หรือกฎข้อที่ 11 ที่กำหนดให้ทนายความต้องตรวจสอบความถูกต้องของข้อมูลจริง ง่าย ๆ คือ Ramirez กำลังบอกว่าตนเอง แค่ทำงานผิดพลาดเท่านั้น
อย่างไรก็ตาม ทางด้านผู้พิพากษา Dinsmore ระบุว่าโทษนี้สูงกว่ากรณีก่อนหน้า เนื่องจากบทลงโทษเดิมยังไม่สามารถยับยั้งพฤติกรรมใช้ AI อย่างไม่รับผิดชอบได้ พร้อมชี้ว่าแม้สื่อจะรายงานปัญหาการ “หลอน” ของ AI มาอย่างต่อเนื่อง แต่ยังมีผู้ใช้เครื่องมือเหล่านี้ในทางที่ผิดเสมอ จึงเสนอลงโทษนี้ให้เป็นบทเรียน
ที่มา : Theregister
