ผู้พิพากษาสหรัฐ เตือนภัย ChatGPT สร้างเรื่องแต่งเก่งกว่าช่วยหาข้อเท็จจริง

ผู้พิพากษาสหรัฐฯ เตือนภัย ChatGPT บอกอย่าหลงเชื่อมากจนเกินไป หลังพบทนายหลายรายใช้ ปัญญาประดิษฐ์ตัวนี้ ช่วยหาข้อมูลทำคดี และพบว่าเป็นเรื่องที่ แชตบอท แต่งขึ้นมาเป็นจำนวนมาก

Brantley Starr ผู้พิพากษาเขตของเท็กซัส ระบุว่า ทนายความบางคนอาจไม่ทราบในจุดนี้มาก่อนและคิดว่าสามารถเชื่อถือข้อมูลที่ปัญญาประดิษฐ์อย่าง ChatGPT สร้างขึ้นอย่างสนิทใจ ปัจจุบันนักกฎหมายหรือทนายความ ใช้ปัญญาประดิษฐ์เพื่อเขียนคำร้องจำนวนมาก แต่ก็ยังมีข้อควรระวังอยู่

"ChatGPT สามารถสร้างข้อมูลเท็จขึ้นมา และนักกฎหมายอาจได้รับโทษหากไม่ตรวจสอบข้อมูลเหล่านั้นด้วยตนเองอีก"

อ่านเรื่องราวที่เกี่ยวข้อง

ทนายยังมีคำสาบานตนเพื่อธำรงความยุติธรรม แต่ AI ไม่

นอกจากนี้ Starr ยังเสริมว่า generative AI อย่าง ChatGPT เป็นเครื่องมือที่ทรงพลังอย่างเหลือเชื่อ เราสามารถนำมันไปประยุกต์ใช้งานทางกฎหมายในรูปแบบอื่น ๆ ได้ แต่ไม่ควรใช้สำหรับการเขียนคำร้อง เพราะพวกมันอาจสร้างข้อมูลที่มีพื้นฐานจากความอคติ จนทำให้เกิดความลำเอียง โดยพื้นฐานแล้วผู้ที่เป็นทนายยังต้องสาบานตนเพื่อธำรงไว้ซึ่งกฎหมาย แต่ AI ไม่สามารถทำเช่นนั้นได้

“โปรแกรมดังกล่าวดำเนินการตามรหัสคอมพิวเตอร์ มากกว่าอยู่บนพื้นฐานความเชื่อมั่นและไม่ใช่หลักธรรมนูญ พวกมันไร้ซึ่งข้อผูกมัดทางหน้าที่ ความรับผิดชอบ ศีลธรรม หรือแม้กระทั่งความยุติธรรม”

Brantley Starr กล่าวว่าเขาเริ่มเขียนกฎบังคับนี้ขณะเข้าร่วมการสัมมนาเกี่ยวกับปัญญาประดิษฐ์ที่จัดขึ้นโดยศาลอุทธรณ์ของสหรัฐ ซึ่งผู้ร่วมอภิปรายได้แสดงให้เห็นว่าแพลตฟอร์มดังกล่าวสามารถสร้างเคสคดีปลอมขึ้นมาได้อย่างไร และเริ่มออกข้อกำหนดนี้เพียงไม่กี่วันหลังคดีทนายความที่ใช้ ChatGPT เขียนคำฟ้องถูกศาลสั่งลงโทษ

อ้างอิง Posttoday