ByteDance เปิดตัว OmniHuman-1 คลิป AI สมจริงขึ้น ก้าวสำคัญเทคโนโลยี Deepfake

ByteDance ได้สร้างความก้าวหน้าครั้งสำคัญในด้านปัญญาประดิษฐ์ด้วยการเปิดตัว OmniHuman-1 โมเดล AI แบบมัลติโมดัลที่สามารถสร้างวิดีโอ Deepfake ที่มีความสมจริงในระดับที่ไม่เคยมีมาก่อน

โมเดลนี้สามารถแปลงภาพนิ่งและเสียง ให้กลายเป็นวิดีโอที่แสดงให้เห็นการพูด, การร้องเพลงหรือการเคลื่อนไหวที่เป็นธรรมชาติ โดยมีคุณภาพที่เหนือกว่าโมเดล Deepfake อื่นๆในปัจจุบัน

สิ่งที่น่าทึ่งที่สุดของ OmniHuman-1 คือความสามารถในการสร้างวิดีโอ Deepfake ที่มีความสมจริงอย่างมาก การแสดงออกทางสีหน้า การเคลื่อนไหวของริมฝีปาก และท่าทางต่างๆ ของบุคคลในวิดีโอดูกลมกลืนเป็นธรรมชาติ จนแทบไม่สามารถแยกออกได้ว่าเป็นวิดีโอที่สร้างขึ้นโดย AI หรือวิดีโอจริง

แน่นอนว่า OmniHuman-1 ยังไม่ได้สมบูรณ์แบบ ทีม ByteDance กล่าวว่าภาพอ้างอิง "คุณภาพต่ำ" จะไม่ให้วิดีโอที่ดีที่สุด และระบบดูเหมือนจะมีปัญหากับท่าทางบางอย่าง ลองดูท่าทางแปลกๆ กับแก้วไวน์ในวิดีโอนี้

ByteDance กล่าวว่าโมเดลใหม่นี้ ซึ่งได้รับการฝึกฝนจากข้อมูลการเคลื่อนไหวของมนุษย์ประมาณ 19,000 ชั่วโมง สามารถสร้างคลิปวิดีโอที่มีความยาวใดก็ได้ภายในขีดจำกัดหน่วยความจำ และปรับให้เข้ากับสัญญาณอินพุตที่แตกต่างกัน

แม้ว่าเทคโนโลยี Deepfake จะมีประโยชน์มากมาย แต่ก็มีข้อกังวลเกี่ยวกับผลกระทบด้านลบที่อาจเกิดขึ้น เช่น การนำไปใช้ในการสร้างข่าวปลอม การหลอกลวง หรือการบิดเบือนความจริง อย่างไรก็ตาม ByteDance ได้ตระหนักถึงปัญหานี้ และกำลังพัฒนามาตรการเพื่อป้องกันการนำเทคโนโลยี Deepfake ไปใช้ในทางที่ผิด

การเปิดตัว OmniHuman-1 ของ ByteDance ถือเป็นก้าวสำคัญของเทคโนโลยี AI และ Deepfake ที่แสดงให้เห็นถึงศักยภาพอันไร้ขีดจำกัดของปัญญาประดิษฐ์ในการสร้างสรรค์คอนเทนต์

อย่างไรก็ตาม การพัฒนาเทคโนโลยีนี้ต้องมาพร้อมกับความรับผิดชอบ และมาตรการป้องกันที่เข้มงวด เพื่อป้องกันการนำไปใช้ในทางที่ผิด 

เมื่อปีที่แล้ว Deepfake เกี่ยวกับการเมืองแพร่กระจายไปทั่วโลกอย่างรวดเร็ว ในวันเลือกตั้งที่ไต้หวัน กลุ่มหนึ่งที่เชื่อมโยงกับพรรคคอมมิวนิสต์จีนได้โพสต์วิดีโอที่สร้างด้วย AI ซึ่งทำให้เข้าใจผิดได้

ในแอฟริกาใต้ วิดีโอ Deepfake ของแร็ปเปอร์ Eminem ที่สนับสนุนพรรคฝ่ายค้านของแอฟริกาใต้ก็แพร่กระจายออกไปก่อนการเลือกตั้งของประเทศ

Deepfake ยังถูกนำมาใช้ในการก่ออาชญากรรมทางการเงินมากขึ้น ผู้บริโภคถูกหลอกลวงด้วย Deepfake ของคนดังที่เสนอโอกาสในการลงทุนที่หลอกลวง

ตามข้อมูลของ Deloitte เนื้อหาที่สร้างโดย AI มีส่วนทำให้เกิดการสูญเสียจากการฉ้อโกงมากกว่า 12,000 ล้านดอลลาร์ในปี 2023 และอาจสูงถึง 40,000 ล้านดอลลาร์ในสหรัฐอเมริกาภายในปี 2027

รัฐมากกว่า 10 รัฐจึงได้ออกกฎหมายต่อต้านการแอบอ้างตัวตนโดยใช้ AI กฎหมายของรัฐแคลิฟอร์เนียซึ่งขณะนี้ยังอยู่ระหว่างการพิจารณา

จากการสำรวจของบริษัทตรวจสอบ ID อย่าง Jumio เมื่อเดือนพฤษภาคม 2024 พบว่า 60% ของผู้ตอบแบบสำรวจระบุว่าเคยพบกับ Deepfake ในปีที่ผ่านมา

ผู้ตอบแบบสำรวจ 72% ระบุว่ากังวลว่าจะถูก Deepfake หลอกทุกวัน ขณะที่คนส่วนใหญ่สนับสนุนกฎหมายเพื่อแก้ไขปัญหาการแพร่หลายของข้อมูลปลอมที่สร้างโดย AI"

ความน่าสนใจ OmniHuman-1 ไม่ได้เป็นเพียงโมเดล Deepfake ที่มีความสมจริงเท่านั้น แต่ยังเป็นเครื่องพิสูจน์ถึงความก้าวหน้าของเทคโนโลยี AI ของจีน ที่กำลังก้าวขึ้นมาเป็นผู้นำในด้านนี้

การพัฒนาเทคโนโลยี Deepfake จะนำไปสู่การเปลี่ยนแปลงครั้งสำคัญในวงการสื่อและความบันเทิง และอาจมีผลกระทบต่อสังคมในวงกว้าง

Deepfake กลายเป็นเรื่องยากที่จะตรวจจับได้มากขึ้น เนื่องจากเทคโนโลยีมีความซับซ้อนมากขึ้น Google, Meta และ OpenAI ได้เปิดตัวเครื่องมือลายน้ำ AI เช่น SynthID และ Video Seal ของ Meta เพื่อติดธงเนื้อหาที่สร้างด้วย AI 

อย่างไรก็ตามวิดีโอที่สร้างโดย AI ได้กระตุ้นการคุกคาม, การฉ้อโกงและการโจมตีทางไซเบอร์ โดยอาชญากรใช้เสียงที่สร้างโดย AI เพื่อหลอกลวงเหยื่อ

หน่วยงานกำกับดูแลของสหรัฐฯได้ออกคำเตือน ในขณะที่สมาชิกสภานิติบัญญัติได้เสนอกฎหมายเพื่อจัดการกับ Deepfake ที่มีเนื้อหาลามกในปัจจุบัน

ที่มา : SCMP