Deepfake พาซวย โอนเงินตามนายสั่ง มารู้ทีหลังว่า นั่นไม่ใช่เสียงเจ้านาย!
Deepfake หนึ่งในภัยคุกคามทางไซเบอร์ที่เป็นได้ทั้งเสียง รูปภาพ และวิดีโอ ซึ่งดูเสมือนจริงจนแยกได้ยาก และสร้างความเสียหายโดยที่คนส่วนใหญ่ไม่รู้ว่า เป็นสิ่งที่ AI สร้างขึ้น และนี่คือกรณีศึกษาที่ทำให้ CEO คนหนึ่งเดือดร้อน
ภาพหรือวิดีโอที่สร้างขึ้นมาแบบ Deepfake ปลอมจนเสมือนจริงและทำให้คนเชื่อได้ไม่ยาก แค่มีคอมพิวเตอร์คุณภาพดีกับคอลเลกชันรูปภาพดีๆ ของเป้าหมายเป็นแกนตั้งต้น ก็สามารถทำให้ผู้นำ ผู้บริหารองค์
Deepfake เสมือนจริงจนกระเทือนธุรกิจ
เทคโนโลยีสำคัญที่อยู่เบื้องหลังคำว่า Deepfake คือ Artificial Intelligence (ปัญญาประดิษฐ์) และ Machine Learning (การเรียนรู้ของเครื่องจักร) ซึ่งแทรกซึมอยู่ในธุรกิจและการสื่
กรณีศึกษา Voice Deepfake หลอกโอนเงินไปหลายล้าน!
ปี 2562 ซีอีโอของบริษัทพลังงานแห่งหนึ่งในสหราชอาณาจักรได้รับสายด่วนจากเจ้านายซึ่งเป็นผู้บริหารของบริษัทแม่ที่ประเทศเยอรมนี โดยเจ้านายชาวเยอรมันสั่งให้ลูกน้องของเขาโอนเงิน 220,000 ยูโร (หรือ 243,000 ดอลลาร์/ราว 8.5 ล้านบาท) ให้ตัวแทนซัพพลายเออร์ที่อยู่ในฮังการี ทั้งโทรตาม โทรเร่งให้โอนเงินเป็นกรณีเร่งด่วนและต้องแล้วเสร็จภายใน 1 ชั่วโมง
ซีอีโอเชื่อสนิทใจและโอนเงินไปตามหน้าที่ เพราะคำสั่งมาจากเจ้านาย เสียงเจ้านายที่มีสำเนียงเยอรมันด้วยซ้ำ แต่หารู้ไม่ว่า เสียงนั้นเป็นเสียงสังเคราะห์ที่ AI สร้างเป็น Voice Deepfake หรือ เสียงปลอม นั่นเอง
ลองนึกดูว่า ซีอีโอ ผู้บริหารแถวหน้า หรือดาราที่มีชื่อเสียงในระดับบุคคลสาธารณะ ย่อมมีภาพหรือคลิปบันทึกกิจกรรมในบริบทต่างๆ เผยแพร่ตามสื่อสาธารณะอยู่แล้ว สิ่งเหล่านี้จึงเป็นวัตถุดิบให้นักต้มตุ๋นที่เป็น Deepfakers ใช้เป็นเครื่องมือสร้าง ตัวตนเสมือน เพื่อเลียนแบบอัตลักษณ์ต่างๆ ของซีอีโอ ผู้บริหาร หรือคนดังอื่นๆ แล้วทำให้ผู้คนเชื่อ เข้าใจในทางที่ผิด ตลอดจนทำให้บุคคลนั้นเสื่อมเสียชื่อเสียง แล้วสถานการณ์จะเป็นอย่างไรต่อไป?
บทความเจาะลึกเรื่อง Deepfake ที่ SPRiNG นำเสนอไปก่อนหน้านี้
- Deepfake คลิปปลอมสุดเนียนที่สร้างจาก A.I. จะแยกแยะยังไงว่าเป็น "ข่าวปลอม"
- Deepfake คือ? A.I. สุดล้ำปลอมหน้าอย่างเนียน แต่กลับแฝงอันตราย
บิดเบือนจน "ความจริง" ไม่น่าเชื่อถือ
ในขณะที่บางองค์กรธุรกิจสู
RAND Corporation หน่วยงานด้านนโยบายระดั
ผู้ประกอบธุรกิจควรตระหนกหรือตระหนักเกี่ยวกับเหตุการณ์นี้ยังไง?
Darin Stewart (แดริน สจ๊วต) รองประธานฝ่ายวิจัย การ์ทเนอร์ อิงค์ บริษัทวิจัยและให้คำปรึกษาชั้นนำของโลก พูดถึงประเด็นนี้ว่า คำตอบคือ ทั้งใช่และไม่ใช่ โดยสิ่งที่ผู้ประกอบธุรกิจต้องกังวลคือ รู
แต่ที่ยังเบาใจได้คือ ยังต้
Darin Stewart, VP Analyst, Gartner Inc.
อย่างไรก็ตาม เทคโนโลยีนี้มีพัฒนาการที่รวดเร็วและกำลังเปลี่ยนแปลงไป โดยในด้านการบิดเบือนข้
- ข้อแรก คือ Deepfake ทำให้ผู้ที่ไม่หวังดีใช้วิธี
นี้จู่โจมได้ง่ายมากขึ้น แม้จะมีเปอร์เซ็นต์ความสำเร็จน้ อย แต่สิ่งที่ได้มาก็คุ้ม (ในมุมของเขา) - ข้อสอง เมื่อเทคโนโลยี Deepfake หรือการปลอมแปลงอัตลักษณ์ของบุ
คคลด้วย AI ที่ทรงพลั งและใช้ง่ายขึ้น (อยู่ในรูปแบบซอฟต์แวร์ที่หาซื้อได้) ตกอยู่ในมื อคนจำนวนมาก อาจทำให้ใครก็ได้ สามารถโจมตีเป้าหมาย คู่แข่ง คู่แค้น ที่ต้ องการ ไม่ว่าจะด้วยเหตุผลใดก็ตาม
แดรินอธิบายเพิ่มว่า การปลอมแปลงในลักษณะดังกล่าว เกิดขึ้นแล้วกับบุคคลสาธารณะจำนวนมาก บ่อยครั้งก็เกิดกับคนดังๆ ที่มักถูกนำภาพไปใช้ในทางอนาจาร โดยไม่ได้รับความยินยอม รูปสาธารณะของดารารวมกับเนื้อหาลามกอนาจารถูกนำมาผลิตใช้เสมือนจริงจนน่าตกใจ
"ลองจินตนาการถึงเรื่องอื้อฉาวและการควบคุมความเสียหายหากเกิดเรื่องแบบนี้กับซีอีโอขององค์กร หรือจัดฉากการติดสินบนโดยมีนักแสดงยื่นเงินให้กันแล้วเอาใบหน้าของนักการเมืองหรือผู้บริหารด้านการเงินขององค์กรคุณมาสวมแทน
"แรนซัมแวร์อาจเป็นเรื่องน่ากลัวของวันนี้ แต่พรุ่งนี้สิ่งที่จะมาแทนคือ การใช้ Deepfake เพื่อการขู่กรรโชกหรือการให้ร้ายแก่กัน"
..........................................
ที่มา
- A Voice Deepfake Was Used To Scam A CEO Out Of $243,000
-
Countering Truth Decay : A RAND Initiative to Restore the Role of Facts and Analysis in Public Life
