Microsoft ห้ามตำรวจสหรัฐฯ ใช้ AI สำหรับจดจำใบหน้า ห่วงสร้างข้อมูลบิดเบือน

เมื่อวันพุธที่ผ่านมา Microsoft ได้ประกาศเพิ่มข้อกำหนดและเงื่อนไขใหม่สำหรับบริการ Azure OpenAI ซึ่งห้ามอย่างชัดเจนไม่ให้หน่วยงานตำรวจนำบริการนี้ไปใช้ในการจดจำใบหน้า ทั้งในเวอร์ชันปัจจุบันและอนาคตของ OpenAI ที่สามารถวิเคราะห์ภาพได้

นอกจากนี้ ยังมีข้อห้ามสำหรับหน่วยงานบังคับใช้กฎหมายทั่วโลก ในการใช้เทคโนโลยีจดจำใบหน้าแบบเรียลไทม์บนกล้องมือถือ เช่น กล้องบอดี้แคมหรือกล้องติดรถยนต์ เพื่อระบุตัวตนของบุคคลในสถานการณ์ที่ไม่สามารถควบคุมได้

การเปลี่ยนแปลงนโยบายครั้งนี้เกิดขึ้นหลังจากที่ Axon ผู้ผลิตอุปกรณ์เทคโนโลยีและอาวุธสำหรับเจ้าหน้าที่ทหารและตำรวจ ได้เปิดตัวผลิตภัณฑ์ใหม่ที่ใช้ GPT-4 ของ OpenAI  ในการสรุปเสียงจากกล้องบอดี้แคม

ซึ่งก่อให้เกิดข้อกังวลเรื่องความเป็นไปได้ที่จะเกิดการสร้างข้อมูลที่ผิดพลาด และอคติทางเชื้อชาติจากข้อมูลที่ใช้ในการฝึก AI (โดยเฉพาะอย่างยิ่ง เพราะคนผิวสีมักถูกตำรวจตรวจค้นบ่อยกว่าคนผิวขาวมากในพื้นที่เดียวกัน)

แม้ยังไม่แน่ชัดว่า Axon ใช้บริการ GPT-4 ผ่าน  Azure OpenAI ของ Microsoft หรือไม่ และการเปลี่ยนนโยบายนี้เกี่ยวข้องกับผลิตภัณฑ์ของ Axon โดยตรงหรือไม่ แต่ OpenAI เองก็เคยจำกัดการใช้ AI ของตนเพื่อจดจำใบหน้ามาก่อนหน้านี้แล้ว

ช่องว่างของข้อกำหนดใหม่ของ Microsoft

ข้อห้ามใหม่ของ Microsoft ในการใช้ Azure OpenAI สำหรับการจดจำใบหน้านั้น มีข้อจำกัดอยู่หลายประการ เพราะมีผลบังคับใช้เฉพาะกับหน่วยงานตำรวจในสหรัฐฯ เท่านั้น ไม่รวมถึงหน่วยงานตำรวจต่างประเทศ และไม่ครอบคลุมการจดจำใบหน้าผ่านกล้องติดตั้งถาวรในพื้นที่ควบคุมได้ เช่น สำนักงานหรือบ้านพักอาศัย แม้จะมีข้อห้ามสำหรับหน่วยงานตำรวจสหรัฐฯ อยู่แล้วก็ตาม  

ข้อจำกัดนี้สะท้อนให้เห็นท่าทีล่าสุดของ Microsoft และ OpenAI ซึ่งเป็นพันธมิตรใกล้ชิด ในการทำสัญญากับหน่วยงานบังคับใช้กฎหมายและกองทัพที่เกี่ยวข้องกับการใช้เทคโนโลยีปัญญาประดิษฐ์ หรือ AI

โดยเมื่อเดือนมกราคมที่ผ่านมา Bloomberg รายงานว่า OpenAI กำลังร่วมมือกับกระทรวงกลาโหมสหรัฐฯ ในโครงการต่างๆ รวมถึงด้านความมั่นคงปลอดภัยไซเบอร์ ซึ่งเป็นการเปลี่ยนท่าทีไปจากเดิมที่เคยปฏิเสธการให้บริการ AI แก่กองทัพ นอกจากนี้ สื่อยังรายงานด้วยว่า Microsoft ได้เสนอให้ใช้เครื่องมือสร้างภาพ DALL-E ของ OpenAI ในการช่วยกระทรวงกลาโหมพัฒนาซอฟต์แวร์เพื่อปฏิบัติการทางทหารอีกด้วย

Azure OpenAI Service ของ Microsoft ได้เริ่มให้บริการบนแพลตฟอร์ม Azure Government ซึ่งเป็นบริการคลาวด์สำหรับหน่วยงานภาครัฐโดยเฉพาะ ตั้งแต่เดือนกุมภาพันธ์ที่ผ่านมา โดยมีฟีเจอร์เพิ่มเติมในด้านการกำกับดูแลและการจัดการสำหรับหน่วยงานรัฐ รวมถึงหน่วยงานบังคับใช้กฎหมาย 

Candice Ling ผู้บริหารระดับสูงของ Microsoft Federal ซึ่งเป็นหน่วยงานที่ดูแลลูกค้าภาครัฐ ได้ออกมาให้สัญญาในบล็อกโพสต์ว่า Azure OpenAI Service จะถูกส่งเข้ารับการรับรองเพิ่มเติมจากกระทรวงกลาโหมสหรัฐฯ สำหรับการใช้งานที่เกี่ยวข้องกับการสนับสนุนภารกิจทางทหาร

จากข้อมูลข้างต้น จะเห็นได้ว่า Microsoft มีแผนที่จะผลักดันให้มีการนำ AI ไปใช้ในภาครัฐและกองทัพอย่างแพร่หลายมากขึ้น ผ่านการให้บริการโซลูชันที่ออกแบบมาเฉพาะสำหรับลูกค้ากลุ่มนี้ พร้อมกับการขอรับรองมาตรฐานเพิ่มเติมเพื่อรองรับความต้องการและข้อกำหนดพิเศษของงานด้านความมั่นคง

ที่มา

• techcrunch