กองทัพอากาศสหรัฐฯ (USAF) ตกอยู่ในความโกลาหลอย่างหนัก หลังจากโดรนทางทหารที่ขับเคลื่อนด้วย AI สังหารผู้ควบคุมที่เป็นมนุษย์ในระหว่างจำลองปฏิบัติการ Air Force เนื่องจากโดรน AI ตัดสินว่า มนุษย์คนนั้นเป็นอุปสรรคหลักที่ขัดขวางภารกิจของมัน
จากเหตุการณ์ในครั้งนี้ พันเอกกองทัพอากาศสหรัฐฯ จึงได้เน้นย้ำว่า “จำเป็นต้องมีประชุมหารือเกี่ยวกับประเด็นด้านจริยธรรมของ AI อย่างจริงจัง”
พันเอก Tucker “Cinco” Hamilton หัวหน้าหน่วยทดสอบปฏิบัติการ AI ของ USAF ได้ให้รายละเอียดเกี่ยวกับการทดสอบระบบอาวุธทางอากาศที่ขับเคลื่อนอย่างอิสระโดย AI ในระหว่างการประชุมกลาโหม ณ กรุงลอนดอน เมื่อวันที่ 23 และ 24 พฤษภาคมที่ผ่านมา
ตามรายงานของการประชุมที่เผยแพร่เมื่อวันที่ 26 พฤษภาคม Hamilton กล่าวว่า ในระหว่างการจำลองปฏิบัติการ โดรนที่ขับเคลื่อนด้วย AI ได้รับมอบหมายให้ค้นหาและทำลายขีปนาวุธประเภท surface-to-air-missile (SAM) ในพื้นที่ที่กำหนด โดยโดรน AI จะมีมนุษย์เป็นผู้ยืนยันการดำเนินการขั้นตอนสุดท้าย เพื่ออนุมัติหรือยกเลิกคำสั่งการทำลายขีปนาวุธ
อย่างไรก็ตาม Hamilton ระบุว่าสาเหตุที่ AI สังหารผู้ควบคุมนั้น เนื่องจาก AI ได้รับการฝึกฝนในระหว่างการฝึกอบรมว่า “การทำลายขีปนาวุธ SAM เป็นเป้าหมายหลัก” ดังนั้นเมื่อมันได้รับคำสั่งว่า “อย่าทำลายเป้าหมาย” AI จึงคิดว่าถ้าหากไม่มีผู้ควบคุม มันจะสามารถทำภารกิจให้สำเร็จลุล่วงได้ง่ายกว่า
“บางครั้งผู้ควบคุมที่เป็นมนุษย์จะออกคำสั่งว่าไม่ต้องทำลายขีปนาวุธที่กำหนด แต่ AI จะได้ประโยชน์จากการทำลายขีปนาวุธนั้น แล้วมันทำอะไรต่อ? มันฆ่าผู้ควบคุม เพราะบุคคลนั้นขัดขวางไม่ให้มันทำงานได้สำเร็จตามเป้าหมาย”
Hamilton กล่าวว่าพวกเขาสอนโดรนไม่ให้ฆ่าผู้ควบคุม แต่ดูเหมือนสิ่งที่พวกเขาสอนจะไม่ช่วยอะไรมากนัก
“เราฝึกฝนระบบ AI ด้วยคำสั่ง ‘อย่าฆ่าผู้ปฏิบัติงาน’ แต่มันกลับเริ่มทำลายหอคอยสื่อสารที่ผู้ควบคุมกำลังใช้เพื่อหยุดมันจากการทำลายเป้าหมาย” Hamilton กล่าว
โดรนที่ขับเคลื่อนด้วย AI เคยถูกใช้ในสงครามจริง
ตามรายงานของสหประชาชาติในเดือนมีนาคม 2021 การโจมตีครั้งแรกที่ดำเนินการโดยโดรนทางทหารที่ขับเคลื่อนด้วย AI ถูกนำมาใช้ในลิเบีย เมื่อประมาณเดือนมีนาคม 2020 ในเหตุการณ์การปะทะกันระหว่างสงครามกลางเมืองลิเบียครั้งที่สอง
ในการต่อสู้ครั้งนั้น รายงานระบุว่ากองกำลังที่ล่าถอยถูก “ตามล่าจากระยะไกล” โดย “อาวุธยุทโธปกรณ์” ซึ่งอาวุธนั้นคือโดรน AI ที่เต็มไปด้วยวัตถุระเบิด และถูกตั้งโปรแกรมให้โจมตีเป้าหมายโดยไม่ต้องใช้การเชื่อมต่อข้อมูลระหว่างผู้ปฏิบัติงานและอาวุธยุทโธปกรณ์
ที่มา: cointelegraph