เมื่อเร็วๆ นี้มีรายงานข่าวกรองเผยแพร่ในกองทัพสหรัฐฯ ท่ามกลางสงความกับอิหร่านที่ทำให้ทุกฝ่ายลุกขึ้นมาเตรียมความพร้อม นั่นคือ เรือของจีนลำหนึ่งในตะวันออกกลางกำลังขนส่งชิ้นส่วนสำหรับโครงการอาวุธนิวเคลียร์
แหล่งข่าว 4 รายที่รับทราบเรื่องราวนี้เผยว่า กองทัพสหรัฐฯ เริ่มดำเนินการตามแผนเพื่อสกัดกั้นเรือลำดังกล่าว แหล่งข่าว 2 รายระบุว่า เจ้าหน้าที่ทหารติดอาวุธกำลังเตรียมการเพื่อบุกขึ้นไปบนเรือ นอกจากนี้ แหล่งข่าว 2 ราย (ซึ่งรวมถึงหนึ่งในกลุ่มที่กล่าวถึงข้างต้น) ยังระบุด้วยว่า มีเครื่องบินทหารบินปฏิบัติการอยู่ในพื้นที่
แต่ไม่นานก่อนจะเริ่มปฏิบัติการตามแผน เจ้าหน้าที่ได้ตรวจสอบรายงานที่จัดทำโดยนักวิเคราะห์จากหน่วยบัญชาการปฏิบัติการพิเศษอย่างละเอียดขึ้น และพบว่า รายงานดังกล่าวถูกจัดทำขึ้นโดยอาศัยความช่วยเหลือจากปัญญาประดิษฐ์ (AI) และยังพบว่า แชทบอทที่นักวิเคราะห์รายนั้นใช้งาน ระบุประเภทของสินค้าที่เรือลำดังกล่าวบรรทุกมาคลาดเคลื่อน
แหล่งข่าวระบุว่า รายงานข่าวดังกล่าว “เป็นเท็จโดยสิ้นเชิง” แต่ก็ “เกือบจะก่อให้เกิดสงคราม” ขึ้นมาได้เช่นกัน เพราะปฏิบัติการใดๆ ของสหรัฐฯ ที่มุ่งเป้าไปที่เรือของจีนอาจเสี่ยงต่อการบานปลายกลายเป็นความขัดแย้งด้วยกำลังอาวุธระหว่างทั้งสองประเทศ
ทั้งในกองทัพและหน่วยงานด้านข่าวกรองของสหรัฐฯ เจ้าหน้าที่ต่างกำลังผลักดันให้นำปัญญาประดิษฐ์ (AI) เข้ามาใช้ในแทบทุกแง่มุมของการทำงาน ตั้งแต่การวิเคราะห์ข้อมูลดิบด้านข่าวกรองจำนวนมหาศาลที่สหรัฐฯ รวบรวมไว้และการเลือกเป้าหมายเพื่อโจมตี ไปจนถึงงานทั่วไปอย่างการบริหารจัดการงบประมาณ โลจิสติกส์ และห่วงโซ่อุปทาน
แต่เหตุการณ์นี้ตอกย้ำให้เห็นถึงความเสี่ยงอันใหญ่หลวงของการนำเทคโนโลยีทรงพลังและแปลกใหม่ ซึ่งยังไม่เข้าใจกันถ่องแท้นี้ มาใช้ในการกำหนดเป้าหมายโจมตีท่ามกลางสถานการณ์สงคราม บรรดานักวิเคราะห์ต่างกังวลมาโดยตลอดว่า AI อาจนำไปสู่การตัดสินใจที่ผิดพลาดอย่างร้ายแรงหากประเทศต่างๆ ต้องพึ่งพาข้อมูลที่ด้อยคุณภาพหรือข้อมูลที่ถูกบิดเบือน ซึ่งความผิดพลาดในลักษณะนี้อาจทำให้สหรัฐฯ ตัดสินใจโจมตีเรือของจีนโดยอ้างอิงจากข้อมูลที่ไม่ถูกต้องแม่นยำได้
ในกรณีนี้ นักวิเคราะห์สอบถามแชทบอทเกี่ยวกับรายงานข่าวกรองเกี่ยวกับบัญชีรายการสินค้าของเรือ ซึ่งมาจากหน่วยบัญชาการปฏิบัติการพิเศษของสหรัฐฯ ประจำภูมิภาคแปซิฟิก ที่ตั้งอยู่ในฮาวาย แต่ไม่ชัดเจนว่าแชทบอทนั้นเป็นแบบที่หาซื้อได้ทั่วไปหรือเป็นผลิตภัณฑ์ของรัฐบาลสหรัฐฯ
“เครื่องมือภายในส่วนใหญ่เป็นเพียงการลอกเลียนแบบของเชิงพาณิชย์ที่นำมาตกแต่งใหม่เท่านั้น” อดีตเจ้าหน้าที่ระดับสูงของสหรัฐฯ ที่คุ้นเคยกับระบบ AI ที่ใช้โดยนักวิเคราะห์ทางการทหารและข่าวกรองกล่าว
บอทได้ผสมผสานข้อมูลข่าวกรองจากแหล่งเปิดเผยเข้ากับข้อมูลข่าวกรองสัญญาณลับที่รัฐบาลเก็บรักษาไว้ และได้ข้อสรุปที่สำคัญเกี่ยวกับวัสดุที่เรือลำนั้นบรรทุกอยู่
จากนั้น นักวิเคราะห์นำ AI มาใช้จัดทำข้อมูลที่ได้จากการวิเคราะห์ให้เป็นรายงานข่าวกรองตามมาตรฐาน ซึ่งเป็นรูปแบบที่เจ้าหน้าที่ฝ่ายทหารให้ความเชื่อถือ แล้วจึงเผยแพร่รายงานดังกล่าวออกไป
เหตุผลสำคัญที่ทำให้มีการนำ AI มาใช้อย่างรวดเร็วก็คือ AI ช่วยให้ฝ่ายทหารสามารถตัดสินใจในสถานการณ์การรบได้รวดเร็วยิ่งขึ้น เช่น การเลือกว่าจะโจมตีเป้าหมายใด หรือจะเคลื่อนย้ายกำลังพลและยุทโธปกรณ์ไปไว้ที่จุดใด เจ้าหน้าที่ระบุว่า สหรัฐฯ จะปล่อยให้ตัวเองล้าหลังในด้านการนำ AI มาประยุกต์ใช้ไม่ได้ เพราะหากวันหนึ่งต้องเผชิญหน้ากับจีนหรือคู่ปรับอื่นที่มีศักยภาพในการชิงความได้เปรียบเหนือสหรัฐฯ สหรัฐฯ ก็จำเป็นต้องมีความพร้อมที่จะรับมือและไม่ตกเป็นฝ่ายเสียเปรียบ
เมื่อเดือนมกราคมที่ผ่านมา พีท เฮกเซธ รัฐมนตรีว่าการกระทรวงกลาโหมสหรัฐฯ เปิดตัว “ยุทธศาสตร์เร่งรัดการใช้ปัญญาประดิษฐ์” ของหน่วยงาน เพื่อเร่งผลักดันการนำเทคโนโลยี AI มาใช้ในกองทัพ
“เราจะเปิดกว้างให้เกิดการทดลอง ขจัดอุปสรรคด้านระบบราชการ มุ่งเน้นการลงทุน และแสดงให้เห็นถึงแนวทางการปฏิบัติงานที่จำเป็น เพื่อให้มั่นใจว่าเราจะเป็นผู้นำด้าน AI ทางการทหาร”
— เฮกเซธกล่าวระหว่างการแถลงเปิดตัวยุทธศาสตร์ดังกล่าว
นอกจากนี้ ยุทธศาสตร์ดังกล่าวยังผลักดันให้มีการนำ AI มาใช้ในวงกว้างทั่วทั้งกองทัพ โดยมีการสั่งการให้หน่วยงานจัดหา AI ผ่านโครงการต่างๆ ด้วยเป้าหมายที่จะ "เปิดโอกาสให้บุคลากรทั้งพลเรือนและทหารจำนวน 3 ล้านคนในทุกระดับชั้นความลับ สามารถเข้าถึงและทดลองใช้โมเดล AI ชั้นนำระดับโลกของสหรัฐฯ ได้โดยตรง เพื่อขับเคลื่อนการเปลี่ยนแปลงด้วยเทคโนโลยี AI ให้เกิดขึ้นทั่วทั้งองค์กร" ตามที่ระบุไว้ในบันทึกข้อความที่ประกาศยุทธศาสตร์นี้
อย่างไรก็ตาม เจ้าหน้าที่สหรัฐฯ หลายรายที่รับทราบสถานการณ์ระบุว่า ความพยายามดังกล่าวมีลักษณะการดำเนินงานแบบกระจายศูนย์ โดยหน่วยงานต่างๆ ของรัฐบาลต่างเลือกใช้เครื่องมือที่แตกต่างกัน ภายใต้คำสั่งและมาตรฐานความปลอดภัยที่แตกต่างกันไป อีกทั้งยังไม่มีมาตรฐานกลางเพียงชุดเดียวสำหรับกระบวนการตรวจสอบความถูกต้องของข้อมูลที่สร้างขึ้นโดยเครื่องมือเหล่านี้ การที่ระบบ AI หลากหลายรูปแบบถูกนำไปใช้งานโดยหน่วยงานต่างๆ ทั้งในกองทัพและแวดวงข่าวกรอง ส่งผลให้ระดับความน่าเชื่อถือและขีดความสามารถในการทำงานของระบบเหล่านั้นมีความแตกต่างกันอย่างมาก
นักกำหนดนโยบายในวอชิงตันถกเถียงกันอย่างเข้มข้นเกี่ยวกับปัญญาประดิษฐ์ (AI) มานานหลายสัปดาห์แล้ว หลังจากคำเตือนที่น่าหวาดหวั่นหลายครั้งจากวิศวกรในซิลิคอนแวลลีย์และซีอีโอของบริษัทเทคโนโลยี เกี่ยวกับความเป็นไปได้ที่ AI จะหลุดพ้นจากข้อจำกัดของมนุษย์ ซึ่งอาจนำไปสู่ผลลัพธ์ที่ทำลายล้างอารยธรรมได้
แต่เหตุการณ์ที่เกิดขึ้นกับเรือของจีนเน้นย้ำถึงความเสี่ยงที่แตกต่างและเร่งด่วนกว่า นั่นคือ มนุษย์อาจตัดสินใจผิดพลาดอย่างร้ายแรงโดยอาศัยข้อมูลที่ไม่ถูกต้องหรือทำให้เข้าใจผิด ซึ่งสร้างขึ้นโดย AI หรือระบบอัตโนมัติอื่นๆ แหล่งข่าวระบุว่า กองทัพกำลังหันมาใช้ AI อย่างรวดเร็วเพื่อช่วยในการกำหนดเป้าหมาย ซึ่งเป็นพื้นที่ที่มีความเสี่ยงอย่างเห็นได้ชัดที่จะเกิดความผิดพลาดร้ายแรง
“การนำ AI มาใช้ในการกำหนดเป้าหมายเป็นสิ่งที่กำลังขยายตัวอย่างแน่นอน แต่กลับยังไม่มีแนวทางปฏิบัติที่ชัดเจนว่า การให้มนุษย์เข้ามามีส่วนร่วมในกระบวนการตัดสินใจ จะช่วยป้องกันการบาดเจ็บล้มตายของพลเรือนหรือเหตุการณ์ยิงพวกเดียวกันเองได้อย่างไร” แหล่งข่าวอีกรายที่รับทราบข้อมูลเกี่ยวกับนโยบายปัจจุบันของกองทัพกล่าว
แหล่งข่าวรายหนึ่งระบุว่า ปรากฏการณ์ “อาการหลอน” ของระบบ AI ที่นักวิเคราะห์ในกรณีนี้ใช้งานอยู่นั้น ไม่ใช่เหตุการณ์ที่เกิดขึ้นเพียงครั้งเดียวหรือเป็นกรณีเฉพาะ แต่เป็นสิ่งที่พบเห็นได้ทั่วไปในแวดวงข่าวกรอง นับตั้งแต่มีการนำเครื่องมือเหล่านี้มาใช้แพร่หลายในหน่วยงานภาครัฐ
สำหรับเจ้าหน้าที่ข่าวกรองรุ่นอาวุโสบางส่วน แม้กระทั่งผู้ที่สนับสนุนการนำ AI มาใช้ในกองทัพโดยภาพรวม เทคโนโลยีนี้ได้สร้างแรงกดดันให้นักวิเคราะห์ต้องจัดทำและเผยแพร่ข้อมูลข่าวกรองให้รวดเร็วยิ่งขึ้น ซึ่งเปิดช่องให้เกิดความผิดพลาดได้ แหล่งข่าวหลายแห่งระบุว่า โดยเฉพาะนักวิเคราะห์รุ่นใหม่ซึ่งคุ้นเคยกับเครื่องมือเหล่านี้เป็นอย่างดี มักมีแนวโน้มที่จะเชื่อถือผลลัพธ์จาก AI โดยปราศจากการตรวจสอบหรือตั้งคำถามอย่างเพียงพอ
“AI ทำให้คุณได้ข้อสรุปที่ผิดพลาดได้รวดเร็วยิ่งขึ้น” แหล่งข่าวรายหนึ่งกล่าว
Photo by MANDEL NGAN / AFP
