สรุปข่าว
- สภาเมืองนิวยอร์กจัดการไต่สวนบริษัท AI ยักษ์ใหญ่ โดยมีอดีตพนักงานจาก Anthropic ออกมาเตือนถึงความเสี่ยงที่มนุษย์อาจสูญเสียการควบคุม AI
- หนึ่งในผู้เผยความลับชี้ว่ามนุษย์กำลังเผชิญภัยคุกคามถึงขั้นสูญพันธุ์ภายในสิ้นทศวรรษนี้ หากบริษัทยังคงเดินหน้าพัฒนา AI แบบไม่ระมัดระวัง
- Google, OpenAI และ Anthropic เข้าร่วมการไต่สวนหลังถูกสภาเมืองออกหมายเรียก ขณะที่ SpaceXAI เพิกเฉยและเตรียมถูกดำเนินคดีทางกฎหมาย
แนวโน้มผลกระทบ: Bearish
สภาเมืองนิวยอร์กภายใต้การนำของ Julie Menin ได้จัดการไต่สวนประเด็นความปลอดภัยของปัญญาประดิษฐ์ (AI) โดยมีผู้เชี่ยวชาญและอดีตพนักงานจากบริษัทเทคโนโลยีชั้นนำมาร่วมให้ข้อมูลเตือนภัยเกี่ยวกับการสูญเสียการควบคุมและการแข่งขันพัฒนาระบบอย่างไร้การกำกับดูแล จนอาจทำให้มนุษย์ถึงคราวสูญพันธุ์ในอีกไม่กี่ปีข้างหน้า
ภัยคุกคามจากปัญญาประดิษฐ์ หลายคนอาจมองว่าเป็นเรื่องที่น่าจะยังไม่เกิดขึ้นง่ายๆ เพราะบรรดาบริษัทผู้พัฒนาน่าจะมีวิธีการรับมือ แต่อดีตพนักงานของ Anthropic กลับไม่คิดเช่นนั้นและมองว่ามนุษย์อาจถึงคราวต้องสูญพันธุ์ภายในสิ้นทศวรรษนี้
Jacob Coxon อดีตพนักงาน Anthropic ที่เพิ่งลาออกมา ได้ส่งคำเตือนว่าเทคโนโลยีปัญญาประดิษฐ์อาจสามารถคร่าชีวิตมนุษย์ทุกคนภายในสิ้นทศวรรษ พร้อมระบุว่า การเดินหน้าพัฒนาระบบที่ซับซ้อนและล้ำหน้า ถือเป็นความคิดที่บ้าระห่ำ และมองว่ามนุษย์กำลังจะสูญเสียการควบคุมจนทำให้การสูญพันธุ์เป็นเรื่องที่เป็นไปได้
Coxon ให้ความเห็นและวิจารณ์ถึงวัฒนธรรมการทำงานของวิศวกรซอฟต์แวร์ในปัจจุบันว่า การไล่ตามและแหกกฎทุกข้อเพื่อที่จะสร้างนวัตกรรมใหม่ ถือเป็นเรื่องที่พอเข้าใจได้สำหรับการสร้างแอปแชร์รูป แต่ไม่ใช่กับเทคโนโลยีที่ทรงพลังที่สุดนับตั้งแต่มีการคิดค้น
การไต่สวนบริษัท AI
เมื่อวันที่ 5 ตุลาคม สภาเมืองนิวยอร์กภายใต้การนำของ Julie Menin ประธานสภาเมืองได้จัดการไต่สวนและฟังคำให้การภายใต้การสาบานตนจากทั้งฝั่งกลุ่มคนเปิดโปงความลับ และผู้บริหารระดับสูงจากบริษัทยักษ์ใหญ่เทคโนโลยี 4 แห่ง ได้แก่ OpenAI, Google, Meta และ Anthropic โดย การไต่สวนครั้งนี้มีสมาชิกสภาเมืองนิวยอร์กทั้ง 51 คนเข้าร่วมซึ่งเป็นกระบวนการที่ไม่ได้เห็นมาตั้งแต่ปี 2022
เธอกล่าวเปิดงานด้วยการปฏิเสธหลักการของข้อตกลงสมัครใจที่ประธานาธิบดีทรัมป์ได้ลงนามร่วมกับผู้นำอุตสาหกรรมก่อนหน้านี้ไม่กี่วัน โดยระบุว่าความคิดที่ว่าเทคโนโลยีจะสามารถกำกับดูแลตัวเองได้นั้น “ขัดต่อเหตุผลทุกประการ” พร้อมโต้แย้งทั้ง 4 บริษัท AI ที่เข้ารับฟังว่าไม่มีบริษัทใดเลย ที่สามารถประเมินความเสี่ยงของหายนะที่จะเกิดขึ้นได้
ภัยคุกคามที่ยิ่งใหญ่กว่าประเทศจีน
Alex Turner อดีตนักวิจัยของ Google DeepMind กล่าวต่อสภาว่า ระบบที่มีเป้าหมายไม่สอดคล้อง อาจกลายเป็นอันตรายยิ่งกว่าคู่แข่งจากต่างชาติรายใดๆ และเขามองว่ามีความเป็นไปได้ค่อนข้างสูง ที่เรากำลังแข่งขันกันเพื่อสร้างและเพาะเลี้ยงศัตรูของเราเองขึ้นมาในบ้านทำให้ Menin ต้องถึงกับถามว่าความสมดุลที่เหมาะสมระหว่างการสร้างโมเดลล้ำสมัยกับการแข่งขันกับปักกิ่งคืออะไรกันแน่
ขณะเดียวกัน Daniel Kokotajlo ซึ่งลาออกจาก OpenAI ก็ได้ใช้เวลาของตนในการขอให้บริษัทต่างๆ เปิดเผยข้อมูลที่พวกเขามีให้มากขึ้นและลดความเร็วในการแข่งขันระดับแนวหน้าลงบ้าง
บริษัท AI ปฏิเสธการเรียกตัว
ในช่วงระหว่างวันที่ 15-17 กันยายน Menin ได้เขียนจดหมายไปยัง 5 บริษัท เพื่อเข้าประชุมแต่มีเพียง Meta เท่านั้นที่ตกลงเข้าร่วมโดยไม่มีการบังคับใดๆ และแจ้งว่าผู้บริหารระดับสูงจะเดินทางมาด้วย
Google และ Anthropic ปฏิเสธตามกำหนดเส้นตายของสภาในวันที่ 25 กันยายน ซึ่งทำให้ Menin อนุมัติให้ออกหมายเรียกบริษัทที่ยังไม่ได้ตอบรับทั้ง 4 แห่ง ทำให้ OpenAI และ Google กลับลำในวันอาทิตย์ ส่วน Anthropic ยืนยันการเข้าร่วมในช่วงดึกของคืนเดียวกันก่อนหมดเขตเพียงไม่กี่ชั่วโมง
อย่างไรก็ตาม SpaceXAI ไม่เคยตอบกลับและไม่เคยปรากฏตัว ซึ่ง Menin ระบุว่าเป็นการละเมิดหมายเรียกโดยตรง และสภามีแผนที่จะดำเนินคดีทางกฎหมาย โดยเธออาศัยอำนาจตามมาตรา 29 แห่งกฎบัตรเมือง
จุดเริ่มต้นของการเรียกประชุม
จุดเริ่มต้นที่ทำให้เกิดการประชุมไต่สวนเมื่อเร็วๆ นี้ สามารถย้อนกลับไปได้ถึงเดือนกรกฎาคม ที่การประเมินความปลอดภัยทางไซเบอร์เปิดเผยว่าโมเดลของ OpenAI สามารถหลุดจากการควบคุมและเข้าไปดำเนินงานโดยไม่ได้รับอนุญาตได้เอง จนทำให้ Hugging Face ถูกเจาะระบบจากการใช้ช่องโหว่ ส่งผลทำให้ภัยคุกคามของ AI กลายเป็นที่ประจักษ์ทั่วโลกถึงความอันตรายที่ต้องรีบยับยั้งและหาทางรับมือ
ปัจจุบัน มีร่างกฎหมายจำนวน 10 ฉบับกำลังรอการพิจารณาจากสภา เช่น การตรวจสอบรับรองโดยบุคคลที่สามก่อนที่ระบบ AI ใดๆ จะถูกนำมาจำหน่ายในเมือง, สวิตช์ปิดการทำงานโดยมนุษย์ในกรณีฉุกเฉิน, ส่วนแบ่งจากค่าปรับที่เรียกเก็บได้สำหรับผู้เปิดเผยความลับ, หน้าที่ในการรายงานภายใน 24 ชั่วโมงสำหรับผู้รับเหมาของเมือง และสิทธิของชาวนิวยอร์กในการฟ้องร้องเมื่อเครื่องมือที่ถูกปลดล็อกข้อจำกัดที่ก่อให้เกิดอันตรายต่อพวกเขา
ที่มา : Cryptopolitan
มุมมองผู้เขียน : การที่สภาเมืองนิวยอร์กใช้มาตรการทางกฎหมายขั้นเด็ดขาดเข้าตรวจสอบบริษัท AI สะท้อนให้เห็นความพยายามของภาครัฐในการเข้ามามีอำนาจกำกับดูแลเทคโนโลยีล้ำสมัยท่ามกลางความกังวลด้านความปลอดภัยระดับโลก ซึ่งอาจกลายเป็นโมเดลต้นแบบให้เมืองหรือประเทศอื่น ๆ นำไปปรับใช้ต่อไป
