สรุปข่าว
- Jacob Coxon นักวิจัยด้าน pretraining วัย 27 ปี ที่เคยผ่านงานทั้ง OpenAI และ Anthropic ประกาศลาออก และถอนตัวจากวงการ AI ทั้งหมด พร้อมระบุว่า ทั้งสองบริษัทกำลังแข่งกันพัฒนา superintelligence แบบพัฒนาตัวเองได้ โดยเอาชีวิตมนุษย์เป็นเดิมพัน
- Jacob Coxon ให้สัมภาษณ์กับ Wall Street Journal ว่า ฝ่ายความปลอดภัยของ Anthropic ทำงานด้วยความจริงใจ แต่แรงกดดันจากการแข่งขันในอุตสาหกรรมทำให้ยากจะหลีกเลี่ยงการยอมลดมาตรฐาน
- การลาออกครั้งนี้ เกิดขึ้นไม่กี่วันหลังหัวหน้านักวิทยาศาสตร์ของ OpenAI ออกมายอมรับว่า ยังไม่มีห้องแล็บใดควบคุมโมเดลของตัวเองได้อย่างแท้จริง และเกิดขึ้นในช่วงที่ Anthropic กำลังถูกจับตาเรื่องแผนเข้าตลาดหุ้น
แนวโน้มที่ส่งผลกระทบต่อราคา: Neutral
คำเตือนลักษณะนี้ไม่ใช่เรื่องใหม่ในวงการ AI และไม่ได้กระทบโครงสร้างธุรกิจหรือรายได้ของ Anthropic โดยตรง สิ่งที่กระทบมากกว่าคือ ภาพลักษณ์ด้านความปลอดภัยที่บริษัทใช้เป็นจุดขายมาตลอด ตลาดคริปโตและหุ้นกลุ่มเทคโนโลยีที่เกี่ยวข้องกับ AI จึงไม่น่าจะขยับแรงจากประเด็นนี้เพียงลำพัง เว้นแต่จะมีการเปิดเผยข้อมูลใหม่ที่กระทบแผนระดมทุนหรือ IPO ของ Anthropic โดยตรง
Jacob Coxon นักวิจัยหัวกะทิที่เคยคลุกคลีอยู่กับโปรเจกต์ระดับลึกของทั้ง OpenAI และ Anthropic ได้ประกาศลาออกฟ้าผ่า พร้อมทิ้งระเบิดลูกใหญ่ด้วยการแฉว่า สองบริษัทเทคโนโลยียักษ์ใหญ่กำลังหน้ามืดตามัว แข่งขันกันพัฒนา AI ที่สามารถ “พัฒนาตัวเองได้” (Self-improving superintelligence) โดยเอาชีวิต และอนาคตของมนุษยชาติมาวางเป็นเดิมพันบนโต๊ะพนัน
อ้างอิงจากโพสต์บนแพลตฟอร์มโซเชียลมีเดีย X ของเขา ที่ Coxon เตือนอย่างตรงไปตรงมาว่า อย่าประเมินพลังของเทคโนโลยีนี้ต่ำเกินไป เพราะในไม่ช้าเราจะได้เห็นระบบที่มีความสามารถเหนือขีดจำกัดของมนุษย์ มันจะสามารถเจาะระบบได้ทุกอย่าง พลิกโฉมทุกวงการในชั่วข้ามคืน ไปจนถึงการเข้ายึดครองอำนาจ และทรัพยากรในโลกแห่งความเป็นจริง ซึ่งความก้าวหน้าเหล่านี้ กำลังพุ่งทะยานไปข้างหน้าโดยไม่มีทีท่าว่าจะชะลอตัวลง
เบื้องหลังรอยยิ้มหน้ากล้อง คือความกลัวขั้นสุด
สิ่งที่ชวนขนลุกที่สุดจากการแฉครั้งนี้คือ ภาพลักษณ์เบื้องหลังแวดวงผู้สร้าง AI ที่ Coxon ระบุว่า ผู้บริหารระดับสูง และนักวิจัยแถวหน้าหลายคน ต่างยอมรับเป็นการส่วนตัวว่า “AI ขั้นสูงอาจกวาดล้างมนุษยชาติได้ ภายในสิ้นทศวรรษนี้”
แม้เวลาอยู่หน้าสื่อ พวกเขาจะพยายามเลือกใช้คำพูดที่ดูมีเหตุผล และปลอดภัยเพื่อรักษาภาพลักษณ์ แต่นี่ไม่ใช่แค่เทคนิคการตลาดเพื่อสร้างกระแส แต่คือ “ความหวาดกลัว” ที่คุกรุ่นอยู่จริงในหมู่ผู้พัฒนา เพราะไม่มีกิจกรรมใดของมนุษย์ในตอนนี้ที่ซ่อนอันตรายไว้ในระดับนี้อีกแล้ว
ติดกับดัก “ถ้าเราไม่ทำ คนอื่นก็ทำ”
แล้วทำไมพวกเขาถึงไม่ยอมหยุด? Coxon ชี้ให้เห็นถึงเกมจิตวิทยาที่บริษัทอย่าง Anthropic กำลังติดกับดัก พวกเขาเข้าใจถึงความเสี่ยงดีเยี่ยม แต่กลับถูกสภาวะบีบคั้นของการแข่งขันที่เชื่อว่า “ถ้าเราไม่ชิงสร้างให้สำเร็จก่อน บริษัทคู่แข่งก็จะไปถึงเส้นชัยก่อน” ทำให้บริษัทยักษ์ใหญ่เหล่านี้ยอมหลับตาข้างหนึ่ง มองข้ามมาตรการความปลอดภัย แล้วเหยียบคันเร่งมุ่งสู่เป้าหมายอย่างบ้าคลั่ง
การประกาศลาออกของ Coxon จึงเป็นคำถามตัวโต ๆ ที่โยนกลับมายังอุตสาหกรรม AI ว่า เราควรเร่งเครื่องสร้าง Superintelligence ต่อไปจริงหรือ ในเมื่อมนุษย์ยังไม่เข้าใจระบบของมันอย่างถ่องแท้ ?
บางทีการยอมลดอีโก้ จับมือกันระหว่าง AI Labs และเหยียบเบรกการพัฒนา เพื่อวางกรอบความปลอดภัย อาจเป็นทางรอดเดียวที่เหลืออยู่ ก่อนที่เทคโนโลยีจะก้าวล้ำนำหน้า จนเราสูญเสียสวิตช์ควบคุมไปตลอดกาล
แล้วคุณคิดว่า เสียงเตือนจากคนวงในระดับนี้ จะมีน้ำหนักมากพอที่จะทำให้บริษัทเทคโนโลยียักษ์ใหญ่ยอม “เหยียบเบรก” การแข่งขันที่บ้าคลั่งนี้ลงได้หรือไม่ ?
มุมมองผู้เขียน : การลาออกของ Coxon อาจไม่ได้ส่งผลให้ Anthropic หรือ OpenAI ชะลอการพัฒนาโมเดลลงในทันที เนื่องจากแรงกดดันทางธุรกิจและการแข่งขันทางตลาดยังคงเป็นปัจจัยหลักที่ส่งผลมากกว่าคำเตือนของบุคคลเพียงคนเดียว
