สรุปข่าว
- Robert Youssef ผู้เชี่ยวชาญด้านเอไอค้นพบวิธีลดต้นทุนการป้อน Prompt ขนาดยาว โดยการเปลี่ยนจากการพิมพ์ข้อความมาเป็นการแปลงเป็นไฟล์ภาพแทน
- จากการทดสอบกับ Claude Fable 5 พบว่าวิธีนี้สามารถประหยัดค่าใช้จ่ายได้ถึง 60% และลดต้นทุนการทำงานต่อหนึ่งเซสชันจากเดิมที่ต้องจ่าย $42 ให้เหลือเพียง $6
- อย่างไรก็ตาม ข้อมูลสำคัญจำพวกรหัส API, ตัวระบุเอกลักษณ์ และบทสนทนาล่าสุด จะยังคงถูกส่งเป็นข้อความแบบเดิมอยู่ เพื่อป้องกันไม่ให้ AI เกิดอาการหลอน
แนวโน้มผลกระทบ: Neutral
Robert Youssef ผู้เชี่ยวชาญด้านเอไอ ได้เปิดเผยทางเลือกใหม่ในการประหยัดค่าใช้จ่ายโทเคน AI ด้วยการเปลี่ยนวิธีส่งคำสั่ง Prompt ขนาดยาวจากรูปแบบตัวอักษร ให้กลายเป็นไฟล์รูปภาพแล้วส่งให้เอไอประมวลผลแทน ซึ่งจากการทดลองใช้งานร่วมกับโมเดล Claude Fable 5 พบว่าสามารถช่วยหั่นต้นทุนลงได้ถึง 60% โดยลดค่าใช้จ่ายในแต่ละเซสชันจาก $42 เหลือเพียง $6 ดอลลาร์สหรัฐ โดยที่ผลลัพธ์ยังคงมีความแม่นยำและเปี่ยมคุณภาพเท่าเดิม
ปฏิเสธไม่ได้เลยว่าการยกระดับประสิทธิภาพการทำงานในยุคปัจจุบัน เครื่องมือ AI ได้กลายมาเป็นสิ่งจำเป็นที่ขาดไม่ได้แล้ว แต่ปัญหาท้าทายหนึ่งที่ตามมาจากการใช้งานอย่างต่อเนื่องคือ ต้นทุนที่สูงขึ้น เพราะทุกครั้งที่มีการป้อนคำสั่ง Prompt ย่อมหมายถึงการใช้โควตาปริมาณโทเคนที่ถูกหักออกไปเรื่อยๆ ยิ่งถ้าเป็นโมเดล AI รุ่นใหม่ที่มีความฉลาดขั้นสูง ผู้ใช้งานก็ยิ่งต้องคิดทบทวนให้รอบคอบก่อนที่จะกดส่งคำสั่งแต่ละครั้ง
อย่างไรก็ตาม ล่าสุดได้มีไอเดียการแก้ปัญหาที่น่าสนใจจาก Robert Youssef ผู้เชี่ยวชาญด้านไอทีและ AI ที่ได้ค้นพบเทคนิคใหม่ในการประหยัดโทเคนแบบนอกกรอบ วิธีการของเขาคือการเลิกพิมพ์คำสั่งยาวๆ เป็นตัวอักษรโดยตรง แต่เปลี่ยนมาใช้วิธี รวมคำสั่งทั้งหมดพิมพ์ใส่ลงใน “รูปภาพ” เพียงรูปเดียว จากนั้นจึงอัปโหลดรูปดังกล่าวเพื่อให้ AI ทำการอ่านและประมวลผลคำสั่งจากภาพแทน ซึ่งเทคนิคนี้ช่วยลดการนับจำนวนโทเคนในฝั่งข้อมูลเข้า (Input) ลงไปได้อย่างมหาศาล
จากการทดลองในโมเดล Claude Fable 5 ผลปรากฏว่า Youssef สามารถประหยัดต้นทุนในการพร้อมพ์คำสั่งได้ถึง 60% เมื่อเทียบกับวิธีการปกติ และยังสามารถลดต้นทุนต่อการทำงานหนึ่งเซสชันจากเดิม $42 ให้เหลือเพียงแค่ $6 ดอลลาร์สหรัฐเท่านั้น โดยยังคงรักษาคุณภาพและความแม่นยำของผลลัพธ์เอาไว้ได้เทียบเท่าเดิมทุกประการ
หากถามว่าทำไมจึงเป็นเช่นนั้น Youssef อธิบายว่า สิ่งที่เขาทำคือการใช้ช่องโหว่ของระบบเนื่องจาก AI มักจะคิดค่าใช้จ่ายจาก APIs ตามตัวอักษร ยิ่งยาวก็ยิ่งต้องจ่ายมาก แต่พอเปลี่ยนมาใช้เป็นรูปภาพ ค่าบริการที่ถูกชาร์จจะคิดเฉพาะแค่ขนาดของรูปภาพเป็นพิกเซลไม่ใช่ตัวอักษรทำให้ประหยัดเงินได้เยอะกว่าวิธีการ Prompt เข้าไปแบบตรง ๆ
แม้วิธีการดังกล่าวอาจจะไม่ได้ทำตามกันได้ง่ายๆ แต่ก็ไม่ใช่เรื่องยากเกินความสามารถสำหรับผู้ที่มีพื้นฐานทางเทคนิค โดยหัวใจสำคัญของเทคนิคนี้คือการทำงานผ่านเครื่องมือพร็อกซีชนิดพิเศษที่ชื่อว่า pxpipe ซึ่งจะทำหน้าที่ดักจับชุดข้อมูลตัวอักษรปริมาณมาก ๆ แล้วแปลงให้อยู่ในรูปแบบของไฟล์ภาพ PNG ก่อนที่จะส่งข้อมูลเหล่านั้นไปให้ AI ประมวลผล
อย่างไรก็ตาม เพื่อป้องกันปัญหา AI เกิดอาการหลอนหรือสร้างข้อมูลที่ผิดเพี้ยน ข้อมูลที่มีความสำคัญและต้องการความแม่นยำสูง เช่น บริบทของบทสนทนาล่าสุด รหัส API หรือข้อมูลระบุตัวตนเฉพาะ จะยังคงถูกส่งเข้าไปในรูปแบบข้อความตัวอักษรตามปกติ ในขณะที่ไฟล์รูปภาพจะถูกปรับไปทำหน้าที่เสมือนพื้นที่จัดเก็บข้อมูลต้นทุนต่ำ สำหรับใช้บรรจุข้อมูลพื้นฐานทั่วไปหรือข้อมูลบริบทที่ไม่มีการเปลี่ยนแปลงบ่อยนักแทน ซึ่งวิธีการนี้ช่วยประหยัดการใช้โทเคนไปได้อย่างมีประสิทธิภาพสูงสุด
ที่มา : X
มุมมองผู้เขียน : วิธีนี้แม้อาจจะเป็นหนทางที่ดีในการประหยัดค่าใช้จ่ายแต่มันก็อาจเป็นเพียงทางออกชั่วคราวเท่านั้น เพราะเมื่อผู้ให้บริการยักษ์ใหญ่จับทางได้ ก็คงจะมีการปรับเกณฑ์การคิดเงินของระบบ Vision API ใหม่เพื่อปิดช่องโหว่ราคาถูกนี้ในไม่ช้าอยู่ดี
