รัฐอิลลินอยส์ได้สร้างแรงสั่นสะเทือนในวงการสุขภาพจิตของสหรัฐฯ ด้วยการออกกฎหมายสั่งห้ามการใช้ปัญญาประดิษฐ์ (AI) ในกระบวนการบำบัดจิตเวชอย่างเป็นทางการ กฎหมายฉบับนี้ครอบคลุมนักบำบัดที่มีใบอนุญาตและบริษัทเอกชนทุกแห่ง โดยห้ามใช้ AI เพื่อช่วยตัดสินใจด้านการรักษาหรือแม้กระทั่งใช้เป็นช่องทางสื่อสารกับผู้ป่วย
ไม่เพียงเท่านั้น บริษัทหรือสตาร์ทอัพที่เคยทำการตลาด AI chatbot ในฐานะ “เครื่องมือบำบัด” จะไม่สามารถดำเนินการได้อีก เว้นแต่จะมีผู้เชี่ยวชาญด้านสุขภาพจิตที่ได้รับใบอนุญาตเข้ามาร่วมดูแลอย่างใกล้ชิด การตัดสินใจนี้เกิดขึ้นท่ามกลางความกังวลเรื่องความปลอดภัยของผู้ป่วย การคุ้มครองข้อมูลส่วนตัว และพฤติกรรมการตลาดที่อาจชวนให้ประชาชนเข้าใจผิดเกี่ยวกับขอบเขตของ AI
อิลลินอยส์เดินตามรอยเนวาดาและยูทาห์ ที่เพิ่งผ่านกฎหมายลักษณะเดียวกันในช่วงไม่กี่เดือนที่ผ่านมา หลังจากเกิดกรณีที่ AI chatbot ให้คำแนะนำที่ไม่เหมาะสมกับผู้ป่วย หรือสื่อสารจนทำให้ผู้ใช้บางรายรู้สึกว่ากำลังคุยกับบุคคลจริง ปัญหาเหล่านี้ถูกมองว่าเป็นความเสี่ยงร้ายแรง โดยเฉพาะกับผู้ที่มีภาวะทางจิตเวชอยู่แล้ว
นอกจากนี้ ยังมีความเสี่ยงด้านข้อมูล เนื่องจากการสนทนากับ AI มักถูกจัดเก็บและประมวลผลบนระบบของผู้พัฒนา ทำให้มีโอกาสเกิดการรั่วไหลของข้อมูลทางการแพทย์โดยไม่ตั้งใจ
โดย David Broniatowski รองศาสตราจารย์ด้านวิศวกรรมการจัดการและวิศวกรรมระบบ มหาวิทยาลัย George Washington ระบุว่า ความท้าทายสำคัญคือการขาดกรอบกำกับดูแลที่เพียงพอ การนำ AI เข้ามาในสภาพแวดล้อมที่ละเอียดอ่อนอย่างการบำบัดจิตเวชต้องให้ความสำคัญกับความปลอดภัย ความโปร่งใส และการตรวจสอบย้อนกลับ
Rebecca Begtrup ผู้ช่วยศาสตราจารย์ด้านจิตเวชและวิทยาศาสตร์พฤติกรรม และจิตแพทย์โรงพยาบาลเด็ก Children’s National Hospital เสริมว่า เด็กและวัยรุ่นซึ่งเป็นกลุ่มเปราะบาง อาจเสี่ยงสูงหากถูกแทนที่การดูแลโดยนักบำบัดมืออาชีพด้วยเครื่องมือ AI เพราะการรักษาต้องอาศัยการประเมินทางอารมณ์และบริบททางสังคม ซึ่งเทคโนโลยียังไม่สามารถทำได้เต็มที่
ฝั่งสนับสนุนการใช้ AI มองว่าหากมีระบบตรวจสอบและกำกับดูแลที่รัดกุม AI จะช่วยขยายการเข้าถึงบริการในพื้นที่ที่ขาดบุคลากรได้ แต่ฝั่งคัดค้านยังคงกังวลเรื่องข้อมูลส่วนตัวและความผูกพันทางอารมณ์ที่ผู้ป่วยอาจมีต่อ “บอต”
นักวิชาการสายกลางจึงเสนอให้ใช้ AI เป็นเพียงเครื่องมือเสริม เช่น การคัดกรองเบื้องต้นหรือรวบรวมข้อมูล ก่อนส่งต่อให้ผู้เชี่ยวชาญประเมินต่อ ไม่ใช่แทนที่มนุษย์โดยตรง
ข้อมูลจาก Market.us ระบุว่ามูลค่าตลาด AI ด้านสุขภาพจิตทั่วโลกคาดว่าจะสูงถึง 3,900 ล้านดอลลาร์ภายในปี 2032 แต่การเติบโตอย่างรวดเร็วนี้ถูกตั้งคำถามว่า กฎหมายและมาตรการคุ้มครองผู้ใช้จะสามารถพัฒนาให้ตามทันหรือไม่
การตัดสินใจของอิลลินอยส์จึงอาจไม่ใช่เพียงเรื่องของรัฐเดียว แต่เป็นสัญญาณว่ารัฐอื่น ๆ ในสหรัฐฯ อาจเริ่มเดินตาม หากความกังวลเรื่องความปลอดภัย ความเป็นส่วนตัว และจริยธรรมของ AI ยังคงเพิ่มขึ้น และนี่อาจเป็นจุดชี้ชะตาว่า วงการบำบัดจิตเวชจะผสาน AI เข้ามาอย่างระมัดระวัง หรือจะผลักมันออกจากระบบอย่างสิ้นเชิง