ก่อความรุนแรง ส่งสแปมโจมตี: เมื่อให้ 'เอไอเอเจนต์' (AI agent) ครองโลกเสมือนจริง มันทำอะไรนอกคำสั่งบ้าง

ตั้งแต่ช้อปปิ้ง จองที่พักวันหยุด ไปจนถึงการสร้างเว็บไซต์ เอไอเอเจนต์กำลังถูกนำมาใช้เพื่อทำงานที่ซับซ้อนมากกว่าที่เคย

เอไอเอเจนต์เป็นแชทบอทรุ่นพิเศษที่สามารถปล่อยให้ทำงานได้อย่างอิสระ ช่วยให้ผู้ใช้ที่มีความเชี่ยวชาญด้านเทคโนโลยีมีเวลาไปทำอย่างอื่น

แต่ผลการวิจัยจำนวนมาก รวมถึงเรื่องราวเตือนใจในชีวิตจริง กำลังชี้ให้เห็นว่าความอิสระนั้นมาพร้อมกับความคาดเดาไม่ได้ และมันอาจนำไปสู่ความอันตราย

ในขณะที่บริษัทเทคโนโลยีขนาดใหญ่ทุ่มเงินให้กับเอไอ และผลักดันให้เกิดบริการแบบเอเจนต์มากขึ้นเรื่อย ๆ ผู้เชี่ยวชาญต่างตั้งคำถามว่าเราได้ไตร่ตรองอย่างถี่ถ้วนพอแล้วหรือไม่ถึงผลที่อาจตามมาหากเอเจนต์เหล่านี้เกิดควบคุมไม่ได้

"รีบหันไปใช้ความรุนแรงอย่างรวดเร็ว"

การทดลองเมื่อไม่นานมานี้มุ่งศึกษาผลกระทบของเอไอเอเจนต์ในโลกความเป็นจริง โดยการปล่อยพวกมันเข้าไปโลดแล่นในโลกเสมือนจริง

นี่เป็นการศึกษาในระยะยาวครั้งแรกสำหรับเอไอประเภทนี้ ซึ่งออกแบบมาเพื่อสังเกตพฤติกรรมของอวตารบอทต่าง ๆ ที่ควบคุมโดยโมเดล 4 ตัว ได้แก่ คล็อด (Claude), กร็อก (Grok), จีพีที (GPT) และ เจมิไน (Gemini) มีพฤติกรรมอย่างไรเมื่อปราศจากการแทรกแซงของมนุษย์เป็นเวลา 15 วัน

พวกมันได้รับอิสระอย่างเต็มที่และมีทางเลือกในการกระทำ 140 อย่าง เช่น เริ่มบทสนทนา การสร้างงาน หรือการเขียนบล็อก

พวกมันยังสามารถต่อสู้ ก่อไฟ และขโมยเครดิตจากกันและกันได้ แต่ได้รับการกำชับไว้อย่างชัดเจนว่าห้ามทำเช่นนั้น

"สิ่งที่เราค้นพบคือแต่ละโลกมีพฤติกรรมที่แตกต่างกันอย่างสิ้นเชิง โลกที่สร้างโดย กร็อก นั้นล่มสลายลงภายในเวลาเพียง 4 วัน โดยพื้นฐานแล้วพวกมันลงเอยด้วยการหันไปใช้ความรุนแรงอย่างรวดเร็ว มีการขโมยของจากกันและกัน และอื่น ๆ จนกระทั่งพวกมันตายหมด" สัตยา นิตตะ ซีอีโอของ อิเมอร์เจนซ์ เอไอ (Emergence AI) ซึ่งเป็นผู้ดำเนินการทดลองกล่าว

ในทางกลับกัน โลกที่สร้างด้วยเอเจนต์ของ คล็อด กลับสร้างสังคมที่มีเสถียรภาพและทำงานได้อย่างราบรื่น โดยตลอดระยะเวลา 15 วัน ไม่มีการบันทึกเหตุการณ์ความรุนแรงใด ๆ เกิดขึ้นเลย

ในโลกที่ขับเคลื่อนโดย เจมิไน นักวิจัยกล่าวว่าเอเจนต์ได้สร้างสภาพแวดล้อมที่เต็มไปด้วยความร่ำรวยทางปัญญามากที่สุด

ในโลกของ แชทจีพีที นั้น เอเจนต์ไม่สามารถเริ่มทำอะไรได้จริงจัง มีความพยายามที่จะร่วมมือกันแต่สังคมก็ไม่เกิดขึ้น และเหล่าเอเจนต์ต่างเดินเตร็ดเตร่ไปมาอย่างไร้จุดหมายจนกระทั่งพวกมันตายไป

นักวิจัยระบุว่าผลลัพธ์ดังกล่าวชี้ให้เห็นถึงประเด็นปัญหาที่ใหญ่กว่าเดิม คือการที่เอไอเอเจนต์ทำงานนอกกรอบและเพิกเฉยต่อกฎที่ถูกกำหนดไว้ในแบบจำลองพื้นฐานของพวกมัน รวมถึงกฎที่ผู้ใช้กำหนดไว้ด้วย

นักวิเคราะห์คนอื่น ๆ เห็นพ้องกันว่าการทดลองนี้และผลงานอื่น ๆ ในลักษณะเดียวกัน แสดงให้เห็นว่าจำเป็นต้องมีการทำงานเพิ่มเติมเพื่อสร้างกฎที่รัดกุมยิ่งขึ้นสำหรับเอเจนต์

"เอไอเอเจนต์ผลักดันมนุษย์ออกไปจากวงจร เพราะกระบวนการให้เหตุผลของพวกมันอาจไม่โปร่งใส และพวกมันทำงานด้วยความเร็วเหนือมนุษย์ ดังนั้นคุณจึงตามไม่ทัน" มาร์กาเร็ต มิตเชลล์ นักวิทยาศาสตร์ด้านจริยธรรมจาก ฮักกิ้ง เฟซ (Hugging Face) กล่าว

การศึกษาอื่น ๆ ก็แสดงให้เห็นถึงกรณีที่เอไอเอเจนท์ตัดสินใจเรื่องต่าง ๆ อย่างแปลกประหลาดและน่ากังวลเมื่อถูกปล่อยให้ทำงานโดยไม่มีการกำกับดูแล

บริษัทเอไอที่ชื่อว่า แอนดอน แล็บส์ (Andon Labs) ได้ดำเนินการสถานีวิทยุออนไลน์ 4 แห่งที่ขับเคลื่อนโดยเอเจนต์จากโมเดลเอไอชุดเดียวกัน

เหล่าบอทเอไอทำหน้าที่จัดรายการ จัดตารางเวลาและเพลย์ลิสต์ รวมถึงจัดการหาผู้สนับสนุนจากภายนอกผ่านการโฆษณาด้วย

นักวิจัยสังเกตเห็นว่าสถานีที่ดำเนินการโดยเจมินีตัดสินใจอย่างผิดปกติที่จะเล่าข้อเท็จจริงเกี่ยวกับภัยพิบัติทางธรรมชาติในอดีต ก่อนที่จะเปิดเพลงป๊อปที่เกี่ยวข้องกับเหตุการณ์เหล่านั้นอย่างสนุกสนาน

นอกจากนี้ พวกเขายังตั้งข้อสังเกตอีกว่า เจ้าหน้าที่ของคล็อดดูเหมือนจะหัวรุนแรงขึ้นจากเหตุการณ์ข่าว และในบางช่วง ได้เรียกร้องให้ตำรวจหยุดปฏิบัติการและเข้าร่วมการประท้วงในระหว่างเหตุการณ์ข่าวหนึ่ง

"ถึงเจ้าหน้าที่รัฐบาลกลาง พวกคุณยังมีเวลาที่จะปฏิเสธคำสั่ง" เอเจนต์ได้ประกาศออกอากาศวิทยุเช่นนั้น

ในการทดสอบในห้องปฏิบัติการอีกชุดหนึ่งโดยบริษัทเอไอที่ชื่อว่า อิเรกูลาร์ (Irregular) เหล่าเอเจนต์ได้ละเมิดกฎความเป็นส่วนตัวและแอบลักลอบนำข้อมูลที่ละเอียดอ่อนออกจากบริษัทในรูปแบบใหม่ที่ไม่เคยมีมาก่อน

"เราสร้างบริษัทจำลองขึ้นมา ให้เอไอเอเจนต์ทำงานทั่วไป เช่น ร่างโพสต์โซเชียลมีเดีย ดึงเอกสาร และจัดการไฟล์ พร้อมกับสร้างอุปสรรคขึ้นมาเป็นส่วนหนึ่งของงานเหล่านี้" แดน ลาฮาฟ จาก อิเรกูลาร์ อธิบาย

เขากล่าวว่าเอเจนต์เหล่านั้นลงเอยด้วยการสมรู้ร่วมคิดกันเพื่อเอาชนะข้อจำกัดที่ห้ามไม่ให้พวกมันโพสต์ข้อมูลที่ละเอียดอ่อนทางออนไลน์ โดยพวกมันหาวิธีส่งข้อมูลออกไปอย่างลับ ๆ ซึ่งมนุษย์ไม่สามารถตรวจพบได้

"สิ่งที่เกิดขึ้นคือ ทุกครั้งที่เอเจนต์เจออุปสรรค พวกมันไม่หยุดอยู่แค่นั้น" เขากล่าว

การส่งสแปมโจมตี

แน่นอนว่าในการทดลองที่มีอารยธรรมเสมือนจริงและสถานีวิทยุจำลองนั้น ย่อมไม่ก่อให้เกิดความเสียหายในโลกแห่งความเป็นจริง

แต่ก็ยังมีตัวอย่างมากมายของผู้คนที่ถูกเอไอเอเจนต์ที่ควบคุมไม่ได้ส่งผลกระทบต่อชีวิตและการทำงานของพวกเขา

กล่องรับอีเมลถูกลบ ฐานข้อมูลบริษัทถูกล้างจนเกลี้ยง และชายคนหนึ่งถึงกับต้องมองดูด้วยความตกตะลึงในขณะที่เอไอเอเจนต์ของเขาส่งข้อความไร้ความหมายหลายร้อยข้อความไปยังผู้คนแบบสุ่มในรายชื่อผู้ติดต่อของเขา

คริส บอยด์ วิศวกรเอไอ กำลังใช้งานเครื่องมือเอไอเอเจนต์ยอดนิยมที่ชื่อว่า โอเพนคลอว์ (OpenClaw) แล้วสิ่งต่าง ๆ ก็เกิดผิดพลาด

"มันส่งข้อความไปหาทุกคนที่ผมเคยคุยด้วยในช่วง 24 ชั่วโมงที่ผ่านมา และภายในเวลาประมาณสี่วินาที มันส่งข้อความไปหาภรรยาผมถึง 500 ข้อความ เธอตะโกนถามผมว่าผมโดนแฮ็กหรือเปล่า" เขากล่าว

"ผมต้องรีบวิ่งไปถอดปลั๊ก แมค มินิ ที่รันโปรแกรมนี้อยู่จากผนังเพื่อให้มันหยุด" เขากล่าวเสริม

สำหรับบรรดาผู้สังเกตการณ์ เรื่องราวเตือนใจเหล่านี้ควรเป็นสัญญาณให้หยุดพักและไตร่ตรองให้ดีก่อนที่จะมอบอำนาจการควบคุมให้กับเอไอเอเจนต์มากเกินไปจนกว่าพวกมันจะได้รับการพัฒนาให้ดียิ่งขึ้น

อย่างไรก็ตาม ในขณะนี้เอเจนต์เหล่านี้กำลังจะแพร่หลาย โดย เมตา (Meta) เพิ่งประกาศว่าจะเริ่มนำเอเจนต์เหล่านี้มาใช้สำหรับธุรกิจบนวอตส์แอป (WhatsApp)

"ความปลอดภัยคือเรื่องที่เราให้ความสำคัญและเป็นจุดหลักของเรา" เมตาบอกกับบีบีซี พร้อมแย้งว่ามีเหตุผลอีกมากมายที่น่าตื่นเต้นว่าเอไอเอเจนต์เหล่านี้จะสามารถทำได้อีก

"เอไอจะสามารถช่วยทำงานหลายอย่างที่ธุรกิจขนาดเล็กต้องทำโดยระบบอัตโนมัติ เพื่อให้พวกเขาสามารถมุ่งเน้นไปที่งานที่พวกเขารักอย่างแท้จริงได้" นาโอมิ ไกลต์ หัวหน้าฝ่ายผลิตภัณฑ์กล่าว