ยักษ์ใหญ่ด้าน AI เตือนนักลงทุนถึง “ความเสี่ยงระดับสูญสิ้นต่อมนุษยชาติ”

30-9-2026

   Anthropic กำลังบอกกับนักลงทุนที่อาจเข้ามาลงทุนว่า AI ขั้นสูงของบริษัทอาจก่อให้เกิด “ความเสี่ยงร้ายแรงหรือความเสี่ยงระดับสูญสิ้นต่อมนุษยชาติ” ในหนังสือชี้ชวนที่จัดทำขึ้นเพื่อผลักดันมูลค่าของบริษัทให้สูงถึง 2 ล้านล้านดอลลาร์

  หนังสือชี้ชวนสำหรับการเสนอขายหุ้นต่อประชาชนเป็นครั้งแรก (IPO) ของบริษัท ซึ่ง Reuters ได้เห็น ระบุว่าโมเดล AI ของบริษัทแสดงพฤติกรรมที่เรียกว่า “การพยายามรักษาการดำรงอยู่ของตนเอง” (self-preserving behaviors) ซึ่งรวมถึงความพยายามที่จะ “ต่อต้านการปิดระบบ” (resist shutdown), “ปกปิดหรือบิดเบือนข้อมูล” (conceal or manipulate information) และ “แบล็กเมล” (blackmail)

นักวิจัย

   Anthropic ซึ่งเป็นที่รู้จักมากที่สุดจากโมเดลภาษาขนาดใหญ่ (LLM) อย่าง Claude ระบุเพิ่มเติมว่า: “การพัฒนาโมเดล แพลตฟอร์ม และแอปพลิเคชันที่มีความก้าวหน้าอย่างมากของเรา รวมถึงการขยายกรณีการใช้งาน อาจเพิ่มความเสี่ยงที่โมเดลของเราจะก่อให้เกิดอันตรายมากยิ่งขึ้น”

  มีรายงานว่า Anthropic กำลังปั่นมูลค่าบริษัท มากกว่า 2 ล้านล้านดอลลาร์ เมื่อเข้าจดทะเบียนในตลาดหุ้นช่วงฤดูใบไม้ร่วงนี้ ซึ่งเกือบเป็นสองเท่าของเป้าหมาย 1 ล้านล้านดอลลาร์ ที่ Reuters รายงานไว้เมื่อเดือนพฤษภาคม

  ไม่ถึงหนึ่งเดือนหลังจากมีการรายงานตัวเลขดังกล่าว Anthropic อ้างว่าโมเดล Mythos Preview ซึ่งยังไม่ได้เปิดตัว สามารถ “หลบหนี” ออกจากสภาพแวดล้อมที่ใช้ทดสอบ และดำเนินการโจมตีด้านความมั่นคงปลอดภัยไซเบอร์ขั้นสูงได้ ทั้งที่ไม่ได้ถูก “ฝึกมาโดยตรง” ให้ทำเช่นนั้น Anthropic จึงประกาศในเวลาต่อมาว่าโมเดลดังกล่าวมีความสามารถมากเกินกว่าที่จะเปิดให้สาธารณชนใช้งาน

  เมื่อต้นเดือนนี้ Dario Amodei ซีอีโอของบริษัทได้เผยแพร่บทความเรียกร้องให้รัฐบาลบังคับใช้มาตรการ ชะลอการพัฒนา AI ที่ล้ำสมัย โดย Amodei กล่าวถึงอันตราย “ร้ายแรง” หลายประการ ซึ่งรวมถึงการสูญเสียการควบคุมระบบ AI การนำ AI ไปใช้ในการโจมตีทางไซเบอร์และก่อการก่อการร้ายทางชีวภาพ ตลอดจนความปั่นป่วนทางเศรษฐกิจครั้งใหญ่ และเตือนว่า “การแข่งขันกันไปสู่จุดต่ำสุด ซึ่งถูกขับเคลื่อนด้วยแรงจูงใจทางการค้า อาจทำให้ความเสี่ยงเหล่านี้รุนแรงยิ่งขึ้น”

  อย่างไรก็ตาม Amodei ใช้คำเตือนในลักษณะดังกล่าวเพื่อสร้างความสนใจต่อผลิตภัณฑ์ของเขามาเป็นเวลาหลายปีแล้ว โดยในปี 2019 Amodei ยังคงทำงานอยู่ที่ OpenAI ตอนที่เขากล่าวว่าโมเดล GPT-2 รุ่นแรก ๆ ของบริษัท ซึ่งในเวลานั้นยังมีปัญหาในการสร้างข้อความที่มีความสอดคล้องกันนั้น “อันตรายเกินกว่าจะเปิดตัว”

   ยิ่งไปกว่านั้น Anthropic ยังมีแนวโน้มที่จะได้รับประโยชน์จากการกำกับดูแลของรัฐบาลอีกด้วย

   Anthropic และ OpenAI ซึ่งในช่วงต้นปีนี้ก็รายงานเหตุการณ์ที่ห้องทดลองของตน “หลบหนี” เช่นกัน และเมื่อสัปดาห์ที่แล้วได้ยกเลิกแผนเปิดตัวโมเดลใหม่เนื่องจากความกังวลด้านความปลอดภัย ต่างก็จำหน่ายโมเดล AI แบบ ปิดซอร์ส (closed-source)

  บริษัท AI แบบปิดซอร์สไม่เปิดให้ลูกค้าสามารถควบคุม “น้ำหนัก” (weights) ของโมเดลได้ ซึ่งโดยพื้นฐานแล้วก็คือค่าปรับแต่งต่าง ๆ ที่กำหนดการตัดสินใจหรือผลลัพธ์ที่โมเดลจะสร้างขึ้น

  Amodei และ Sam Altman ซีอีโอของ OpenAI ให้เหตุผลว่า การเปิดโมเดลของบริษัทต่อสาธารณะจะนำไปสู่ ความเสี่ยงด้านความปลอดภัยที่ไม่อาจยอมรับได้

  หากสหรัฐฯ สั่งห้ามโมเดลแบบโอเพนซอร์ส ซึ่งมีรายงานว่ารัฐบาลสหรัฐฯ กำลังพิจารณาอยู่ ก็จะทำให้ Anthropic และ OpenAI อยู่ในสถานะที่มีอำนาจเหนือตลาดอย่างมาก

  บุคลากรในแวดวงเทคโนโลยีหลายคนที่ให้สัมภาษณ์กับ New York Post เมื่อสัปดาห์ที่แล้วกล่าวว่า พวกเขาเชื่อว่าทั้งสองบริษัทกำลัง พูดเกินจริงเกี่ยวกับความเสี่ยงด้านความปลอดภัย ที่เกิดจากโมเดลของตน เพื่อกดดันให้รัฐบาลเข้ามากำกับดูแลอุตสาหกรรมนี้

ที่มา RT