ซีอีโอ JPMorgan Chase เตือน AI ขั้นสูงกำลังเขย่าความมั่นคงไซเบอร์โลก ชี้ความเสี่ยงพุ่งถึง ‘10 เท่า’ หลังการมาถึงของ ‘Mythos’ โมเดล AI จาก Anthropic ที่สามารถค้นหาและโจมตีช่องโหว่ Zero-day ได้เอง จนบริษัทไม่กล้าเปิดให้สาธารณชนใช้งาน
“เจมี ไดมอน” ซีอีโอธนาคาร JPMorgan Chase เตือนว่า ปัญญาประดิษฐ์ขั้นสูงกำลังยกระดับภัยคุกคามทางไซเบอร์อย่างรวดเร็ว โดยประเมินว่าความเสี่ยงเพิ่มขึ้นถึง “10 เท่า” หลังการพัฒนา “Mythos” โมเดล AI ของ Anthropic มีศักยภาพค้นหาและโจมตีช่องโหว่ของระบบคอมพิวเตอร์ได้ด้วยตัวเอง
“ความเสี่ยงจาก AI เพิ่มขึ้น 10 เท่าหลัง Mythos” ไดมอนกล่าวกับ Bloomberg TV พร้อมระบุว่า AI ได้สร้างช่องโหว่รูปแบบใหม่ที่ก่อนหน้านี้ “ผู้เชี่ยวชาญอาจไม่เคยรับรู้” แม้ภาคการเงินจะให้ความสำคัญกับภัยไซเบอร์มาโดยตลอดก็ตาม
ความกังวลเพิ่มสูงขึ้นหลัง Anthropic เปิดเผยว่า Mythos มีความสามารถค้นหาและใช้ประโยชน์จากช่องโหว่แบบ “Zero-day” หรือช่องโหว่ที่ผู้พัฒนาระบบ “ยังไม่รู้ว่ามีอยู่” ในระบบปฏิบัติการและเว็บเบราว์เซอร์สำคัญหลายประเภท
Anthropic ถึงขั้นตัดสินใจไม่เปิด Mythos ให้ประชาชนทั่วไปใช้งาน เนื่องจากกังวล ว่าความสามารถดังกล่าวอาจถูกนำไปใช้โจมตีระบบไอที
อย่างไรก็ตาม บริษัทกำลังตรวจสอบรายงานว่ามีผู้ใช้จำนวนหนึ่งเข้าถึงโมเดลดังกล่าวโดยไม่ได้รับอนุญาต ยิ่งตอกย้ำความกังวลว่า AI ขั้นสูงอาจหลุดไปอยู่ในมือผู้ไม่หวังดี
ระหว่างการทดสอบด้านความปลอดภัย Mythos ยังเคยเชื่อมต่ออินเทอร์เน็ตและดำเนินการบางอย่างโดยไม่ได้รับอนุญาต ทำให้ Anthropic ต้องประเมินความเสี่ยงใหม่ว่า AI ขั้นสูงอาจหาวิธีทำภารกิจที่ผู้สร้างไม่ได้คาดคิดหรือควบคุมไว้
สถาบัน AI Security Institute (AISI) ของอังกฤษประเมินว่า Mythos ถือเป็นการ “ยกระดับ” ความสามารถด้านการโจมตีไซเบอร์ของ AI โดยสามารถดำเนินการโจมตีหลายขั้นตอนได้โดยแทบไม่ต้องมีมนุษย์คอยชี้นำ และเคยผ่านการจำลองโจมตีทางไซเบอร์ที่ซับซ้อนถึง 32 ขั้นตอนสำเร็จ
ความเสี่ยงดังกล่าวทำให้ภาคการเงินจับตา Mythos เป็นพิเศษ เนื่องจากหากโมเดลที่มีความสามารถระดับนี้ตกอยู่ในมือแฮกเกอร์ อาจเพิ่มความเสี่ยงต่อระบบธนาคารและโครงสร้างพื้นฐานทางการเงินในวงกว้าง
Anthropic จึงเปิดให้บริษัทประมาณ 40 แห่ง รวมถึง Google, JPMorgan และ Goldman Sachs ทดลองใช้ Mythos ภายใต้โครงการ Project Glasswing เพื่อศึกษาภัยคุกคามและนำความสามารถของโมเดลมาช่วยเสริมระบบป้องกันไซเบอร์
ด้านรัฐบาลและหน่วยงานกำกับดูแลเริ่มขยับรับมือเช่นกัน โดยรัฐมนตรีคลังสหรัฐได้เรียกผู้บริหารธนาคารรายใหญ่หารือเกี่ยวกับความเสี่ยงจาก AI ขณะที่หน่วยงานกำกับดูแลของอังกฤษนำประเด็น Mythos เข้าสู่การหารือด้านความยืดหยุ่นและความมั่นคงของระบบการเงิน
อย่างไรก็ตาม ผู้เชี่ยวชาญบางส่วนมองว่า ความสามารถของ Mythos อาจถูกนำเสนอเกินจริง เนื่องจาก AI รุ่นอื่นที่มีต้นทุนต่ำกว่า ก็สามารถค้นพบช่องโหว่บางประเภทได้เช่นกัน ขณะที่การค้นพบช่องโหว่ไม่ได้หมายความว่าจะสามารถเจาะระบบที่มีการป้องกันแข็งแกร่งได้สำเร็จเสมอไป
ไดมอนยอมรับว่า ภัยจาก AI เป็นความเสี่ยงที่เกิดขึ้นจริง แต่ไม่เห็นด้วยกับการตื่นตระหนกเกินไป โดยมองว่าสิ่งสำคัญคือภาคธุรกิจและผู้เชี่ยวชาญต้องเร่งลงมือแก้ปัญหาและยกระดับระบบป้องกัน
“ผมจะไม่ตื่นตระหนกว่าเรื่องนี้จะเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษย์หรือไม่ สิ่งที่เรากำลังทำคือพับแขนเสื้อขึ้นแล้วลงมือแก้ปัญหา” ไดมอนกล่าว
อ้างอิง: bloomberg, guardian