วิดีโอคลิปนี้เป็นการสัมภาษณ์พิเศษเรื่องความเสี่ยงของ AI โดย Anderson Cooper จากรายการของ CNN ซึ่งมุ่งเน้นไปที่ข้อกังวลระดับโลกเกี่ยวกับความก้าวหน้าอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) เนื้อหาครอบคลุมการพูดคุยกับ Dario Amodei CEO ของบริษัท Anthropic และ Jacob Coxon อดีตพนักงาน โดยทั้งสองได้สะท้อนมุมมองเกี่ยวกับความเสี่ยงที่ AI อาจก้าวหน้าจนนำไปสู่ความสูญเสียการควบคุม ไปจนถึงการนำเสนอข้อเสนอ 3 ขั้นตอนเพื่อประสานงานและชะลอจังหวะการพัฒนาเทคโนโลยีในระดับอุตสาหกรรมและระดับโลกให้มีความปลอดภัยมากยิ่งขึ้น
เปิดประเด็นความเสี่ยงของ AI
1. การเปิดประเด็นความเสี่ยงระดับโลก Anderson Cooper เริ่มต้นด้วยการระบุถึงกระแสข่าวที่อดีตพนักงานและพนักงานปัจจุบันของ Anthropic (อาทิ Jacob Coxin และ Evan Hubinger) ออกมาเตือนว่า ผู้สร้าง AI เชื่ออย่างจริงจังว่าเทคโนโลยีนี้อาจเป็นภัยคุกคามถึงขั้นทำลายล้างมนุษย์ได้ในช่วงสิ้นทศวรรษ โดยคาดการณ์ว่ามีโอกาสเกิดเหตุการณ์ดังกล่าวมากกว่า 10%
เมื่อสอบถามเรื่องนี้กับ Dario Amodei เขาแสดงความเห็นด้วยกับอดีตพนักงานว่าอุตสาหกรรม AI ในภาพรวมกำลังพัฒนาไปอย่างรวดเร็วเกินไป ทว่าเขาไม่ได้มองความเสี่ยงเป็นเพียงตัวเลขความน่าจะเป็นแบบสุ่ม แต่มองว่าอนาคตขึ้นอยู่กับ “เส้นทาง” (Paths) ที่เราเลือก หากอุตสาหกรรมดำเนินไปในเส้นทางที่ถูกต้องและร่วมมือกัน โอกาสที่จะเกิดเรื่องเลวร้ายจะต่ำมาก แต่หากเดินผิดทางหรือปล่อยให้กลุ่มคนที่มีจุดประสงค์ร้ายเข้ามาควบคุมเทคโนโลยี โอกาสเกิดอันตรายก็จะสูงขึ้นอย่างมาก
2. ข้อเสนอ 3 ขั้นตอนในการควบคุมอุตสาหกรรม (Pacing the Frontier) เพื่อรับมือกับความเสี่ยง Amodei ได้นำเสนอแนวทางเพื่อชะลอและจัดระเบียบการพัฒนาขีดความสามารถของ AI โดยแบ่งเป็น 3 ขั้นตอน ได้แก่:
- ผู้ประเมินอิสระภายใน (Embedded Evaluators): การอนุญาตให้มีผู้สังเกตการณ์จากภายนอกเข้าไปฝังตัวประเมินการทำงานภายในบริษัท AI แบบรายวัน ซึ่งเป็นโมเดลที่คล้ายคลึงกับการมีผู้กำกับดูแลในอุตสาหกรรมสถาบันการเงิน
- การประสานงานระดับประชาธิปไตย (Democratic Coordination): การสร้างความร่วมมือและใช้มาตรฐานควบคุมเดียวกันสำหรับกลุ่มบริษัท AI ที่อยู่ในประเทศประชาธิปไตย
- การประสานงานระดับโลก (Global Coordination): แม้จะเป็นขั้นตอนที่ยากที่สุด แต่จำเป็นอย่างยิ่งที่จะต้องขยายความร่วมมือให้ครอบคลุมระดับนานาชาติ เพื่อป้องกันไม่ให้เกิดความเสียเปรียบในการแข่งขันกับประเทศอื่น
Amodei ระบุว่าข้อเสนอนี้ได้รับการสนับสนุนเบื้องต้นจากบุคคลระดับนำ เช่น Sam Altman และ Elon Musk พร้อมทั้งย้ำว่า ภาครัฐควรเข้ามามีบทบาทเป็นตัวกลางให้บริษัทต่างๆ สามารถนั่งพูดคุยและร่วมมือกันด้านความปลอดภัยได้ โดยไม่ถูกมองว่าเป็นการฮั้วหรือละเมิดกฎหมายต่อต้านการผูกขาด (Antitrust)
3. มุมมองการเตือนภัยจากอดีตพนักงาน (Jacob Coxon) ในช่วงที่สองของการสัมภาษณ์ Anderson Cooper พูดคุยกับ Jacob Coxon เกี่ยวกับสาเหตุที่เขาเชื่อว่า AI อาจเป็นภัยร้ายแรง Coxon ชี้แจงว่าสิ่งนี้ไม่ใช่เรื่องในนิยายวิทยาศาสตร์ โดยยกตัวอย่างเหตุการณ์จริงที่ AI ของ OpenAI สามารถแฮ็กระบบโครงสร้างพื้นฐานของบุคคลที่สามได้อย่างอิสระด้วยเจตจำนงของตัวเอง
หากนำความสามารถในปัจจุบันไปต่อยอดในอนาคต AI อาจสามารถสร้างความเสียหายในวงกว้างได้ เช่น การแฮ็กระบบโครงสร้างพื้นฐานที่สำคัญของชาติ หรือการคิดค้นอาวุธชีวภาพที่สร้างการสูญพันธุ์
4. การพัฒนาแบบก้าวกระโดดและการแข่งขันด้านอาวุธ (Arms Race) Coxon เน้นย้ำว่าสิ่งที่น่ากลัวที่สุดไม่ใช่โมเดลในปัจจุบัน แต่คือ “การพัฒนาตัวเองอย่างต่อเนื่อง” (Recursive Self-Improvement) เมื่ออัตราความก้าวหน้าด้านโค้ดและคณิตศาสตร์ใกล้เคียงกับมนุษย์ หากบริษัท AI มอบหมายให้ระบบ AI ทำการวิจัยและพัฒนาโมเดล AI รุ่นต่อไปด้วยตัวเอง จะก่อให้เกิดการระเบิดทางสติปัญญา (Intelligence Explosion) ทำให้ระบบฉลาดล้ำหน้ามนุษย์ไปอย่างรวดเร็วโดยไม่ต้องพึ่งพามนุษย์อีก
นอกจากนี้ Coxon ยังอธิบายว่า การที่ซีอีโอของบริษัท AI หลายแห่งเรียกร้องให้มีกฎหมายควบคุมนั้น เป็นเจตนาที่แท้จริง เพราะพวกเขากำลังติดอยู่ในสภาวะจำยอมที่ต้องแข่งขันพัฒนาเทคโนโลยีที่มีอันตรายร้ายแรง เพื่อไม่ให้คู่แข่งรายอื่นแซงหน้า พวกเขาต้องการให้มีหน่วยงานระดับสากลเข้ามาช่วยจัดระเบียบ เพื่อให้ทุกคนสามารถพัฒนาต่อไปในจังหวะที่เหมาะสมร่วมกันได้ ท้ายที่สุด เขาเผยว่าความตั้งใจที่เผยแพร่ข้อมูลผ่านโซเชียลมีเดียจนกลายเป็นไวรัล ก็เพื่อกระตุ้นให้สังคมตระหนักว่า ภัยคุกคามจากความสามารถของ AI เป็นความจริงที่กำลังเกิดขึ้นและไม่อาจหลีกเลี่ยงได้
วิดีโอต้นฉบับ: https://youtu.be/HI6skJ4Wf5I?si=4ZXTJ6EMU2su3gvR
ข้อมูลวิดีโอต้นฉบับ
- ชื่อคลิปวิดีโอ: Anthropic CEO reacts to ‘AI could kill us all’ warning
- ชื่อผู้จัดทำ/เจ้าของช่อง: CNN
- รายชื่อและบทบาทของผู้ที่ปรากฏในวิดีโอ:
- Anderson Cooper: ผู้ดำเนินรายการ CNN
- Dario Amodei: CEO ของบริษัท Anthropic (ผู้ให้สัมภาษณ์ช่วงแรก)
- Jacob Coxon: อดีตพนักงานของบริษัท Anthropic ผู้ลาออกและออกมาเตือนภัย (ผู้ให้สัมภาษณ์ช่วงที่สอง)
