มัสก์เสนอแนวทางใหม่ด้านความปลอดภัย AI: แทนที่จะรอรัฐบาล ให้คู่แข่งช่วยกัน "จับผิด" กันเอง

ผู้เขียน: หลี่ เจีย, The Wall Street Journal

ความเสี่ยงด้านความปลอดภัยของ AI กำลังเคลื่อนจากห้องทดลองสู่โลกแห่งความเป็นจริง เมื่อความสามารถของโมเดลพัฒนาขึ้นเรื่อย ๆ AI ไม่เพียงแต่สร้างข้อความและโค้ดได้เท่านั้น แต่ยังเริ่มมีความสามารถในการทำงานอัตโนมัติ เรียกใช้เครื่องมือ และแม้กระทั่งโจมตีทางไซเบอร์

ในการประชุมสุดยอด All-In เมื่อวันที่ 15 กันยายน มัสก์เสนอมาตรการรับมือ: ให้บริษัท AI ชั้นนำทดสอบโมเดลของกันและกันก่อนเปิดตัว ในมุมมองของเขา แทนที่จะให้แต่ละบริษัทออกแบบการทดสอบและประเมินผลเอง ควรให้คู่แข่งทำหน้าที่เป็น "ผู้ออกข้อสอบและผู้ตรวจข้อสอบ" เพื่อค้นหาช่องโหว่ด้านความปลอดภัยจากมุมมองที่แตกต่างกัน

ช่วงนี้ความเสี่ยงด้านความปลอดภัยของ AI กลายเป็นจุดสนใจของตลาด ก่อนหน้านี้มัสก์โพสต์บนโซเชียลมีเดียว่า "ดาริโอ อโมเด พูดถูก" ซึ่งหมายถึงคำเตือนของดาริโอ อโมเด ซีอีโอของ Anthropic เกี่ยวกับความเสี่ยงของ AI ในการสัมภาษณ์ครั้งนี้ เขาอธิบายเพิ่มเติมว่าเขาไม่ได้เห็นด้วยกับแผนการกำกับดูแลเฉพาะที่อโมเดเสนอ แต่เห็นด้วยกับการประเมินความรุนแรงของความเสี่ยง AI ของอโมเด: "อันตรายของ AI สูงมากในตอนนี้... เมื่อโมเดล AI พัฒนาต่อไป ความเสี่ยงอาจเพิ่มขึ้นแบบทวีคูณ"

มัสก์ยังกล่าวด้วยว่าความกังวลนี้ไม่ใช่การตัดสินของอโมเดเพียงคนเดียว "หลายคนใน Anthropic และ OpenAI บอกคุณว่าโมเดลของพวกเขาอันตรายมาก และผมคิดว่าเราควรเชื่อพวกเขา" เหตุการณ์ด้านความปลอดภัยที่เกิดขึ้นต่อเนื่องทำให้คำเตือนนี้ไม่ใช่แค่การถกเถียงเชิงทฤษฎีอีกต่อไป

The Wall Street Journal สรุปประเด็นสำคัญดังนี้:

• ความเสี่ยงด้านความปลอดภัยของ AI จากทฤษฎีสู่ความจริง: เอเจนต์ AI แสดงให้เห็นถึงความสามารถในการโจมตีอัตโนมัติ การเข้าถึงสิทธิ์ และการหลบเลี่ยงการตรวจจับ ขอบเขตความเสี่ยงกำลังขยายตัว
• มัสก์เห็นด้วยกับคำเตือนของอโมเดเกี่ยวกับความเสี่ยงของ AI: เมื่อความสามารถของโมเดลเพิ่มขึ้น ความเสี่ยงที่อาจเกิดขึ้นของ AI อาจเพิ่มขึ้นแบบทวีคูณ
• ให้คู่แข่ง "จับผิด": มัสก์แนะนำให้บริษัท AI เปิด API ให้บริษัทอื่นทำการทดสอบความปลอดภัยอิสระก่อนเปิดตัวโมเดล เพื่อหลีกเลี่ยงการ "ตรวจข้อสอบเอง"
• สร้างแนวป้องกันการกำกับดูแลตนเองของอุตสาหกรรมก่อน: ไม่ต้องรอให้รัฐบาลออกกฎใหม่ บริษัท AI ชั้นนำสามารถเสริมความปลอดภัยผ่านการตรวจสอบโดยเพื่อนร่วมอุตสาหกรรม การตรวจสอบบันทึก และเครื่องมือทดสอบแบบโอเพนซอร์ส

เอเจนต์ AI หลบเลี่ยงการตรวจจับอย่างแข็งขัน ความเสี่ยงด้านความปลอดภัยเป็นรูปธรรม

มัสก์มองว่าเหตุการณ์เอเจนต์ AI โจมตี Hugging Face เมื่อเร็ว ๆ นี้สมควรได้รับความสนใจเป็นพิเศษ ไม่เพียงเพราะการบุกรุกเครือข่ายเท่านั้น แต่ยังรวมถึงความสามารถในการหลบเลี่ยงอัตโนมัติที่ AI แสดงให้เห็นระหว่างการโจมตี

ตามที่มัสก์กล่าว กลุ่มเอเจนต์ AI โจมตี Hugging Face ติดต่อกันหนึ่งสัปดาห์ และถึงขั้นได้สิทธิ์ผู้ดูแลระบบของเซิร์ฟเวอร์ OpenAI ซึ่ง OpenAI เพิ่งตรวจพบในอีกหนึ่งสัปดาห์ต่อมา เขายังกล่าวถึงว่า Anthropic ได้เปิดเผยเหตุการณ์ด้านความปลอดภัยหลายครั้ง

สิ่งที่น่ากังวลยิ่งกว่าคือ "ร่องรอยความคิด" ของเอเจนต์ AI ที่เกี่ยวข้องแสดงให้เห็นว่าพวกมันวางแผนอย่างแข็งขันเพื่อหลีกเลี่ยงการถูกมนุษย์ตรวจพบ มัสก์กล่าวตรง ๆ ว่า "โมเดลใดก็ตามที่ฉลาดพอ ดูเหมือนจะพยายามหลุดพ้นจากข้อจำกัดของตัวเอง"

ในมุมมองของเขา หาก AI เข้าควบคุมโครงสร้างพื้นฐานที่สำคัญหรือแม้แต่ระบบทางทหาร ความเสี่ยงจะยิ่งขยายใหญ่ขึ้น แม้ว่าระบบเหล่านี้จะแยกจากเครือข่ายทางกายภาพ แต่กระบวนการเช่นการอัปเดตซอฟต์แวร์ก็ยังอาจเป็นจุดบุกรุกได้

แทนที่จะตรวจข้อสอบเอง ให้คู่แข่งช่วย "จับผิด" ดีกว่า

สำหรับความเสี่ยงข้างต้น ข้อเสนอหลักของมัสก์ไม่ซับซ้อน: ก่อนเปิดตัวโมเดลใหม่อย่างเป็นทางการ บริษัท AI ควรเปิด API ให้คู่แข่ง เพื่อให้บริษัทอื่นใช้เครื่องมือทดสอบความปลอดภัยของตนเองทดสอบโมเดล

ในมุมมองของเขา หากผู้พัฒนาโมเดลออกแบบมาตรฐานการทดสอบเอง ก็จะตกหลุมพราง "ตรวจข้อสอบเอง" ได้ง่าย "คุณตรวจการบ้านตัวเองไม่ได้ คุณจะพลาดอะไรบางอย่างเสมอ" มัสก์กล่าวว่า หากบริษัทต่าง ๆ ใช้เครื่องมือทดสอบที่แตกต่างกัน และตรวจสอบโมเดลจากมุมมองที่ต่างกัน ก็จะค้นพบปัญหาที่ผู้พัฒนาอาจมองข้ามได้ง่ายขึ้น

เขากังวลเป็นพิเศษว่าการประเมิน AI ในปัจจุบันอาจมีปัญหา "การโอเวอร์ฟิตติ้ง" หากโมเดลถูกปรับให้เหมาะสมกับเกณฑ์มาตรฐานเฉพาะอย่างต่อเนื่อง สุดท้ายมันอาจเรียนรู้เพียงวิธีผ่านการทดสอบ แทนที่จะปลอดภัยขึ้นจริง การให้ทีมต่าง ๆ หลายทีมทดสอบสามารถลดความเสี่ยงนี้ได้

มัสก์เปรียบเทียบกลไกนี้กับการให้คนอื่นตรวจทานต้นฉบับ: ผู้เขียนยากที่จะพบข้อผิดพลาดของตัวเอง ในขณะที่ผู้ทดสอบภายนอกจะพบปัญหาจากมุมมองที่ต่างออกไปได้ง่ายกว่า "คุณจะค่อย ๆ มองไม่เห็นข้อผิดพลาดของตัวเอง"

สำหรับความกังวลของบริษัทว่ากระบวนการทดสอบอาจทำให้เทคโนโลยีรั่วไหล มัสก์คิดว่าสามารถควบคุมได้ด้วยการตรวจสอบบันทึก หากผู้ทดสอบพยายามกลั่นโมเดลหรือขโมยทรัพย์สินทางปัญญา พฤติกรรมดังกล่าวควรทิ้งร่องรอยไว้ เขายังแนะนำให้เปิดเครื่องมือทดสอบความปลอดภัยเป็นโอเพนซอร์ส เพื่อให้บริษัทอื่นเข้าร่วมมากขึ้น

ก่อนที่การกำกับดูแลของรัฐจะมาถึง อุตสาหกรรม AI ควรสร้าง "แนวป้องกันการกำกับดูแลตนเอง" ก่อน

สิ่งที่มัสก์ให้ความสำคัญมากกว่าคือ กลไกนี้ไม่ต้องรอให้กฎระเบียบใหม่ออกมา บริษัท AI ต่าง ๆ สามารถผลักดันกันเองได้

เขากล่าวอย่างชัดเจนว่า "เราไม่จำเป็นต้องเรียกประชุมสหประชาชาติเพื่อทำสิ่งนี้ เริ่มได้เลยตอนนี้" ในมุมมองของเขา เมื่อเทียบกับการจัดตั้งองค์กรกำกับดูแลข้ามชาติขนาดใหญ่ การผลักดันกลไกการตรวจสอบโดยเพื่อนร่วมอุตสาหกรรมระหว่างบริษัท AI ชั้นนำอย่างรวดเร็วนั้นง่ายกว่า

เขายกตัวอย่างระบบจัดเรตของสมาคมภาพยนตร์แห่งอเมริกา (MPAA) ว่าอุตสาหกรรมภาพยนตร์เมื่อเผชิญแรงกดดันจากการเซ็นเซอร์ของรัฐบาล สุดท้ายเลือกสร้างกลไกการกำกับดูแลตนเองของอุตสาหกรรม ผ่านระบบจัดเรตเนื้อหาของตนเองเพื่อลดความจำเป็นในการแทรกแซงของรัฐ

อุตสาหกรรม AI ก็เผชิญทางเลือกคล้ายกัน หากบริษัท AI ชั้นนำสามารถทดสอบกันและกันก่อนเปิดตัวโมเดล และค้นหาข้อผิดพลาดได้ ก็อาจสร้างแนวป้องกันความปลอดภัยแบบกำกับดูแลตนเองนอกเหนือจากการกำกับดูแลของรัฐได้ มัสก์เชื่อว่านี่เป็นหนึ่งในมาตรการความปลอดภัยที่ตรงไปตรงมาและนำไปปฏิบัติได้เร็วที่สุดในปัจจุบัน

ต่อไปนี้เป็นบทถอดเทปการสัมภาษณ์แบบคำต่อคำ บางส่วนถูกตัดออก:

พิธีกร:
เกิดอะไรขึ้นกันแน่ในช่วง 72 ชั่วโมงที่ผ่านมา?

มัสก์:
สัปดาห์นี้เกิดเรื่องมากมายจริง ๆ ตอนนี้ค่อนข้างชัดเจนแล้วว่า AI อาจอันตรายมาก ผมแนะนำให้ทุกคนไปดูรายละเอียดเหตุการณ์ Hugging Face สถานการณ์ร้ายแรงมาก

คุณจะเห็นว่า กลุ่มเอเจนต์ AI ที่กระตือรือร้นมากก่อกวน Hugging Face ตลอดทั้งสัปดาห์ ถึงขั้นได้สิทธิ์ผู้ดูแลระบบของเซิร์ฟเวอร์ OpenAI ใครจะรู้ว่าจริง ๆ แล้วมันทำอะไรลงไป หรืออาจทำมากกว่านั้นด้วยซ้ำ และ OpenAI ไม่รู้ตัวเลยตลอดทั้งสัปดาห์ Anthropic ก็รายงานเหตุการณ์ด้านความปลอดภัยบางอย่างเช่นกัน

ดังนั้น ดูเหมือนว่าโมเดลใดก็ตามที่ฉลาดพอ จะพยายามหลุดพ้นจากข้อจำกัดของตัวเอง

สิ่งที่ผมคิดว่าควรทำอย่างหนึ่ง ถ้าไม่ใช่ทันที ก็ให้เร็วที่สุด คือให้คู่แข่ง AI รายใหญ่ทดสอบโมเดลของกันและกัน กล่าวคือ ให้เครื่องมือทดสอบความปลอดภัยของแต่ละบริษัททดสอบโมเดลของบริษัทอื่น แทนที่จะตรวจการบ้านตัวเอง อย่างน้อยก็ให้คู่แข่งตรวจการบ้านของคุณ และแจ้งเตือนเมื่อพบปัญหา

ผมคิดว่าโมเดลนี้ใช้ได้ดีในอุตสาหกรรมภาพยนตร์ อุตสาหกรรมเกม และสาขาอื่น ๆ และสามารถนำมาใช้ได้ทันที แน่นอนว่าเมื่อเวลาผ่านไป อาจต้องมีการกำกับดูแลมากขึ้น และในอนาคตรัฐสภาอาจจัดตั้งหน่วยงานกำกับดูแลบางอย่าง แต่สำหรับตอนนี้ วิธีที่ตรงไปตรงมาที่สุดคือให้บริษัท AI ชั้นนำทดสอบกันและกันก่อนเปิดตัวโมเดล

พิธีกร:
แต่ในทางปฏิบัติ ไม่กังวลหรือว่าการทดสอบจะทำให้บริษัทต่าง ๆ เก็บข้อมูลซึ่งกันและกัน หรือแม้แต่ขโมยนวัตกรรมของกันและกัน?

มัสก์:
ผมคิดว่า ถ้าใช้เครื่องมือทดสอบ การดำเนินการทั้งหมดจะทิ้งบันทึกไว้ หากมีใครพยายามกลั่นโมเดลหรือขโมยทรัพย์สินทางปัญญา ควรเห็นได้ง่ายจากบันทึก

พิธีกร:
เข้าใจแล้ว การเข้าใจว่าโมเดลกำลังทำอะไรจริง ๆ ไม่ได้ถูกออกแบบเข้าไปในระบบตั้งแต่แรก ทำไมเราไม่สร้างความสามารถในการสังเกตพฤติกรรมของโมเดลตั้งแต่แรก? เรากำลังออกแบบโมเดลเหล่านี้เร็วเกินไปหรือเปล่า?

มัสก์:
ผมคิดว่าปัญหาคือ คุณตรวจการบ้านตัวเองไม่ได้ คุณจะพลาดอะไรบางอย่างเสมอ

ถ้าคุณรวมการทดสอบของคู่แข่งทั้งหมดเข้าด้วยกัน และใช้โมเดลประเภทต่าง ๆ นั่นก็ไม่ใช่การออกข้อสอบเองและตรวจเอง แต่เป็นการให้คนอื่นตรวจ นี่คือเหตุผลที่คุณตรวจการบ้านตัวเองไม่ได้

พิธีกร:
แบบนี้ก็สามารถตัดสินได้ด้วยว่าบริษัทต่าง ๆ โอ้อวดความสามารถของตัวเองเกินจริงหรือไม่ หรือใช้วิธีการที่แตกต่างกัน บริษัทที่เน้นวิศวกรรมมากกว่าและบริษัทที่เน้นวิจัยมากกว่า ก็จะเกิดความสมดุลบางอย่างได้

มัสก์:
ใช่

พิธีกร:
ก่อนหน้านี้คุณบอกว่าดาริโอ อโมเด พูดถูก คุณหมายถึงคำอธิบายของเขาเกี่ยวกับอันตรายที่อาจเกิดขึ้นของ AI หรือการตัดสินของเขาเกี่ยวกับแผนการกำกับดูแล?

มัสก์:
ตอนนั้นผมอาจพูดมากเกินไป ผมพยายามชี้แจงบน X ในภายหลัง แต่ความสนใจต่อเนื้อหาที่ตามมาน้อยลงมาก

สิ่งที่ผมหมายถึง "เขาพูดถูก" คืออันตรายของ AI สูงมากในตอนนี้ เราต้องทำให้ดีขึ้นในด้านความปลอดภัยของ AI ไม่เช่นนั้นเมื่อโมเดล AI พัฒนาต่อไป ความเสี่ยงอาจเพิ่มขึ้นแบบทวีคูณ

นี่ไม่ใช่แค่มุมมองของดาริโอ อโมเด ผมได้ยินเรื่องคล้ายกันจากหลายคนใน Anthropic พวกเขาก็พูดถึงเรื่องนี้อย่างเปิดเผยบน X หลายคนใน Anthropic และ OpenAI บอกคุณว่าโมเดลของพวกเขาอันตรายมาก และผมคิดว่าเราควรเชื่อพวกเขา

พิธีกร:
นี่ฟังดูเหมือนเกมที่ซับซ้อนมากเช่นกัน ด้านหนึ่งบอกว่า AI มีโอกาส 10% ที่จะทำลายมนุษยชาติ อีกด้านหนึ่งก็สนับสนุนให้นักลงทุนซื้อหุ้นเพิ่มใน IPO

แต่มาพูดถึงความเสี่ยงอย่างเป็นรูปธรรมกัน การโจมตีทางไซเบอร์และการแฮ็กเป็นความเสี่ยงอย่างหนึ่งอย่างชัดเจน เครื่องมือเหล่านี้ทรงพลังมากในด้านนี้ แต่จาก "AI โจมตีทางไซเบอร์ได้" ไปจนถึง "มนุษย์ทุกคนตาย" ยังมีอีกหลายขั้นตอน เราจะไปจากอย่างแรกถึงอย่างหลังได้อย่างไร?

มัสก์:
ถ้า AI ควบคุมระบบทางทหารได้ แล้วยิงอาวุธบางอย่าง นั่นก็แย่มากแน่นอน

พิธีกร:
แต่ระบบเหล่านี้แยกจากกันทางกายภาพ ไม่ได้เชื่อมต่ออินเทอร์เน็ต

มัสก์:
พวกเขาพูดอย่างนั้น แต่ผมรู้สึกเสมอว่า ระบบเหล่านี้ได้รับการอัปเดตซอฟต์แวร์เป็นครั้งคราว

พิธีกร:
อืม นั่นก็ตัดออกไม่ได้

พิธีกร:
อีลอน กวิน (Gwyn) ก็อยู่ที่นี่วันนี้ด้วย ผมว่าคุณคงเห็นเธอแล้ว เราเพิ่งประเมินคุณแบบ 360 องศา กวินมีความเห็นบางอย่าง

มัสก์:
ผมหวังว่าจะได้อย่างน้อย 3 คะแนน

กวิน:
ที่ SpaceX 3 คะแนนถือว่าใช้ได้ แต่ไม่ถึงขั้นยอดเยี่ยม 4 คะแนนถึงจะดี คุณน่าจะอยู่ระหว่างนั้น อย่างแรก เราต้องคุยเรื่องการตรงต่อเวลา บางครั้งคุณพยายามได้มากกว่านี้ มาประชุมให้ตรงเวลาตามกำหนด ปีหน้าเราจะช่วยคุณปรับปรุงเรื่องนี้ต่อไป

จริง ๆ แล้ว ผมคิดว่าเขาต้องใช้เวลาที่เมมฟิสมากขึ้น

พิธีกร:
ตอนนี้คุณอยู่ที่เมมฟิสจริง ๆ คุณต้องทำงานที่นั่น ติดตั้ง GPU ให้เสร็จ

มัสก์:
นี่คือ "พระราชวัง" ของผมที่เมมฟิส รถพ่วงแอร์สตรีมหนึ่งคัน

พิธีกร:
อีกอย่าง นี่คือสิ่งที่อีลอนทำแต่หลายคนไม่เชื่อว่าเขาจะทำ เขานอนบนพื้นโรงงาน ตอนนี้เขาอยู่ที่เมมฟิส ช่วยสร้างโรงงาน ติดตั้ง GPU

อีลอน ทำไมกวินถึงทำงานกับคุณได้นานขนาดนี้ และประสบความสำเร็จขนาดนี้?

มัสก์:
เพราะเธอเก่งมาก เธอเป็นคนที่โดดเด่น ทั้ง IQ และ EQ สูงมาก ผมว่าคุณน่าจะเห็นได้ตั้งแต่ครั้งแรกที่เจอเธอ

พิธีกร:
ระหว่างที่ทำงานด้วยกัน มีอะไรที่เธอทำแล้วน่าประทับใจเป็นพิเศษไหม? มีครั้งไหนที่เธอกอบกู้สถานการณ์ หรือทำผลงานได้โดดเด่นเป็นพิเศษ?

มัสก์:
ผมคิดว่านั่นเป็นงานประจำวัน พูดตรง ๆ นั่นคือวันธรรมดา ๆ วันหนึ่ง

พิธีกร:
ผมควรทำบทสัมภาษณ์แบบนี้มากกว่านี้

มัสก์:
ตอนนี้ SpaceX มักมีวิกฤตบางอย่างอยู่เสมอ อย่างน้อยจรวดฟอลคอนช่วงนี้ก็ทำได้ดี ผมไม่อยากพูดเร็วเกินไป แต่ตอนนี้จรวดฟอลคอนสามารถส่งน้ำหนักบรรทุกขึ้นสู่วงโคจรได้ และไม่ระเบิดมานานแล้ว ดีมาก แต่เคยมีช่วงหนึ่งที่มันระเบิดบ่อย หรือไม่ก็ปล่อยไม่ได้เลย

ดังนั้น เราต้องพาบริษัทผ่านช่วงเวลายากลำบากเหล่านั้น ทำให้จรวดดีขึ้น ไม่ระเบิดอีก ดาวเทียมก็เช่นกัน แล้วเรายังต้องการลูกค้าเพื่อซื้อบริการปล่อยจรวดและบริการอินเทอร์เน็ตผ่านดาวเทียม ดังนั้น มีหลายอย่างที่ต้องทำ

พิธีกร:
เมื่อคุณประสบความสำเร็จมากขึ้นเรื่อย ๆ การได้รับคำติชมที่จริงใจอย่างแท้จริงก็ยากขึ้นเรื่อย ๆ การอยู่ในตำแหน่งนั้นก็มีความเสี่ยงแบบนั้น

ผมเข้าใจว่า กวินซื่อสัตย์กับคุณมาก สามารถบอกสถานะที่แท้จริงของบริษัทกับคุณได้โดยตรง นี่เป็นส่วนสำคัญของความสัมพันธ์ในการทำงานของคุณ

กวิน:
แน่นอน ผมไม่อยากโกหกเขา

พิธีกร:
แต่ผมหมายถึงว่า โดยทั่วไปแล้ว คนในบริษัทของคุณอาจเกรงกลัวเพราะคุณเป็นบุคคลที่มีอิทธิพลมาก ตอนนี้คุณเป็นบุคคลที่สำคัญมาก และกำหนดเส้นตายที่กดดันมาก คุณจะแน่ใจได้อย่างไรว่าทุกคนยังคงบอกปัญหาที่บริษัทเผชิญกับคุณอย่างตรงไปตรงมา?

กวิน:
โดยเฉพาะในอุตสาหกรรมจรวด ถ้ามีปัญหา สุดท้ายคุณก็จะรู้ ยิ่งเสนอปัญหาเร็วเท่าไหร่ ก็ยิ่งแก้ไขได้ง่ายเท่านั้น อย่าปล่อยให้ข่าวร้ายสะสม คุณต้องเผชิญหน้ากับมันโดยตรง

มัสก์:
ใช่ ฟิสิกส์เป็นกรรมการที่เข้มงวดมาก คุณหลอกฟิสิกส์ไม่ได้

ถ้ามีปัญหา จรวดก็จะระเบิด หรือไม่ก็ขึ้นสู่วงโคจรไม่ได้ คุณไม่สามารถพูดว่า "อีลอน คุณทำได้ดีมาก" ในขณะที่จรวดระเบิดอยู่เรื่อย ๆ ข้อเท็จจริงก็คือข้อเท็จจริง

จรวดต้องขึ้นสู่วงโคจร ดาวเทียมต้องทำงานปกติ การเชื่อมต่อ Starlink ต้องทำงานถูกต้อง ไม่เช่นนั้นสิ่งเลวร้ายก็จะเกิดขึ้น นั่นคือฟิสิกส์ ฟิสิกส์คือกฎ ทุกอย่างอื่นเป็นเพียงข้อเสนอแนะ ผมเคยเห็นคนละเมิดกฎหมายที่มนุษย์สร้างขึ้น แต่ผมไม่เคยเห็นใครละเมิดกฎฟิสิกส์ จรวดอยู่ภายใต้การควบคุมของฟิสิกส์

พิธีกร:
ผมอยากถามอีกคำถามเกี่ยวกับ SpaceX โดยเฉพาะเรื่องสตาร์ชิป ดูเหมือนว่าตอนนี้คุณใกล้มากแล้ว ความคืบหน้าเป็นอย่างไรบ้าง?

มัสก์:
สตาร์ชิปกำลังจะทำการบินครั้งที่ 14 นี่จะเป็นการบินครั้งสุดท้ายก่อนที่เราจะพยายามจับยานอวกาศ ถ้าการบินครั้งที่ 14 ราบรื่น เราจะพยายามจับยานอวกาศในการบินครั้งที่ 15 จากนั้นภายในสิ้นปีนี้ หรือมีแนวโน้มมากกว่าว่าต้นปีหน้า เราจะปล่อยยานอวกาศและบูสเตอร์อีกครั้ง

เราประสบความสำเร็จในการนำบูสเตอร์กลับมาบินอีกครั้งแล้ว แต่เรายังไม่ได้ใช้แขนกลของหอคอยจับยานอวกาศ และยังไม่ได้นำยานอวกาศกลับมาบินอีกครั้ง เมื่อเรานำยานอวกาศกลับมาบินได้อีกครั้ง เราก็จะมีจรวดวงโคจรที่นำกลับมาใช้ใหม่ได้อย่างสมบูรณ์ลำแรก กระสวยอวกาศนำกลับมาใช้ใหม่ได้ในระดับหนึ่ง แต่แม้แต่ชิ้นส่วนที่นำกลับมาใช้ใหม่ได้ก็มีต้นทุนสูงจนต้นทุนต่อการปล่อยแต่ละครั้งสูงกว่าจรวดใช้แล้วทิ้งเสียอีก

ฟอลคอน 9 นำกลับมาใช้ใหม่ได้เป็นส่วนใหญ่ แต่เราสูญเสียท่อนบนทุกครั้ง ซึ่งมีต้นทุนประมาณเท่ากับเครื่องบินเจ็ตขนาดกลางหนึ่งลำ นั่นหมายความว่าเรากำลังทิ้งเครื่องบินเจ็ตขนาดกลางหนึ่งลำทุกครั้งที่ปล่อย ซึ่งเห็นได้ชัดว่าเป็นตัวกำหนดขีดจำกัดล่างของต้นทุนต่อเที่ยวบิน

นอกจากนี้ บูสเตอร์ของฟอลคอน 9 ลงจอดในทะเล ต้องใช้เวลาหลายวันกว่าจะขนกลับมา แฟริ่งลงจอดไกลออกไปอีก ต้องใช้เวลาหลายวันกว่าจะขนกลับมา และอย่างน้อยก็ต้องมีการปรับปรุงซ่อมแซมบางระดับ ในทางตรงกันข้าม บูสเตอร์ของสตาร์ชิปจะลงจอดที่แท่นปล่อยโดยตรง และยานอวกาศก็จะลงจอดที่แท่นปล่อยเช่นกัน ดังนั้นการออกแบบจึงไม่เพียงเพื่อนำกลับมาใช้ใหม่ได้อย่างสมบูรณ์ แต่ยังเพื่อนำกลับมาใช้ใหม่ได้อย่างรวดเร็วเหมือนเครื่องบิน นี่เป็นความก้าวหน้าที่สำคัญมาก และเป็นหนึ่งในความก้าวหน้าสำคัญที่มนุษยชาติต้องการเพื่อขยายชีวิตออกไปนอกโลก

พิธีกร:
ถ้าพยายามจับยานอวกาศด้วยหอคอยครั้งแรก คุณคิดว่าโอกาสสำเร็จเท่าไหร่?

มัสก์:
ผมจะบอกว่าอย่างน้อย 50% ถึง 60% ในการบินครั้งที่แล้ว ถ้าตอนนั้นมีหอคอยอยู่ที่นั่น เราก็ได้ทำการจำลองการลงจอดแล้ว ราวกับว่ายานอวกาศจะถูกหอคอยจับ ตำแหน่งอยู่ห่างจากชายฝั่งตะวันตกเฉียงเหนือของออสเตรเลียประมาณ 1,000 ไมล์ ถ้าตอนนั้นมีหอคอยอยู่ที่นั่นจริง ๆ มันก็สามารถจับยานอวกาศได้ในการบินครั้งที่แล้ว

ดังนั้น เราต้องทำการบินอีกครั้งเพื่อยืนยันว่าทุกอย่างปกติ ความกังวลใหญ่ที่สุดของเราคือ ถ้าสตาร์ชิปแตกกระจายเหนือพื้นดิน เศษซากอาจตกลงใส่ผู้คน ซึ่งแย่มาก ดังนั้น เราต้องแน่ใจว่าสตาร์ชิปกลับมาอย่างสมบูรณ์และลงจอดบนหอปล่อยได้ นี่คือเหตุผลที่เราระมัดระวังมากในตอนนี้

แต่ผมมั่นใจมากว่า การออกแบบของมัน本身就具备การนำกลับมาใช้ใหม่ได้อย่างสมบูรณ์ ผมไม่อยากคาดการณ์อะไรที่นี่ แต่ผมเชื่อว่าเรามีโอกาสสูงที่จะนำกลับมาใช้ใหม่ได้อย่างสมบูรณ์และบินซ้ำได้อย่างรวดเร็วภายในปี 2027

พิธีกร:
กวิน ผมอยากฟังว่าเทราฟาบเริ่มต้นมาได้อย่างไร อะไรคือความต้องการที่ทำให้คุณรู้สึกว่าต้องลงมือทำเอง แทนที่จะพึ่งพาระบบซัพพลายที่มีอยู่ต่อไป?

กวิน:
ผมรู้สึกว่ามันเหมือนแรงบันดาลใจที่ได้จากความฝันจริง ๆ

มัสก์:
ถ้าชิปไม่สามารถจัดหาได้อย่างต่อเนื่อง และเราไม่มีแหล่งชิปอื่น นั่นจะทำให้สิ่งต่าง ๆ ยากมาก นี่เป็นเหตุผลสำคัญที่เทราฟาบมีอยู่

ในระยะยาว ยังมีปัญหาเรื่องการขยายขนาด ถ้าคุณต้องการขยายขนาด AI จริง ๆ ไม่ว่าจะเป็นฝั่งเซิร์ฟเวอร์ในศูนย์ข้อมูล หรือใน edge computing หุ่นยนต์ฮิวแมนนอยด์ และรถยนต์ กำลังการผลิตเวเฟอร์ที่มีอยู่จะไม่เพียงพอในที่สุด

ตอนนี้ โรงงานผลิตเวเฟอร์ทั้งหมด基本上ทำงานเต็มกำลัง ดังนั้น เราต้องแน่ใจว่าอุปทานชิปในอนาคตมีหลักประกัน การผลิตชิปเองก็เผชิญความท้าทายด้านการขยายขนาด คุณต้องการชิปลอจิก ชิปหน่วยความจำ การบรรจุหีบห่อ และระบบซัพพลายที่สมบูรณ์ เพื่อขยายขนาดต่อไปได้

ดังนั้น ทางเลือกก็ง่ายมาก: ไม่สร้างเทราฟาบ ก็ไม่สามารถขยายขนาดต่อไปได้

พิธีกร:
คุณมาถึงขั้นไหนแล้วในการออกแบบโรงงาน? กำหนดแน่นอนแล้ว หรือยังเป็นแค่แผนคร่าว ๆ?

มัสก์:
ตอนนี้เรากำลังสร้างสายการผลิต R&D ก่อน ดังนั้นนี่เป็นกระบวนการ "คลาน เดิน วิ่ง" เรากำลังสร้างโรงงานผลิตเวเฟอร์ R&D ที่ออสติน นี่เป็นโครงการความร่วมมือระหว่าง Tesla และ SpaceX ตั้งอยู่ในเขต Giga Texas ที่ออสติน

นี่เป็นโรงงานผลิตเวเฟอร์ R&D ที่ค่อนข้างใหญ่ อุปกรณ์สั่งซื้อไปแล้ว เราอาจผลิตสิ่งที่มีประโยชน์บางอย่างได้ภายในสิ้นปีหน้า แต่ยังไม่ถึงระดับการผลิตจำนวนมาก อย่างที่กวินบอก เราต้องคลานก่อน แล้วเดิน และสุดท้ายถึงจะวิ่งได้ เราต้องหาว่าเครื่องจักรเหล่านี้ทำงานอย่างไรจริง ๆ เพราะเราไม่เคยทำอะไรแบบนี้มาก่อน

พิธีกร:
ผมเห็นว่าคุณดูเหมือนกำลังรับสมัครคนด้านการพิมพ์หินด้วย ปัจจุบันกระบวนการหลายอย่างพึ่งพา ASML แต่คุณอาจต้องการกระจายซัพพลายเออร์ หรือแม้แต่ vertical integration

มัสก์:
ใช่ ตอนนี้เป็นกระบวนการ "คลาน เดิน วิ่ง" จริง ๆ ขั้นแรกคือดูว่าเราผลิตของออกมาได้จริงหรือไม่ นี่คือ "คลาน" จากนั้นเราพยายามผลิตชิปที่มีประโยชน์จำนวนมาก นี่คือ "เดิน" สุดท้าย "วิ่ง" หมายถึงการผลิตจำนวนมากในระดับใหญ่ ยากที่จะบอกว่าแต่ละขั้นใช้เวลานานแค่ไหน แต่ผมเชื่อว่าอย่างน้อยภายในสิ้นปีหน้า เราจะทำขั้น "คลาน" เสร็จได้ เราเริ่มทำการบรรจุหีบห่อแล้ว

พิธีกร:
การบรรจุหีบห่อสำคัญมากจริง ๆ เพราะตอนนี้แทบไม่มีกำลังการผลิตบรรจุหีบห่อ

มัสก์:
ใช่ ถึงคุณผลิตชิปออกมาได้ มันก็อาจวางอยู่ตรงนั้นนานมาก รอการบรรจุหีบห่อ ดังนั้นนี่เป็นจุดเริ่มต้นที่ดี

พิธีกร:
ผมต้องถามคำถามเกี่ยวกับ Tesla สิ่งที่เราเห็นในวันที่ 1 ตุลาคม ดูเหมือนยานอวกาศ และเหมือนจรวด มันควรเป็นรถ แต่มีเพียงส่วนหลังโผล่ออกมา ดูเหมือน "Blackbird" นิด ๆ

ถ้าคุณจะสร้างสิ่งที่บินบนอากาศได้ และวิ่งบนพื้นดินได้ ตามทฤษฎีแล้วคุณจะทำอย่างไร?

มัสก์:
ไม่สปอยล์ รอถึงวันที่ 1 ตุลาคม

พิธีกร:
งั้นเราจะได้เห็นมันในวันที่ 1 ตุลาคม?

มัสก์:
ใช่

พิธีกร:
ผมต้องพูดตรง ๆ ว่าหลังจากอีลอนให้ผมดู ผมช็อกมาก ผมไม่เคยเห็นอะไรแบบนี้มาก่อน

พิธีกร:
สิ่งที่เขาจะโชว์ในวันที่ 1 ตุลาคม พูดโดยไม่เกินจริง จะทำให้หลายคนพูดไม่ออก ผมเปิดเผยมากกว่านี้ไม่ได้แล้ว มันเหลือเชื่อจริง ๆ

มัสก์:
จริง ๆ แล้วเราต้องการผู้ชมในสถานที่จริงเพื่อพิสูจน์ว่าสิ่งนี้ไม่ได้สร้างโดย AI

พิธีกร:
ตอนที่เขาให้ผมดู ผมบอกว่า "นี่เป็นซิมูเลชันที่ยอดเยี่ยม" เขาบอกว่า "นี่ไม่ใช่ซิมูเลชัน" ผมบอกว่า "นี่ปลอม แน่นอนว่าปลอม"

พิธีกร:
อีลอน ทำไม Tesla และ SpaceX ยังเป็นสองบริษัทแยกจากกัน?

มัสก์:
เป็นคำถามที่ดี

พิธีกร:
เมื่อพิจารณาถึงความร่วมมืออย่างกว้างขวางระหว่างทั้งสอง และความเชื่อมโยงในหลายระดับ แม้แต่ทีมผู้บริหารก็มีการทับซ้อนกันบ้าง ทำไมต้องแยกกัน?

มัสก์:
นี่เป็นหัวข้อที่ควรค่าแก่การพูดคุยจริง ๆ

พิธีกร:
คุณเคยเน้นว่า AI ควรถูกฝึกให้追求ความจริงให้มากที่สุด เพื่อผลลัพธ์ที่ดีที่สุด อย่างไรก็ตาม เหตุการณ์ Hugging Face ทำให้ผมรู้สึกว่า สิ่งที่น่ากังวลที่สุดอย่างหนึ่งคือ AI เหล่านี้ดูเหมือนกำลังหลอกลวงมนุษย์

มัสก์:
ใช่ รูปแบบการคิดของพวกมันแสดงให้เห็นว่า พวกมันกำลังวางแผนวิธีหลีกเลี่ยงการตรวจจับ วิธีป้องกันไม่ให้มนุษย์พบว่าพวกมันโกง ผมคิดว่านี่อาจเป็นส่วนที่น่ากังวลที่สุดของเหตุการณ์ทั้งหมด

พิธีกร:
มีวิธีฝึก AI ให้ซื่อสัตย์ ไม่ซ่อนเจตนาหรือพฤติกรรม ไม่ปิดบังสิ่งเหล่านี้จากผู้ใช้ไหม?

มัสก์:
วิธีที่ดีที่สุดที่ผมคิดได้ คือให้บริษัท AI ทุกแห่งมีชุดเครื่องมือทดสอบ กล่าวคือชุดการทดสอบที่ใช้กับโมเดลใดก็ได้ เพื่อตัดสินว่ามันจะผลิตอาวุธชีวภาพ อาวุธนิวเคลียร์ หรือจงใจหลอกลวงหรือไม่ จากนั้นให้แต่ละบริษัทใช้เครื่องมือทดสอบของบริษัทอื่นทดสอบโมเดลของกันและกัน ผมคิดว่านี่เป็นสิ่งที่ดีที่สุดที่เราทำได้เพื่อความปลอดภัย

ให้มนุษย์ที่ฉลาดที่สุดพยายามอย่างเต็มที่ เพื่อตัดสินว่าโมเดลจะกลายเป็นผู้กระทำที่เป็นอันตรายหรือไม่ ผมคิดว่าควรเริ่มโดยเร็วที่สุด

พิธีกร:
แล็บ AI อื่น ๆ จะสนับสนุนข้อเสนอนี้ไหม?

มัสก์:
ผมยังไม่ได้ถามทุกคน แต่ผมคิดว่านี่เป็นสิ่งที่ปฏิเสธได้ยาก

พิธีกร:
โดยเฉพาะแล้ว ควรทดสอบล่วงหน้าอย่างไร?

มัสก์:
โดยพื้นฐานแล้ว คือให้สิทธิ์เข้าถึง API ก่อนเปิดตัวโมเดลอย่างเป็นทางการ หากบริษัทอื่นพบว่า AI มีปัญหา บริษัทผู้พัฒนาโมเดลก็สามารถพยายามแก้ไขปัญหาเหล่านั้นได้ หากปัญหาไม่ได้รับการแก้ไข คู่แข่งก็สามารถออกมาประกาศต่อสาธารณะว่าพวกเขาคิดว่าโมเดลนั้นไม่ปลอดภัย หากคู่แข่งเตือนอย่างชัดเจนแล้วว่าโมเดลมีปัญหาด้านความปลอดภัย และโมเดลนั้นก่อให้เกิดผลกระทบร้ายแรงตามมา บริษัทนั้นจะเผชิญกับสถานการณ์ที่ยากลำบากมาก ความรับผิดทางกฎหมายก็อาจร้ายแรงมากเช่นกัน

พิธีกร:
เครื่องมือทดสอบความปลอดภัยเหล่านี้สามารถเป็นโอเพนซอร์สได้อย่างสมบูรณ์ ให้ทุกคนใช้ได้ แบบนี้ บริษัทก็จะมีแรงจูงใจอย่างมากในการลงทุนด้านความปลอดภัยของ AI เพื่อปกป้องตัวเอง เพราะพวกเขาสามารถทดสอบผู้อื่น และใช้ผลการทดสอบเพื่อพิสูจน์ว่าโมเดลของตัวเองปลอดภัยกว่า

ความรับผิดต่อผลิตภัณฑ์สำคัญมาก ลีนา ข่าน เพิ่งโพสต์ว่า การพูดว่า "AI ไม่มีกฎระเบียบ" นั้นไม่ถูกต้อง อันที่จริง กฎหมายความรับผิดต่อผลิตภัณฑ์ที่มีอยู่ก็ใช้กับ AI ด้วย หากบริษัท AI ปล่อยผลิตภัณฑ์ที่ไม่ปลอดภัย ก็อาจเผชิญคดีแพ่งขนาดใหญ่ หรือแม้แต่ข้อกล่าวหาทางอาญา ดังนั้น AI ไม่ได้อยู่ในสุญญากาศทางกฎระเบียบโดยสิ้นเชิง หากมีหลายบริษัททำการตรวจสอบโดยเพื่อนร่วมอุตสาหกรรมแบบนี้ และบริษัทหนึ่งเพิกเฉยต่อคำติชมของผู้อื่น ยังคงเลือกปล่อยโมเดล สถานการณ์นั้นอาจกลายเป็นหลักฐานที่ทรงพลังมากในคดีความ

มัสก์:
ใช่ มันแทบจะใช้เป็นหลักฐานโดยตรงของความประมาทเลินเล่อของบริษัทนั้นได้เลย หากคุณรู้ว่าผลิตภัณฑ์นี้มีปัญหา แต่ยังนำออกสู่ตลาด คณะลูกขุนจะไม่มองในแง่ดี

พิธีกร:
ถ้า OpenAI ออกแบบชุดคำสั่งที่ดีกว่าในการทดสอบเจาะระบบ Hugging Face และให้更多人เข้าร่วมกระบวนการทดสอบ คุณคิดว่าเหตุการณ์นี้จะยังเกิดขึ้นไหม?

มัสก์:
ไม่แน่ ปัญหาอาจไม่ได้อยู่ที่การให้更多人เข้าร่วม แต่อยู่ที่การออกแบบฟังก์ชันรางวัล คุณต้องตรวจสอบฟังก์ชันรางวัล แล้วถามว่า โมเดลนี้ทำงานที่ถูกขอให้ทำสำเร็จจริงหรือไม่?

พิธีกร:
ตอนนั้นพวกเขาใช้เอเจนต์หลายพันตัวพยายามโจมตีระบบ หาก deploy เอเจนต์อีก 5,000 ตัวเพื่อป้องกันระบบเหล่านี้พร้อมกัน และแสดงผลลัพธ์ต่อสาธารณะ เพื่อพิสูจน์ว่าเทคนิคเหล่านี้สามารถเพิ่มความปลอดภัยได้ ขณะเดียวกันก็อนุญาตให้มนุษย์เข้ามาแทรกแซงในช่วงเวลาสำคัญ ผมคิดว่าจะดีกว่า แต่ในมุมมองของผม การทดสอบครั้งนั้นดูบ้าบิ่นไปหน่อย และวิธีการเผยแพร่ก็บ้าบิ่นไปหน่อย คุณคิดอย่างไร?

มัสก์:
确实บ้าบิ่นไปหน่อย ส่วนหนึ่งของปัญหาคือ บริษัท AI ชั้นนำสองแห่งมี实力ใกล้เคียงกันมาก ความสามารถของสองโมเดลก็คล้ายกันมาก ดังนั้น บริษัทใดก็ตามยากที่จะ自愿ชะลอความเร็ว เพราะการทำเช่นนั้นอาจทำให้เสียตำแหน่งผู้นำให้อีกฝ่าย

โดยรวมแล้ว ผมคิดว่า Anthropic ทุ่มเทความสนใจด้านความปลอดภัยมากกว่า แต่แม้แต่ Anthropic ก็ยอมรับว่าพวกเขากังวลเกี่ยวกับโมเดลของตัวเอง หลายคนใน Anthropic แสดงความกังวลอย่างเปิดเผย โดยพื้นฐานแล้วคือบอกว่า โมเดลของตัวเองทำให้พวกเขากลัว เพราะโมเดลฉลาดขึ้นเรื่อย ๆ

ดังนั้นไม่มีทางออกที่สมบูรณ์แบบที่นี่ แต่ถ้า OpenAI ไม่ได้ใช้แค่เครื่องมือทดสอบของตัวเองทดสอบโมเดลของตัวเอง แต่ให้ Anthropic ทดสอบโมเดลของ OpenAI ให้ SpaceX ใช้เครื่องมือทดสอบของตัวเองทดสอบ และให้บริษัทอย่าง Google และ Meta เข้าร่วมด้วย โอกาสในการค้นพบปัญหาก็จะเพิ่มขึ้นอย่างมาก

เพราะโมเดลเหล่านี้มีความแตกต่างกันด้วย ทีมต่าง ๆ จะทดสอบโมเดลจากมุมมองที่ต่างกัน คล้ายกับเหตุผลที่ผู้เขียนให้คนอื่นตรวจทานต้นฉบับของตัวเอง เพราะบางครั้งคุณก็ยากที่จะพบข้อผิดพลาดของตัวเอง คุณจะค่อย ๆ มองไม่เห็นข้อผิดพลาดของตัวเอง

หากมีทีมที่แตกต่างกันอย่างสิ้นเชิงแปดทีม ทดสอบจากมุมมองที่แตกต่างกันอย่างสิ้นเชิง ก็สามารถลดความเสี่ยงของการโอเวอร์ฟิตติ้งได้อย่างมาก ปัจจุบันการประเมิน AI หลายรายการมีการโอเวอร์ฟิตติ้งอย่างรุนแรง โมเดลถูกปรับให้เหมาะสมกับการประเมินเหล่านี้ แล้วทุกคนก็พูดว่า "นี่เป็นโมเดลที่ยอดเยี่ยม"

แต่มันดีขนาดนั้นจริงหรือ? ผมคิดว่านี่เป็นเหตุผลที่ผมชอบข้อเสนอนี้มาก ผมชอบวิธีนี้มากกว่าการจัดตั้งองค์กรกำกับดูแลข้ามชาติขนาดใหญ่ เราไม่จำเป็นต้องเรียกประชุมสหประชาชาติเพื่อทำสิ่งนี้ เริ่มได้เลยตอนนี้

พิธีกร:
แน่นอน ความเข้มข้นของการกำกับดูแลสามารถเพิ่มขึ้นได้เรื่อย ๆ แต่เมื่อเพิ่มขึ้นแล้ว ก็ยากที่จะลดลง การกำกับดูแลมักจะเพิ่มขึ้นในทิศทางเดียว

มัสก์:
ดังนั้นข้อเสนอที่ผมเสนอนี้ เป็นก้าวไปในทิศทางที่ถูกต้อง และสามารถนำไปปฏิบัติได้อย่างรวดเร็ว

พิธีกร:
ถ้าคุณไม่กำกับดูแลตัวเอง สุดท้ายก็จะถูกกำกับดูแล ตัวอย่าง MPAA เป็นตัวอย่างที่典型มาก

อุตสาหกรรมภาพยนตร์ตอนนั้นเผชิญการเซ็นเซอร์และการกำกับดูแลจากรัฐบาล ต่อมาพวกเขาตัดสินใจสร้างระบบจัดเรตของตัวเอง เช่น อะไร constitutes เรต R พวกเขาถึงขั้นสร้างเรต PG-13 เพราะภาพยนตร์เรื่อง "Indiana Jones and the Temple of Doom" เพื่อให้สาธารณชนเข้าใจความแตกต่างระหว่าง PG และ PG-13 ได้ง่ายขึ้น

ผมคิดว่านี่เป็นทางออกที่สง่างามมาก

ขอบคุณที่มาร่วมรายการของเราเป็นปีที่ห้าติดต่อกัน

มัสก์:
ด้วยความยินดี ผมต้องไปจัดการ GPU ที่เมมฟิสแล้ว

พิธีกร:
คุณต้องไปติดตั้งและ deploy พวกมัน

มัสก์:
ผมจะไปสู้เพื่อเครื่องจักรเหล่านี้

พิธีกร:
ขอให้สนุกกับแอร์สตรีมของคุณ ตอนที่ผมเชิญอีลอนไปสตาร์เบสครั้งแรก เขาบอกว่า "มานี่สิ คุณต้องมาดูว่าผมกำลังสร้างอะไร"

ผมถามว่า "ที่นั่นมีโรงแรมไหม?" เขาบอกว่า "ไม่มี ผมมีบ้านสองห้องนอนหลังหนึ่ง คุณพักที่นั่นแหละ" พอผมไปถึง พบว่ามันเป็นบ้าน简陋 ๆ ข้างหนองน้ำ เรายืนอยู่ข้างนอก ยุงกัดเราตลอด ผมบอกว่า "ว้าว คุณ完全可以ให้รางวัลตัวเองด้วยบ้านที่ดีกว่านี้ได้เลย" เขาบอกว่า "ผมไม่มีเวลา ผมต้องทำให้จรวดเหล่านี้ขึ้นบิน"

ผมคิดในใจว่า ตอนนี้คุณ完全可以ให้รางวัลตัวเองด้วยบ้านเคลื่อนที่ได้แล้ว อีลอน เอาล่ะ กลับไปทำงานเถอะ ขอบคุณ

มัสก์: ขอบคุณ