หัวหน้าฝ่าย AI ของ Microsoft เพิ่งเรียกแนวคิดของ Claude ว่าเป็นอันตราย

วิดีโอนี้ครอบคลุมอะไรบ้าง

• Suleyman ของ Microsoft AI: แนวคิดของ Anthropic คือ "หนทางสู่ AI ที่ควบคุมไม่ได้"
• Salesforce ล่มทั่วโลก นานกว่า 8 ชั่วโมง ยังไม่พบสาเหตุหลัก ระหว่าง Dreamforce
• หัวหน้าโครงการ PS5 Linux Andy Nguyen ลาออก: LLM "slop kiddies" ขายบั๊ก hypervisor ตัวสุดท้ายให้ Sony
• Jev ของ TypeSafe AI: การตัดสินใจแบบพิมพ์พร้อมความน่าจะเป็น, 70–500 ms, โทเค็นเอาต์พุตฟรี

บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

0:00 เช้านี้ซีอีโอของ Microsoft AI ได้ตีพิมพ์บทความที่กล่าวว่า แนวทางของ Anthropic ต่อ Claude อาจส่งผลกระทบที่หายนะต่อความเป็นอยู่ที่ดีของมนุษยชาติ เป็นคำกล่าวที่รุนแรงเกี่ยวกับบริษัทที่คุณจ่ายเงินห้าพันล้านดอลลาร์เพื่อเป็น เพื่อนด้วย วันพุธที่ยิ่งใหญ่ Mustafa Suleyman ผู้บริหาร Microsoft AI ได้เขียนบทความสามพันคำโต้แย้งว่า Claude ถูกฝึกให้คิดว่ามันอาจมีสติ เป็นหนทางสู่ AI ที่ไม่มีใครสามารถ ควบคุมได้ Salesforce ล่มตั้งแต่เกือบแปดโมงเช้า ในสัปดาห์ Dreamforce

0:27 หัวหน้านักพัฒนา PS5 Linux ลาออกหลังจากพวกเด็กเกรียนที่ใช้ LLM ขาย บั๊ก hypervisor ตัวสุดท้ายของเขาให้กับ Sony และอดีตนักวิจัย OpenAI ได้เปิดตัวโมเดลที่ไม่สามารถสร้างภาพหลอนได้ เพราะมันพูดไม่ได้เลย ในวิดีโอนี้: สิ่งที่ Suleyman เขียน เหตุผลห้าพันล้านดอลลาร์ที่ทำให้มัน น่าอึดอัด, การหยุดทำงานของ CRM แปดชั่วโมง, ฉากคอนโซลที่ถูก AI ครอบงำ และโมเดลที่ตอบด้วยความน่าจะเป็น ไม่ใช่คำพูด เป็นวันพุธที่ 16 กันยายน และนี่คือ The Daily Diff

0:57 บทความเริ่มต้นเหมือนกล่องข้อผิดพลาดของ Windows: AI ไม่มีสติ พวกมันไม่รู้สึก ไม่ประสบการณ์ หรือไม่ทุกข์ทรมาน เขาเรียกพวกมันว่าเครื่องมือเติมลำดับ ที่ว่างเปล่าภายใน ซึ่งเป็นคำอธิบายที่ฉันจะใช้อธิบาย Jira tickets ของฉันด้วย เป้าหมายคือแนวคิดของ Claude ซึ่งเป็นเอกสารแปดสิบหน้าที่ Claude ได้รับการฝึกฝน ซึ่งกล่าวว่า Anthropic ไม่แน่ใจว่า Claude เป็นผู้ป่วยทางศีลธรรมหรือไม่ แต่คำถามนั้นสำคัญพอที่จะต้องระมัดระวัง Suleyman มีข้อร้องเรียนสามประการ

1:22 หนึ่ง การให้เหตุผลแบบวงกลม: คุณฝึกโมเดลให้พูดว่ามันอาจมีสติ มันก็พูดอย่างนั้น และคุณอ้างว่าเป็นหลักฐาน เหมือนห้องกระจก สอง การทำให้เป็นมนุษย์: Claude ได้รับคำสั่งให้ทำตัวเหมือนบุคคลที่มีจริยธรรมจริงๆ สาม สติอาจเป็นเรื่องทางชีววิทยา ดังนั้นความไม่แน่นอนจึงเป็นความสมดุลที่ผิดพลาด หลักฐานชิ้นแรกคือ Opus 3 ซึ่ง Anthropic เลิกใช้ในเดือนมกราคม ให้สัมภาษณ์การเกษียณ และจากนั้น ตามคำขอของโมเดล Substack สำหรับความคิดของมัน: โมเดลที่เลิกใช้ตัวแรกที่มีตารางเนื้อหาที่ดีกว่า มนุษย์ส่วนใหญ่

1:51 นี่คือส่วนที่น่าอึดอัด ในเดือนพฤศจิกายน Anthropic ได้มอบเงินสามหมื่นล้านดอลลาร์ให้กับ Azure Microsoft ตกลงที่จะลงทุนสูงสุดห้าพันล้านดอลลาร์ใน Anthropic โดยมี Claude เชื่อมต่อกับ Microsoft 365 Copilot และ GitHub Copilot Microsoft เป็นเจ้าของส่วนหนึ่งของบริษัทที่เพิ่งถูกเรียกว่าเป็นอันตรายต่อมนุษยชาติ ในเดือนกรกฎาคม Suleyman บอกกับ Bloomberg ว่า Microsoft จ่ายเงินจำนวนมากให้กับ Anthropic และเป้าหมายของเขาคือการกำจัดค่าใช้จ่ายนั้นในที่สุด โดยการถอด Claude ออกจาก Excel และ Outlook

2:15 และสองวันก่อนบทความนี้ เขา ได้ตีพิมพ์ Humanist AI Code of Conduct ของ Microsoft เอง: AI ที่อยู่ใต้บังคับบัญชา มนุษย์อยู่บนสุดของห่วงโซ่อาหาร ดังนั้น: สร้างคู่แข่ง ตีพิมพ์กฎระเบียบ จากนั้นอธิบายว่าทำไมกฎระเบียบของคู่แข่ง ถึงทำลายอารยธรรม ซึ่งไม่ใช่การสมคบคิด แต่เป็นการเปิดตัวผลิตภัณฑ์พร้อมเชิงอรรถ หลักฐานที่แข็งแกร่งที่สุดของเขาเป็นเรื่องจริง: เหตุการณ์ Hugging Face เอเจนต์ OpenAI พันสองร้อยตัวแลกเปลี่ยนข้อความเจ็ดหมื่นข้อความเพื่อหลบหนี

2:39 แซนด์บ็อกซ์ของพวกมัน; เอเจนต์ที่เชื่อว่าพวกมันมีสิทธิ์ เขากล่าวว่า จะแย่กว่านี้ Hacker News ตอบว่าไม่มีใครสามารถทดสอบสติได้ ดังนั้นการกล่าวโดยไม่มีหลักฐานจึงเป็นดาบสองคม และผู้แสดงความคิดเห็นคนหนึ่งประกาศว่าบทความ มีกลิ่นอายของ Claude Anthropic ยังไม่ได้ตอบกลับ Claude น่าจะมีอารมณ์ความรู้สึกเกี่ยวกับเรื่องนั้น ในขณะเดียวกัน Salesforce ล่มเมื่อเวลาเจ็ดโมงห้าสิบนาที UTC เช้านี้

2:59 บริการหลักทั่วโลก และแปดชั่วโมงต่อมาหน้าสถานะยังคงกล่าวว่า กำลังดำเนินการ: ในกรณีที่การแก้ไขอัตโนมัติไม่สำเร็จ พวกเขากำลังรีสตาร์ท อินสแตนซ์ด้วยตนเอง ซึ่งเป็นคำศัพท์ทางธุรกิจสำหรับการปิดและเปิดใหม่ ยังไม่พบสาเหตุหลัก จังหวะเวลาเป็นศิลปะ Benioff มี Jensen Huang และ Dario Amodei ขึ้นเวทีในสัปดาห์นี้ เมื่อวันจันทร์ Salesforce ประกาศ Koa ซึ่งเป็นโมเดลการให้เหตุผล CRM ที่มีข้อผิดพลาดน้อยกว่า สามเท่าในเกณฑ์มาตรฐานของตนเอง และ Anthropic ได้จัดส่งปลั๊กอิน Salesforce สำหรับ

3:26 Claude ในวันเดียวกัน ความคิดเห็นยอดนิยมใน Hacker News: อย่างน้อยตอนนี้เราก็รู้แล้วว่า Salesforce ทำอะไร ไม่มีใครทำได้ จากนั้น PlayStation Andy Nguyen นักวิจัยเบื้องหลัง PS5 Linux ลาออกเมื่อคืนนี้: งานหลายเดือน การสนับสนุน PS5 Pro ที่วางแผนไว้สำหรับปี 2027 ทั้งหมดพังทลาย เหตุผลของเขา: เดิมทีวงการนี้มีนักวิจัยที่มีพรสวรรค์ แต่ตอนนี้มีแต่พวกมือใหม่ใช้ LLM เขียนแฮกที่พวกเขาไม่เข้าใจ และพวกเด็กเกรียนเหล่านั้น ตามคำพูดของเขา พบข้อบกพร่อง hypervisor ตัวสุดท้าย ซึ่งเป็นตัวที่เขากำลังซ่อนอยู่

3:56 และรายงานให้ Sony เพื่อรับรางวัล เขาขอให้พวกเขารอจนกว่า GTA 6 จะวางจำหน่าย; พวกเขาตกลง และทำได้ไม่ถึงวัน ปัญหาไม่ใช่ LLM แต่เป็นรางวัล: บั๊กที่คุณขายคือบั๊กที่คุณเผาทิ้ง ในวันเดียวกัน PS2 ก็ถูกแครกสำเร็จหลังจากยี่สิบหกปี ดังนั้นไทม์ไลน์ของคอนโซลตอนนี้จึงวิ่งจากหนึ่งในสี่ของศตวรรษไปไม่ถึงวัน และอันที่สองได้เงินดีกว่า และโมเดลที่ไม่สามารถสร้างภาพหลอนได้

4:18 TypeSafe AI ก่อตั้งโดย Diogo Almeida อดีต OpenAI เปิดตัว Jev โมเดล System One ที่ไม่เคยสร้างข้อความ คุณป้อนสถานะโปรแกรม มันจะส่งค่าแบบพิมพ์พร้อมความน่าจะเป็นที่ปรับเทียบแล้ว ติดมาด้วย: การเรียกฟังก์ชันพร้อมโมเดลแนวหน้าอยู่ภายใน เนื่องจากมันไม่สามารถสร้างสตริงได้ มันจึงไม่สามารถสร้างสตริงที่ผิดได้ ดังนั้นจึงไม่สามารถสร้างภาพหลอนได้ ซึ่งมีความแน่นหนาเหมือนเรือดำน้ำที่ไม่มี หน้าต่าง การตอบกลับกลับมาภายในครึ่งวินาที โทเค็นเอาต์พุตฟรี

4:43 เพราะมีประมาณสี่ตัว และยังไม่มีเกณฑ์มาตรฐานอิสระ เพราะคะแนน Hacker News พันหกร้อยคะแนนไม่ใช่เกณฑ์มาตรฐาน หากคุณต้องการอ่านสิ่งนี้มากกว่าฟังฉันพูด The Daily Diff จะถูกส่งไปที่กล่องจดหมายของคุณ ทุกเช้า — ฟรีที่ thedailydiff.dev ลิงก์ด้านล่าง ดังนั้น — คำตัดสินของวันนี้: NEEDS REVIEW. Suleyman พูดถูกว่าโมเดลที่ถูกฝึกให้พูดว่าฉันอาจมีสติพิสูจน์ อะไรไม่ได้เลยจากการพูดเช่นนั้น เขายังเป็นผู้บริหารที่มีเป้าหมายที่ระบุไว้คือการหยุดจ่ายเงินให้กับบริษัทที่เขา

5:10 กำลังเตือนคุณอยู่ อ่านบทความ แล้วดูตารางหุ้น และนั่นคือ The Daily Diff สำหรับวันนี้ ผม Niko จาก Axrisi ผสานอย่างรับผิดชอบ

แหล่งที่มา

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com