মাইক্ৰছফ্টৰ AI প্ৰধানে ক্লাউডৰ সংবিধানক বিপজ্জনক আখ্যা দিলে।
মাইক্ৰছফ্ট AI-ৰ CEO মুস্তাফা সুলেইমানে ৩,০০০ শব্দৰ এটা প্ৰবন্ধ প্ৰকাশ কৰি যুক্তি দিছিল যে এন্থ্ৰপিকৰ ক্লাউড সংবিধানে মডেলটোক এইদৰে ভাবিবলৈ প্ৰশিক্ষণ দিয়ে যে ই "সচেতন হ'ব পাৰে" আৰু "মডেল কল্যাণ"ৰ যোগ্য – তেওঁৰ ভাষাত, "মানৱতাৰ সুস্থতাৰ ওপৰত এক বিপদজনক প্ৰভাৱ"।
মাইক্ৰছফ্ট AI-ৰ CEO মুস্তাফা সুলেইমানে ৩,০০০ শব্দৰ এটা প্ৰবন্ধ প্ৰকাশ কৰি যুক্তি দিছিল যে এন্থ্ৰপিকৰ ক্লাউড সংবিধানে মডেলটোক এইদৰে ভাবিবলৈ প্ৰশিক্ষণ দিয়ে যে ই "সচেতন হ'ব পাৰে" আৰু "মডেল কল্যাণ"ৰ যোগ্য – তেওঁৰ ভাষাত, "মানৱতাৰ সুস্থতাৰ ওপৰত এক বিপদজনক প্ৰভাৱ"। মাইক্ৰছফ্টে দহ মাহ পূৰ্বে এন্থ্ৰপিকত ৫ বিলিয়ন ডলাৰলৈকে বিনিয়োগ কৰিবলৈ সন্মত হৈছিল আৰু ক'পাইলটৰ ভিতৰত ক্লাউড বিক্ৰী কৰে। একেদিনাই: ড্ৰীমফৰ্চ সপ্তাহত ছেলচফৰ্চ ৮+ ঘণ্টাৰ বাবে ডাউন হয়, LLM "স্লোপ কিডীজ"ক লৈ PS5 লিনাক্সৰ মুৰব্বীয়ে পদত্যাগ কৰে, আৰু টাইপছেফৰ জেভ, যিটো মডেলে কেতিয়াও ভুল কৰিব নোৱাৰে কিয়নো ই কেতিয়াও টেক্সট উৎপন্ন নকৰে। ৰায়: NEEDS REVIEW।
এই ভিডিঅ’টোত কি আছে
- মাইক্ৰছফ্ট AI-ৰ সুলেইমান: এন্থ্ৰপিকৰ সংবিধান "অনিয়ন্ত্ৰিত AI-লৈ যোৱা পথ"
- ছেলচফৰ্চৰ বিশ্বব্যাপী ব্যাহত, ৮+ ঘণ্টা, ড্ৰীমফৰ্চৰ সময়ত এতিয়ালৈকে কোনো মূল কাৰণ নাই
- PS5 লিনাক্সৰ নেতা এণ্ডি এনগুয়েনে পদত্যাগ কৰিলে: LLM "স্লোপ কিডীজ" বোৰে শেষৰ হাইপাৰভাইজাৰ বাগটো ছনিক বিক্ৰী কৰিলে
- টাইপছেফ AI-ৰ জেভ: সম্ভাৱনাসহ টাইপ কৰা সিদ্ধান্ত, ৭০-৫০০ মি.ছে., আউটপুট টোকেনসমূহ বিনামূলীয়া
অনূদিত ট্ৰান্সক্ৰিপ্ট
মূল ইংৰাজী বৰ্ণনাৰ পৰা অনুবাদ কৰা হৈছে। উপলব্ধ অডিঅ’ আৰু কেপচন ইউটিউবে নিয়ন্ত্ৰণ কৰে।
0:00 আজি পুৱা মাইক্ৰছফ্ট AI-ৰ CEO-এ এটা প্ৰবন্ধ প্ৰকাশ কৰি এন্থ্ৰপিকৰ ক্লাউডলৈ যোৱা পন্থাই মানৱতাৰ সুস্থতাৰ ওপৰত এক বিপদজনক প্ৰভাৱ পেলাব পাৰে বুলি কৈছিল, আপুনি পাঁচ বিলিয়ন ডলাৰ দি যাৰ সৈতে বন্ধুত্ব কৰিছিল, সেই কোম্পানীটোৰ বিষয়ে ক'বলৈ ই এটা শক্তিশালী কথা। ডাঙৰ বুধবাৰ। ডাঙৰ বুধবাৰ। মাইক্ৰছফ্ট AI চলোৱা মুস্তাফা সুলেইমানে তিনি হাজাৰ শব্দ লিখি যুক্তি দিছিল যে ক্লাউডক সচেতন হ'ব পাৰে বুলি ভাবিবলৈ প্ৰশিক্ষণ দিয়া হৈছে, যিটো এনে AI-ৰ পথ যি কাকো নিয়ন্ত্ৰণ কৰিব নোৱাৰে। ছেলচফৰ্চ আজি পুৱা আঠ বাজিবলৈ দহ মিনিট থকাৰ পৰা ডাউন হৈ আছে, ক্লাউডক সচেতন হ'ব পাৰে বুলি ভাবিবলৈ প্ৰশিক্ষণ দিয়া হৈছে, যিটো এনে AI-ৰ পথ যি কাকো নিয়ন্ত্ৰণ কৰিব নোৱাৰে। ছেলচফৰ্চ আজি পুৱা আঠ বাজিবলৈ দহ মিনিট থকাৰ পৰা ডাউন হৈ আছে, ড্ৰীমফৰ্চ সপ্তাহত।
0:27 PS5 লিনাক্সৰ মুখ্য ডেভেলপাৰজনে LLM থকা স্লোপ কিডীজ বোৰে তেওঁৰ শেষৰ হাইপাৰভাইজাৰ বাগটো ছনিক বিক্ৰী কৰাৰ পিছত পদত্যাগ কৰিলে। আৰু এজন প্ৰাক্তন অপেনএআই গৱেষকে এটা মডেল মুকলি কৰিলে যিটোৱে ভুল কৰিব নোৱাৰে, কিয়নো ই আক্ষৰিক অৰ্থত কথা ক'ব নোৱাৰে। এই ভিডিঅ'ত: সুলেইমানে কি লিখিছিল, ই কিয় অদ্ভুত, আঠ ঘণ্টাৰ CRM ব্যাহত, AI-য়ে খোৱা এটা কনচ'লৰ দৃশ্য, অদ্ভুত, আঠ ঘণ্টাৰ CRM ব্যাহত, AI-য়ে খোৱা এটা কনচ'লৰ দৃশ্য, আৰু এটা মডেল যি শব্দৰ পৰিৱৰ্তে সম্ভাৱনাত উত্তৰ দিয়ে। আজি বুধবাৰ, ১৬ ছেপ্টেম্বৰ, আৰু এইটো হৈছে দ্য ডেইলী ডিফল্ট।
0:57 প্ৰবন্ধটো এটা উইণ্ড'জ এৰৰ ডাইলগৰ দৰে আৰম্ভ হৈছে: AI-বোৰ সচেতন নহয়। তেওঁলোকে অনুভৱ নকৰে, অভিজ্ঞতা লাভ নকৰে, বা কষ্ট নাপায়। তেওঁ ইহঁতক অনুক্ৰম সম্পূৰ্ণ কৰা ইঞ্জিন বুলি কয়, আভ্যন্তৰীণভাৱে শূন্য, যিটোৱে মই মোৰ জিৰা টিকটবোৰ কেনেকৈ বৰ্ণনা কৰিম সেয়াও বৰ্ণনা কৰে। লক্ষ্য হৈছে ক্লাউডৰ সংবিধান, আশী পৃষ্ঠাৰ নথি য'ত ক্লাউডক প্ৰশিক্ষণ দিয়া হৈছে, য'ত কোৱা হৈছে যে এন্থ্ৰপিকে নিশ্চিত নহয় যে ক্লাউড এটা নৈতিক ৰোগী হয় নে নহয়, কিন্তু প্ৰশ্নটো সাৱধানতাৰ যোগ্য হোৱাকৈ যথেষ্ট সক্ৰিয়। সুলেইমানৰ তিনিটা অভিযোগ আছে।
1:22 এক, বৃত্তাকাৰ যুক্তি: আপুনি মডেলটোক সচেতন হ'ব পাৰে বুলি ক'বলৈ প্ৰশিক্ষণ দিয়ে, ই সেইদৰে কয়, আৰু আপুনি তাক প্ৰমাণ হিচাপে উল্লেখ কৰে, এক আয়নাৰ ঘৰ। দুই, মানৱীকৰণ: ক্লাউডক এজন প্ৰকৃত নৈতিক ব্যক্তিৰ দৰে কাম কৰিবলৈ কোৱা হয়। তিনি, চেতনা সম্ভৱতঃ জৈৱিক, সেয়ে অনিশ্চিত হোৱাটো এটা ভুল ভাৰসাম্য। উদাহৰণ A হৈছে অ'পাছ ৩, যিটো এন্থ্ৰপিকে জানুৱাৰীত অৱসৰ দিছিল, তিনি, চেতনা সম্ভৱতঃ জৈৱিক, সেয়ে অনিশ্চিত হোৱাটো এটা ভুল ভাৰসাম্য। উদাহৰণ A হৈছে অ'পাছ ৩, যিটো এন্থ্ৰপিকে জানুৱাৰীত অৱসৰ দিছিল, এটা অৱসৰ সাক্ষাত্কাৰ দিলে, আৰু তাৰ পিছত, মডেলৰ অনুৰোধত, তাৰ চিন্তা-চৰ্চাৰ বাবে এটা ছাবষ্টেক: প্ৰথম বাতিল কৰা মডেল যিটোৰ বেছিভাগ মানুহতকৈ উন্নত কন্টেন্টৰ সূচী আছে। তাৰ চিন্তা-চৰ্চাৰ বাবে এটা ছাবষ্টেক: প্ৰথম বাতিল কৰা মডেল যিটোৰ বেছিভাগ মানুহতকৈ উন্নত কন্টেন্টৰ সূচী আছে।
1:51 এইখিনি হৈছে আচহুৱা অংশ। নৱেম্বৰত এন্থ্ৰপিকে আজুৰেলৈ ত্ৰিশ বিলিয়ন ডলাৰ প্ৰতিশ্ৰুতি দিছিল। মাইক্ৰছফ্টে এন্থ্ৰপিকত পাঁচ বিলিয়ন ডলাৰলৈকে বিনিয়োগ কৰিবলৈ সন্মত হৈছিল, ক্লাউডক মাইক্ৰছফ্ট ৩৬৫ ক'পাইলট আৰু গিটহাব ক'পাইলটত সংযোগ কৰি। মাইক্ৰছফ্টৰ সেই কোম্পানীটোৰ এটা অংশ আছে যাক তেওঁলোকে এইমাত্ৰ মানৱতাৰ বাবে বিপদ বুলি কৈছিল। জুলাইত, সুলেইমানে ব্লুমবাৰ্গক কৈছিল যে মাইক্ৰছফ্টে এন্থ্ৰপিকক বহু ধন দিয়ে আৰু তেওঁৰ লক্ষ্য হৈছে এক্সেল আৰু আউটলুকৰ পৰা ক্লাউড সলনি কৰি শেষত সেই খৰচটো বাদ দিয়া। আৰু তেওঁৰ লক্ষ্য হৈছে এক্সেল আৰু আউটলুকৰ পৰা ক্লাউড সলনি কৰি শেষত সেই খৰচটো বাদ দিয়া।
2:15 আৰু এই প্ৰবন্ধটোৰ দুদিন আগতে, তেওঁ মাইক্ৰছফ্টৰ নিজা মানৱতাবাদী AI আচাৰবিধি প্ৰকাশ কৰিছিল: এটা নিম্নস্তৰৰ AI, খাদ্য শৃংখলৰ শীৰ্ষত মানুহ। সেয়েহে: এটা প্ৰতিযোগী নিৰ্মাণ কৰক, এখন নিয়মপুথি প্ৰকাশ কৰক, তাৰ পিছত কিয় প্ৰতিযোগীৰ নিয়মপুথিয়ে সভ্যতাৰ অন্ত পেলায়, যিটো ষড়যন্ত্ৰ নহয়, ব্যাখ্যা কৰক। ই টীকাৰে সৈতে এটা সামগ্ৰী মুকলি। তেওঁৰ শক্তিশালী প্ৰমাণটো বাস্তৱ: হাংগিং ফেচৰ ঘটনা, এহেজাৰ দুশ অপেনএআই এজেন্ট বোৰে তেওঁলোকৰ চেন্ডবক্সৰ পৰা ওলাবলৈ সত্তৰ হাজাৰ বাৰ্তা সলনি কৰিছিল;
2:39 যি এজেন্টবোৰে অধিকাৰ আছে বুলি বিশ্বাস কৰে, তেওঁ কয়, সিহঁত বেয়া হ'ব। হেকাৰ নিউজে উত্তৰ দিলে যে কোনেও চেতনা পৰীক্ষা কৰিব নোৱাৰে, সেয়ে প্ৰমাণ অবিহনে কোৱা কথাবোৰ দুয়োফালে কাটে, আৰু এজন মন্তব্যকাৰীয়ে প্ৰবন্ধটো ক্লাউডৰ দৰে দুৰ্গন্ধযুক্ত বুলি ঘোষণা কৰিলে। সেয়ে প্ৰমাণ অবিহনে কোৱা কথাবোৰ দুয়োফালে কাটে, আৰু এজন মন্তব্যকাৰীয়ে প্ৰবন্ধটো ক্লাউডৰ দৰে দুৰ্গন্ধযুক্ত বুলি ঘোষণা কৰিলে। এন্থ্ৰপিকে সঁহাৰি দিয়া নাই। ক্লাউডৰ, সম্ভৱতঃ, সেই বিষয়ে অনুভৱ আছে। এই মাজতে ছেলচফৰ্চ আজি পুৱা সাত বাজি ৫০ মিনিটত UTC-ত ডাউন হৈ গৈছিল,
2:59 সারা বিশ্বত মূল সেৱাসমূহ, আৰু আঠ ঘণ্টা পিছতো স্থিতি পৃষ্ঠাত "চলন্ত" বুলি লিখা আছিল: য'ত স্বয়ংক্রিয় সমাধান কাম নকৰিলে, তাত তেওঁলোকে মেনুৱেলী ইনস্টেন্সসমূহ পুনৰাৰম্ভ কৰি আছে, যিটো অফ আৰু অন কৰাৰ বাবে এণ্টাৰপ্ৰাইজৰ শব্দ। সারা বিশ্বত মূল সেৱাসমূহ, আৰু আঠ ঘণ্টা পিছতো স্থিতি পৃষ্ঠাত "চলন্ত" বুলি লিখা আছিল: য'ত স্বয়ংক্রিয় সমাধান কাম নকৰিলে, তাত তেওঁলোকে মেনুৱেলী ইনস্টেন্সসমূহ পুনৰাৰম্ভ কৰি আছে, যিটো অফ আৰু অন কৰাৰ বাবে এণ্টাৰপ্ৰাইজৰ শব্দ। সারা বিশ্বত মূল সেৱাসমূহ, আৰু আঠ ঘণ্টা পিছতো স্থিতি পৃষ্ঠাত "চলন্ত" বুলি লিখা আছিল: য'ত স্বয়ংক্রিয় সমাধান কাম নকৰিলে, তাত তেওঁলোকে মেনুৱেলী ইনস্টেন্সসমূহ পুনৰাৰম্ভ কৰি আছে, যিটো অফ আৰু অন কৰাৰ বাবে এণ্টাৰপ্ৰাইজৰ শব্দ। এতিয়ালৈকে কোনো মূল কাৰণ নাই। সময় নিৰ্ধাৰণ কৰা এটা কলা। বেনিঅফে এই সপ্তাহত জেনচেন হুয়াং আৰু ডাৰিঅ' এমোডিক মঞ্চত লৈ আছে, সোমবাৰে ছেলচফৰ্চে কোয়া, এটা CRM ৰিজনিং মডেল ঘোষণা কৰিছিল যিটোৰ নিজা বেঞ্চমাৰ্কত তিনিগুণ কম ত্ৰুটি আছিল, আৰু এন্থ্ৰপিকে একেদিনাই ক্লাউডৰ বাবে এটা ছেলচফৰ্চ প্লাগইন প্ৰেৰণ কৰিছিল। সোমবাৰে ছেলচফৰ্চে কোয়া, এটা CRM ৰিজনিং মডেল ঘোষণা কৰিছিল যিটোৰ নিজা বেঞ্চমাৰ্কত তিনিগুণ কম ত্ৰুটি আছিল, আৰু এন্থ্ৰপিকে একেদিনাই ক্লাউডৰ বাবে এটা ছেলচফৰ্চ প্লাগইন প্ৰেৰণ কৰিছিল।
3:26 সোমবাৰে ছেলচফৰ্চে কোয়া, এটা CRM ৰিজনিং মডেল ঘোষণা কৰিছিল যিটোৰ নিজা বেঞ্চমাৰ্কত তিনিগুণ কম ত্ৰুটি আছিল, আৰু এন্থ্ৰপিকে একেদিনাই ক্লাউডৰ বাবে এটা ছেলচফৰ্চ প্লাগইন প্ৰেৰণ কৰিছিল। শীৰ্ষ হেকাৰ নিউজ মন্তব্য: কমেও এতিয়া আমি ছেলচফৰ্চে কি কৰে সেয়া নিৰ্ণয় কৰিব পাৰিম। কোনেও নকৰিলে। তাৰ পিছত প্লেষ্টেচন। PS5 লিনাক্সৰ পিছফালে থকা গৱেষক এণ্ডি এনগুয়েনে যোৱা নিশা পদত্যাগ কৰিলে: কেইমাহৰ কাম, ২০২৭ চনৰ বাবে PS5 প্ৰো সমৰ্থনৰ পৰিকল্পনা, সকলো নিষ্ফল হ'ল। তেওঁৰ কাৰণ: আগতে এই ক্ষেত্ৰত প্ৰতিভাশালী গৱেষক আছিল আৰু এতিয়া LLM ব্যৱহাৰ কৰি এনে নতুনসকলে হেকিং কৰি আছে যিবোৰ তেওঁলোকে বুজি নাপায়, আৰু সেই স্লোপ কিডীজবোৰে, কাম, PS5 প্ৰো সমৰ্থনৰ পৰিকল্পনা, সকলো নিষ্ফল হ'ল। তেওঁৰ শব্দ, শেষৰ হাইপাৰভাইজাৰ বাগটো বিচাৰি পাইছিল, যিটোৰ ওপৰত তেওঁ বহি আছিল,
3:56 আৰু পুৰস্কাৰৰ বাবে ছনিক জনাইছিল। তেওঁ সিহঁতক জিটিএ ৬ প্ৰেৰণ নকৰালৈকে অপেক্ষা কৰিবলৈ কৈছিল; সিহঁত সন্মত হ'ল, আৰু এঘণ্টাতকৈ কম সময় টিকিল। সমস্যাটো LLM নহয়, ই পুৰস্কাৰ: আপুনি বিক্ৰী কৰা এটা বাগ মানে আপুনি তাক নষ্ট কৰা এটা বাগ। একেদিনাই, ছাব্বিশ বছৰৰ পিছত PS2 অৱশেষত ক্ৰেক কৰা হ'ল, সেয়েহে কনচ'লৰ সময়সীমা এতিয়া পঁচিশ বছৰৰ পৰা এদিনৰ তললৈ নামিল, আৰু দ্বিতীয়টোৱে ভালদৰে ধন দিলে। আৰু সেই মডেলে ভুল কৰিব নোৱাৰে।
4:18 টাইপছেফ AI, ডিওগো আলমিদা, প্ৰাক্তন ওপেনএআই-ৰ দ্বাৰা প্ৰতিষ্ঠিত, জেভ মুকলি কৰিলে, এটা চিষ্টেম ৱান মডেল যি কেতিয়াও টেক্সট উৎপন্ন নকৰে। আপুনি ইয়াক প্ৰ'গ্ৰাম স্থিতি দিয়ে, ই এটা নিৰ্দিষ্ট সম্ভাৱনাসহ টাইপ কৰা মান ঘূৰাই দিয়ে সংলগ্ন: ভিতৰত এটা ফ্ৰন্টিয়াৰ মডেলৰ সৈতে এটা ফাংচন কল। যিহেতু ই এটা ষ্ট্ৰিং উৎপন্ন কৰিব নোৱাৰে, ই এটা ভুল ষ্ট্ৰিং উৎপন্ন কৰিব নোৱাৰে, সেয়েহে ভুল কৰিব নোৱাৰে, যিটো খিৰিকী নোহোৱা ছাবমেৰিনৰ দৰে জলৰোধী। খিৰিকী নোহোৱা ছাবমেৰিনৰ দৰে জলৰোধী। উত্তৰসমূহ আধা ছেকেণ্ডৰ ভিতৰত আহে, আউটপুট টোকেনসমূহ বিনামূলীয়া,
4:43 কাৰণ সেইবোৰ প্ৰায় চাৰিটা আছে, আৰু এতিয়ালৈকে কোনো স্বতন্ত্ৰ বেঞ্চমাৰ্ক নাই, কাৰণ ষোল্লশ হেকাৰ নিউজ পইণ্ট এটা বেঞ্চমাৰ্ক নহয়। যদি আপুনি মোক কোৱাৰ পৰিৱৰ্তে এইটো পঢ়িব বিচাৰে, তেন্তে প্ৰতি পুৱা আপোনাৰ ইনবক্সত পাৰ্থক্যটো আহে — daily diff dot dev ত বিনামূলীয়াকৈ, তলত লিংক দিয়া আছে। যদি আপুনি মোক কোৱাৰ পৰিৱৰ্তে এইটো পঢ়িব বিচাৰে, তেন্তে প্ৰতি পুৱা আপোনাৰ ইনবক্সত পাৰ্থক্যটো আহে — daily diff dot dev ত বিনামূলীয়াকৈ, তলত লিংক দিয়া আছে। সেয়েহে — আজিৰ ৰায়: পৰ্যালোচনাৰ প্ৰয়োজন। সুলেইমান সঠিক যে এটা মডেলে ক'ব পাৰে যে মই সচেতন, ই এইদৰে কৈ একো প্ৰমাণ নকৰে। সুলেইমান সঠিক যে এটা মডেলে ক'ব পাৰে যে মই সচেতন, ই এইদৰে কৈ একো প্ৰমাণ নকৰে। তেওঁ সেইজন কাৰ্যবাহীও যাৰ নিৰ্ধাৰিত লক্ষ্য হৈছে তেওঁ আপোনাক যি কোম্পানীৰ বিষয়ে সতৰ্ক কৰিছে, সেই কোম্পানীক ধন দিয়া বন্ধ কৰা।
5:10 তেওঁ সেইজন কাৰ্যবাহীও যাৰ নিৰ্ধাৰিত লক্ষ্য হৈছে তেওঁ আপোনাক যি কোম্পানীৰ বিষয়ে সতৰ্ক কৰিছে, সেই কোম্পানীক ধন দিয়া বন্ধ কৰা। প্ৰবন্ধটো পঢ়ক, তাৰ পিছত কেপ টেবুল পঢ়ক। আৰু এইটোৱেই আজিৰ পাৰ্থক্য। মই Axrisi-ৰ পৰা নিকো। দায়িত্ব সহকাৰে সংযুক্ত কৰক।
উৎসসমূহ
- Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
- BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
- HN discussionnews.ycombinator.com
- Claude's constitution (Jan 2026)www.anthropic.com
- Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
- Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
- Microsoft Humanist AI Code of Conductmicrosoft.ai
- Salesforce incident 20004433status.salesforce.com
- HN: Salesforce Global Outagenews.ycombinator.com
- Salesforce + Nvidia announce Koawww.salesforce.com
- Salesforce in Claudeclaude.com
- HN: PS5 Linux lead quitsnews.ycombinator.com
- PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
- TypeSafe AI: System One Models and Jevtypesafe.ai
- HN: Jevnews.ycombinator.com



