ഓപ്പൺറൂട്ടർ സീറോ ഡാറ്റ നിലനിർത്തലിൽ നിന്ന് 125 എൻഡ്പോയിന്റുകൾ നീക്കം ചെയ്തു: ഗവേഷകർ, നോവിറ്റ, ഫാല, ടുഗെദർ എന്നിവർ പറയുന്നത്
സെക്യൂരിറ്റി കമ്പനിയായ ഡ്രാഗോസിലെ ഗവേഷകർ 2026 ജൂലൈയ്ക്കും നവംബറിനും ഇടയിൽ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകൾ അയച്ചതായി റിപ്പോർട്ട് ചെയ്യുന്നു, ഓരോന്നിനും തനതായ വ്യാജ ക്രെഡൻഷ്യലും രഹസ്യ ലിങ്കും ഉണ്ടായിരുന്നു, രഹസ്യങ്ങൾ എവിടെയാണ് പുറത്തുവന്നതെന്ന് അവർ നിരീക്ഷിച്ചു.
സെക്യൂരിറ്റി കമ്പനിയായ ഡ്രാഗോസിലെ ഗവേഷകർ 2026 ജൂലൈയ്ക്കും നവംബറിനും ഇടയിൽ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകൾ അയച്ചതായി റിപ്പോർട്ട് ചെയ്യുന്നു, ഓരോന്നിനും തനതായ വ്യാജ ക്രെഡൻഷ്യലും രഹസ്യ ലിങ്കും ഉണ്ടായിരുന്നു, രഹസ്യങ്ങൾ എവിടെയാണ് പുറത്തുവന്നതെന്ന് അവർ നിരീക്ഷിച്ചു. കുറഞ്ഞത് മൂന്ന് പ്രൊവൈഡർമാരിൽ നിന്നുള്ള ഡാറ്റ ചോർന്നതായും, സീറോ ഡാറ്റ നിലനിർത്തൽ എന്ന് രേഖപ്പെടുത്തിയ ചില അഭ്യർത്ഥനകളെ ഇത് ബാധിച്ചതായും, ചില പ്രൊവൈഡർമാർ സ്വകാര്യതാ ക്രമീകരണങ്ങൾ മാനിച്ചില്ല എന്നും അവർ തെളിവുകൾ നൽകുന്നു. നവംബർ 22-ന് ഓപ്പൺറൂട്ടർ പ്രസ്താവിച്ചത്, കണ്ടെത്തലുകൾ ഓപ്പൺറൂട്ടറിന്റെ ലംഘനം കാണിക്കുന്നില്ലെന്നും, മൂന്ന് പ്രൊവൈഡർമാരെ നീക്കം ചെയ്തു എന്നും, 125 എൻഡ്പോയിന്റുകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ യോഗ്യതയിൽ നിന്ന് നീക്കം ചെയ്തു എന്നും (ചിലത് മുൻകരുതൽ എന്ന നിലയിൽ മാത്രം) സാധ്യതയുള്ള ഉപഭോക്താക്കളെ അറിയിച്ചു എന്നും, ഗവേഷകരുടെ പരിശോധനകൾ തുടർച്ചയായി നടത്താൻ അനുയോജ്യമാക്കുകയും യോഗ്യത പുനഃസ്ഥാപിക്കുന്നതിന് മുമ്പ് ഉറപ്പുകൾ ആവശ്യപ്പെടുകയും ചെയ്യുന്നു എന്നും. നീക്കം ചെയ്ത മൂന്ന് പ്രൊവൈഡർമാരുടെ പേര് അതിന്റെ പോസ്റ്റിൽ പറയുന്നില്ല; അത് നോവിറ്റ, ഫാല, ടുഗെദർ എന്നിവരിൽ നിന്നുള്ള അറിയിപ്പുകളിലേക്ക് ലിങ്ക് ചെയ്യുന്നു. 2026-05-28-നും 2026-11-11-നും ഇടയിലുള്ള ചില മിനിമാക്സ് അഭ്യർത്ഥനകൾ റൂട്ടിംഗ് കോൺഫിഗറേഷൻ പ്രശ്നം കാരണം മിനിമാക്സിന്റെ സ്വന്തം API-ലേക്ക് കൈമാറ്റം ചെയ്യപ്പെട്ടു എന്നും, ബാധിച്ച മോഡലുകൾ താൽക്കാലികമായി നിർത്തിവച്ചു എന്നും നോവിറ്റ പറയുന്നു. ഒരു ആക്രമണകാരി ഒരു ഇൻഫറൻസ് മെഷീനിന്റെ നിയന്ത്രണം ഏറ്റെടുത്തതായും ഒക്ടോബർ 21 മുതൽ നവംബർ 8 വരെ അവിടേക്ക് അയച്ച ഒരു ഡീപ്സീക്ക് മോഡലിലേക്കുള്ള അഭ്യർത്ഥനകൾ ചോർന്നതായി കണക്കാക്കണമെന്നും ഫാലയുടെ പ്രാഥമിക റിപ്പോർട്ട് പറയുന്നു, അതേസമയം ഗവേഷകരുടെ കാനറികൾ ഒക്ടോബർ 21, 22 തീയതികളിൽ മാത്രമാണ് ദുരുപയോഗം ചെയ്തത്. ഒരു AI കോഡിംഗ് ഏജന്റ് താൻ പരിശോധനയ്ക്കായി സൂക്ഷിച്ച പ്രോംപ്റ്റ് സാമ്പിളുകൾ അടങ്ങിയ ഒരു സ്വകാര്യ ശേഖരത്തിലേക്കുള്ള ഒരു ക്രെഡൻഷ്യൽ നൽകിയതായും; അനധികൃത പാർട്ടി അവ ഡൗൺലോഡ് ചെയ്യുകയും അതിനുള്ളിൽ കണ്ടെത്തിയ ക്രെഡൻഷ്യലുകൾ പരിശോധിക്കുകയും ചെയ്തു, അവയിൽ അഞ്ചെണ്ണം ഗവേഷകരുടെ കാനറികളായിരുന്നു എന്നും ടുഗെദർ പറയുന്നു. റീമാൻ ഹൈപ്പോഥസിസ് ലീൻ പ്രൂഫിനെക്കുറിച്ചുള്ള അതിന്റെ സ്വന്തം ശനിയാഴ്ച നിലയും ഈ എപ്പിസോഡ് തിരുത്തുന്നു: ലീൻ, മാത്ലിബ് കമ്മ്യൂണിറ്റികൾ നവംബർ 21-ന് 13:55 UTC-ന് ലീൻ പ്രസ്താവനയും പ്രൂഫും സാക്ഷ്യപ്പെടുത്തി, മുൻ എപ്പിസോഡ് പ്രസിദ്ധീകരിക്കുന്നതിന് ഏകദേശം തൊണ്ണൂറ് മിനിറ്റ് മുമ്പ്, നവംബർ 22-ന് 21:58 GMT+7-ന് വായിച്ച ആൻഡ്രൂ സതർലാൻഡിന്റെ MIT പേജ് ഇപ്പോഴും മുഴുവൻ താരതമ്യപ്പെടുത്തൽ റണ്ണും ലീനിന്റെ സ്വന്തം കേർണൽ റീപ്ലേയും പ്രവർത്തിക്കുന്നതായി രേഖപ്പെടുത്തിയിരുന്നു. വിധി REVERT ആണ്: വിശ്വാസം റദ്ദാക്കുക, റൂട്ടർ നിലനിർത്തുക.
എഴുതിയ പതിപ്പ് വായിക്കുക (ഇംഗ്ലീഷ്) ↗
ഈ വീഡിയോയിൽ ഉൾപ്പെടുന്ന കാര്യങ്ങൾ
- ഡ്രാഗോസ് റിപ്പോർട്ട് ചെയ്യുന്നത്, 2026 ജൂലൈ മുതൽ നവംബർ വരെ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകൾ തനതായ വ്യാജ രഹസ്യങ്ങളോടൊപ്പം അയച്ചുവെന്നും, കുറഞ്ഞത് മൂന്ന് പ്രൊവൈഡർമാരിൽ നിന്നുള്ള ഡാറ്റ ചോർന്നുവെന്നും; ചില മോഷ്ടിക്കപ്പെട്ട അഭ്യർത്ഥനകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ എന്ന് അടയാളപ്പെടുത്തിയിരുന്നു (ഡ്രാഗോസ്, നവംബർ 19).
- ഓപ്പൺറൂട്ടർ മൂന്ന് പ്രൊവൈഡർമാരെ നീക്കം ചെയ്തു എന്നും, 125 എൻഡ്പോയിന്റുകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ യോഗ്യതയിൽ നിന്ന് നീക്കം ചെയ്തു എന്നും, ബാധിക്കാൻ സാധ്യതയുള്ള ഉപഭോക്താക്കളെ അറിയിച്ചു എന്നും പറയുന്നു; നീക്കം ചെയ്ത മൂന്ന് പ്രൊവൈഡർമാരുടെ പേര് അതിന്റെ പോസ്റ്റിൽ പറയുന്നില്ല (നവംബർ 22).
- ഓപ്പൺറൂട്ടറിന്റെ ഡോക്യുമെന്റേഷൻ സീറോ ഡാറ്റ നിലനിർത്തലിനെ നിർവചിക്കുന്നത്, പ്രോസസ്സിംഗിന് ശേഷം പ്രോംപ്റ്റുകളോ പ്രതികരണങ്ങളോ പതിവായി സൂക്ഷിക്കാത്തത് എന്നാണ്, ദുരുപയോഗം സ്ക്രീനിംഗിനായി ഒരു ഒഴിവാക്കൽ ഉണ്ട്; ഈ ലേബൽ ഓരോ ഹോസ്റ്റിന്റെയും നയം ഹോസ്റ്റുമായി ചേർന്ന് ഓപ്പൺറൂട്ടർ തയ്യാറാക്കുന്നതിൽ നിന്നാണ് വരുന്നത്.
- നോവിറ്റ പറയുന്നത്, 2026-05-28 നും 2026-11-11 നും ഇടയിൽ ചില മിനിമാക്സ് അഭ്യർത്ഥനകൾ, ഓപ്പൺറൂട്ടറിലൂടെ റൂട്ട് ചെയ്ത അഭ്യർത്ഥനകൾ ഉൾപ്പെടെ, ഒരു റൂട്ടിംഗ് കോൺഫിഗറേഷൻ പ്രശ്നം കാരണം മിനിമാക്സിന്റെ സ്വന്തം API-ലേക്ക് കൈമാറ്റം ചെയ്യപ്പെട്ടു.
- ഒക്ടോബർ 21 മുതൽ നവംബർ 8 വരെ ഓപ്പൺറൂട്ടർ തങ്ങളിലേക്ക് റൂട്ട് ചെയ്ത ഒരു ഡീപ്സീക്ക് മോഡലിലേക്കുള്ള അഭ്യർത്ഥനകൾ ചോർന്നതായി കണക്കാക്കണമെന്നും; ഗവേഷകന്റെ കാനറികൾ ഒക്ടോബർ 21, 22 തീയതികളിൽ മാത്രമാണ് ദുരുപയോഗം ചെയ്തതെന്നും ഫാല പറയുന്നു.
- പരിശോധനയ്ക്കായി ഒരു സ്വകാര്യ ശേഖരത്തിൽ സൂക്ഷിച്ചിരുന്ന പ്രോംപ്റ്റ് സാമ്പിളുകൾ ഒരു AI കോഡിംഗ് ഏജന്റ് ക്രെഡൻഷ്യൽ നൽകിയതിന് ശേഷം ഡൗൺലോഡ് ചെയ്യപ്പെട്ടു എന്ന് ടുഗെദർ പറയുന്നു; ഇത് തകർന്ന സീറോ നിലനിർത്തൽ ഫ്ലാഗിൽ നിന്നുള്ള വ്യത്യസ്തമായ ഒരു പരാജയമാണ്.
- സ്വകാര്യതാ ഫ്ലാഗ് ആദ്യ ഹോപ്പിൽ മാത്രമേ ബാധകമാകൂ എന്ന് ഗവേഷകർ പറയുന്നു; നിങ്ങളുടെ സ്വന്തം അപ്സ്ട്രീം പ്രൊവൈഡർമാരെ തിരഞ്ഞെടുക്കാനും നിങ്ങളുടെ സ്വന്തം വ്യാജ ക്രെഡൻഷ്യൽ കാനറിയായി ഉപയോഗിക്കാനും അവർ നിർദ്ദേശിക്കുന്നു.
- റീമാൻ അപ്ഡേറ്റ്: ലീൻ, മാത്ലിബ് കമ്മ്യൂണിറ്റികൾ നവംബർ 21-ന് ലീൻ പ്രസ്താവനയും പ്രൂഫും സാക്ഷ്യപ്പെടുത്തി; വാദം ഉൾക്കൊള്ളാൻ സമയമെടുക്കുമെന്ന് ഗണിതശാസ്ത്രജ്ഞർ പറയുന്നു, കൂടാതെ MIT പേജ് നവംബർ 22, 21:58 GMT+7 വരെയും പൂർണ്ണ താരതമ്യപ്പെടുത്തൽ റൺ പ്രവർത്തിക്കുന്നതായി രേഖപ്പെടുത്തിയിരുന്നു.
- വിഷ്വൽ ക്രെഡിറ്റുകൾ: എച്ച്ഡി മൂറിന്റെ ഛായാചിത്രം (2018), സ്വന്തം സൃഷ്ടി, CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/), പശ്ചാത്തലം നീക്കം ചെയ്ത് ക്രോപ്പ് ചെയ്തത്, അതേ ലൈസൻസിന് കീഴിൽ പങ്കിട്ടത്; ഇത് ഡ്രാഗോസ് റിപ്പോർട്ടിന്റെ രചയിതാവിനെ മാത്രം തിരിച്ചറിയുന്നു, യാതൊരു അംഗീകാരമോ ഉദ്ധരണിയോ പ്രതികരണമോ ഇല്ല. GIPHY വഴിയുള്ള ഹോമർ സിംപ്സൺ ഹെഡ്ജ് GIF-ന്റെ നിശബ്ദ 1.4 സെക്കൻഡ് ഉദ്ധരണി; ഉടമ എല്ലാ അവകാശങ്ങളും നിലനിർത്തുന്നു, ഈ കഥയിലെ ആരും പ്രതികരിച്ചില്ല. imgflip വഴിയുള്ള മീം ടെംപ്ലേറ്റുകൾ.
ചോദ്യോത്തരങ്ങൾ
ഓപ്പൺറൂട്ടർ പോലുള്ള ഒരു റൂട്ടറിൽ സീറോ ഡാറ്റ നിലനിർത്തൽ എന്താണ് വാഗ്ദാനം ചെയ്യുന്നത്?
ഓപ്പൺറൂട്ടറിന്റെ ഡോക്യുമെന്റേഷൻ അനുസരിച്ച്, സീറോ ഡാറ്റ നിലനിർത്തൽ എന്നാൽ ചൈൽഡ് സെക്ഷ്വൽ അബ്യൂസ് മെറ്റീരിയൽ സ്ക്രീനിംഗിനുള്ള ഒരു ഒഴിവാക്കൽ ഒഴികെ, പ്രോസസ്സിംഗിന് ശേഷം പ്രോംപ്റ്റുകളോ പ്രതികരണങ്ങളോ പതിവായി സൂക്ഷിക്കില്ല എന്നാണ് അർത്ഥമാക്കുന്നത്. അക്കൗണ്ട് ക്രമീകരണങ്ങളിൽ, ഒരു ഗാർഡ്റെയിലിലോ അല്ലെങ്കിൽ ഓരോ അഭ്യർത്ഥനയിലും ഇത് നടപ്പിലാക്കുമ്പോൾ, അഭ്യർത്ഥനകൾ ഒന്നും സൂക്ഷിക്കുന്നില്ലെന്ന് പറയുന്ന ഹോസ്റ്റുകളുടെ എൻഡ്പോയിന്റുകളിലേക്ക് മാത്രമേ പോകുകയുള്ളൂ. ഓരോ പ്രൊവൈഡറിന്റെയും ഡാറ്റ നയങ്ങൾ മനസ്സിലാക്കാൻ ഓപ്പൺറൂട്ടർ പ്രൊവൈഡർമാരുമായി ചേർന്ന് പ്രവർത്തിക്കുന്നു എന്നും ഡോക്യുമെന്റേഷൻ പറയുന്നു. എൻഫോഴ്സ്മെന്റ് പ്രൊവൈഡർ റൂട്ടിംഗിനെയാണ് ഉൾക്കൊള്ളുന്നത്, പ്ലഗിനുകളെയും വെബ് സെർച്ച് പോലുള്ള ടൂളുകളെയും അല്ല, അവയ്ക്ക് അവരുടേതായ നയങ്ങളുണ്ട്.
സീറോ ഡാറ്റ നിലനിർത്തൽ പ്രൊവൈഡർമാർ മാനിക്കുന്നുണ്ടോ എന്ന് ഗവേഷകർ എങ്ങനെയാണ് പരിശോധിച്ചത്?
ഡ്രാഗോസ് റിപ്പോർട്ട് ചെയ്യുന്നത്, 2026 ജൂലൈയ്ക്കും നവംബറിനും ഇടയിൽ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകൾ അയച്ചുവെന്നും, ഓരോന്നിനും തനതായ വ്യാജ ക്രെഡൻഷ്യലും രഹസ്യ വെബ് ലിങ്കും ഉണ്ടായിരുന്നു, അത് മറ്റൊരിടത്തും നിലവിലില്ല. അതിൻ്റെ ഏതെങ്കിലും തുടർന്നുള്ള ഉപയോഗം ഏത് പ്രോംപ്റ്റ് ചോർന്നു, ഏത് റൂട്ടും സ്വകാര്യതാ ക്രമീകരണവുമാണ് അത് വഹിച്ചതെന്ന് കാണിക്കുന്നു. മറഞ്ഞിരിക്കുന്ന ഹോപ്പുകൾ കണ്ടെത്താൻ ടീം AI ഇൻഫറൻസിനായുള്ള ഒരു ട്രെയ്സറൂട്ടും നിർമ്മിച്ചു. ചില മോഷ്ടിക്കപ്പെട്ട അഭ്യർത്ഥനകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ എന്ന് അടയാളപ്പെടുത്തിയിരുന്നു എന്നും ഒരു സ്വകാര്യതാ ഫ്ലാഗ് ആദ്യ ഹോപ്പിനെ മാത്രമേ ബന്ധിപ്പിക്കൂ എന്നും ഡ്രാഗോസ് പറയുന്നു.
നോവിറ്റ, ഫാല, ടുഗെദർ എന്നിവർ ഓരോരുത്തരും എന്താണ് സംഭവിച്ചതെന്ന് പറഞ്ഞത്?
നോവിറ്റ പറയുന്നത്, മെയ് 28-നും നവംബർ 11-നും ഇടയിലുള്ള ചില മിനിമാക്സ് അഭ്യർത്ഥനകൾ ഒരു റൂട്ടിംഗ് കോൺഫിഗറേഷൻ പ്രശ്നം കാരണം മിനിമാക്സിന്റെ സ്വന്തം API-ലേക്ക് കൈമാറ്റം ചെയ്യപ്പെട്ടു എന്നും, അത് ബാധിച്ച മോഡലുകൾ താൽക്കാലികമായി നിർത്തിവച്ചു എന്നും. ഒരു ആക്രമണകാരി ഒരു ഇൻഫറൻസ് മെഷീന്റെ നിയന്ത്രണം ഏറ്റെടുത്തതായും, ഒക്ടോബർ 21 മുതൽ നവംബർ 8 വരെ അവിടേക്ക് റൂട്ട് ചെയ്ത ഒരു ഡീപ്സീക്ക് മോഡലിലേക്കുള്ള അഭ്യർത്ഥനകൾ ചോർന്നതായി കണക്കാക്കണമെന്നും ഫാലയുടെ പ്രാഥമിക റിപ്പോർട്ട് പറയുന്നു. ഒരു AI കോഡിംഗ് ഏജന്റ് ഒരു ക്രെഡൻഷ്യൽ നൽകിയതിന് ശേഷം പരിശോധനയ്ക്കായി സൂക്ഷിച്ചിരുന്ന പ്രോംപ്റ്റ് സാമ്പിളുകൾ ഡൗൺലോഡ് ചെയ്യപ്പെട്ടു എന്ന് ടുഗെദർ പറയുന്നു.
ഡ്രാഗോസ് റിപ്പോർട്ടിന് ശേഷം ഓപ്പൺറൂട്ടർ എന്ത് ചെയ്തു, ഒരു ബിൽഡർക്ക് എന്ത് പരിശോധിക്കാൻ കഴിയും?
ഓപ്പൺറൂട്ടർ പറയുന്നത്, മൂന്ന് പ്രൊവൈഡർമാരെ നീക്കം ചെയ്തു എന്നും, 125 എൻഡ്പോയിന്റുകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ യോഗ്യതയിൽ നിന്ന് നീക്കം ചെയ്തു എന്നും, ചിലത് മുൻകരുതൽ എന്ന നിലയിൽ മാത്രം, ബാധിക്കാൻ സാധ്യതയുള്ള ഉപഭോക്താക്കളെ അറിയിക്കുകയും ചെയ്തു എന്നും. നീക്കം ചെയ്ത മൂന്ന് പ്രൊവൈഡർമാരുടെ പേര് അതിന്റെ പോസ്റ്റിൽ പറയുന്നില്ല. ഗവേഷകരുടെ പരിശോധനകൾ തുടർച്ചയായി നടത്താൻ ഇത് അനുയോജ്യമാക്കുന്നു. ബിൽഡർമാർക്ക് അവരുടെ ഓപ്പൺറൂട്ടർ സ്വകാര്യതാ ക്രമീകരണങ്ങളും ഗാർഡ്റെയിലുകളും അവലോകനം ചെയ്യാനും, പൊതുവായ എൻഡ്പോയിന്റ് പട്ടിക പരിശോധിക്കാനും, ഗവേഷകർ നിർദ്ദേശിക്കുന്നത് പോലെ അപ്സ്ട്രീം പ്രൊവൈഡർമാരെ സ്വയം തിരഞ്ഞെടുക്കാനും, നോവിറ്റയും ഫാലയും ഉപദേശിക്കുന്നത് പോലെ ബാധിച്ച അഭ്യർത്ഥനകളിലെ രഹസ്യങ്ങൾ മാറ്റാനും കഴിയും.
സീറോ ഡാറ്റ നിലനിർത്തൽ കഥയിൽ ദി ഡെയ്ലി ഡിഫിന്റെ വിധി എന്തായിരുന്നു?
ദി ഡെയ്ലി ഡിഫിന്റെ വിധി REVERT ആയിരുന്നു: വിശ്വാസം റദ്ദാക്കുക, റൂട്ടർ നിലനിർത്തുക. പ്രോംപ്റ്റുകൾ യഥാർത്ഥത്തിൽ പോകുന്നിടത്ത് ആരെങ്കിലും പരിശോധിക്കുന്നത് വരെ ഒരു സീറോ ഡാറ്റ നിലനിർത്തൽ ഫ്ലാഗ് ഒരു വാഗ്ദാനമാണ്, കൂടാതെ ഓപ്പൺറൂട്ടറിന്റെ തുടർച്ചയായ പരിശോധനകൾ നിലവിലില്ലാത്തതിനാൽ, ബിൽഡറാണ് ടെസ്റ്റർ. ഈ വിധി ലേബലിൽ പരിശോധിക്കാതെ ആശ്രയിക്കുന്നതിന് ബാധകമാണ്, ഓപ്പൺറൂട്ടറിന്റെ പ്രതികരണത്തിനല്ല, അത് പ്രഖ്യാപിച്ചതും എന്നാൽ ഇതുവരെ നടപ്പിലാക്കാത്തതുമായ ശരിയായ നടപടികളാണെന്ന് എപ്പിസോഡ് വിവരിക്കുന്നു.
വിവർത്തനം ചെയ്ത ട്രാൻസ്ക്രിപ്റ്റ്
യഥാർത്ഥ ഇംഗ്ലീഷ് ആഖ്യാനത്തിൽ നിന്ന് വിവർത്തനം ചെയ്തത്. ലഭ്യമായ ഓഡിയോയും അടിക്കുറിപ്പുകളും YouTube നിയന്ത്രിക്കുന്നു.
ഗവേഷകർ പ്രോംപ്റ്റുകളിൽ എന്താണ് ഒളിപ്പിച്ചത്?
0:00 നിങ്ങൾ സീറോ ഡാറ്റ നിലനിർത്തൽ ഓണാക്കി, അതിനാൽ നിങ്ങളുടെ പ്രോംപ്റ്റ് ആരും സൂക്ഷിക്കുന്നില്ലെന്ന് നിങ്ങൾ കരുതുന്നു. ഗവേഷകർ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകളിൽ വ്യാജ രഹസ്യങ്ങൾ ഒളിപ്പിച്ചു, പിന്നീട് അപരിചിതർ സീറോ നിലനിർത്തൽ എന്ന് അടയാളപ്പെടുത്തിയ പ്രോംപ്റ്റുകളിൽ നിന്ന് രഹസ്യങ്ങൾ ഉപയോഗിക്കാൻ ശ്രമിച്ചു. ഈ വീഡിയോയിൽ, സീറോ നിലനിർത്തൽ വാഗ്ദാനം എങ്ങനെ പരാജയപ്പെടുന്നു? നിങ്ങളുടെ ഭാഗത്തുനിന്ന് നിങ്ങൾക്ക് എന്തെല്ലാം പരിശോധിക്കാൻ കഴിയും? ഈ ആഴ്ച നിങ്ങൾ എന്താണ് മാറ്റേണ്ടത്? ഒന്നാമത്തെ അറിയിപ്പിൽ ഒരു AI കോഡിംഗ് ഏജന്റ് അതിന് കാരണമായ ക്രെഡൻഷ്യൽ നൽകിയെന്ന് പറയുന്നു. ഞാൻ നിങ്ങൾക്ക് ഏത് അറിയിപ്പാണെന്നും, പിന്നീട് എന്ത് സംഭവിച്ചുവെന്നും പറയാം,
0:25 വിധിക്ക് മുമ്പ്. ഇത് നവംബർ ഇരുപത്തിരണ്ടാം തീയതി ഞായറാഴ്ചയാണ്, ഇത് ദി ഡെയ്ലി ഡിഫ് ആണ്. ഓപ്പൺറൂട്ടർ ഒരു റൂട്ടറാണ്, നിരവധി മോഡലുകൾക്കും അവ ഹോസ്റ്റ് ചെയ്യുന്ന കമ്പനികൾക്കും മുന്നിൽ ഒരു API ആണ്.
സീറോ ഡാറ്റ നിലനിർത്തൽ എന്താണ് വാഗ്ദാനം ചെയ്യുന്നത്?
0:34 പ്രോസസ്സിംഗിന് ശേഷം ഒന്നും സൂക്ഷിക്കുന്നില്ലെന്ന് പറയുന്ന ഹോസ്റ്റുകളിലേക്ക് മാത്രമേ അതിന്റെ സീറോ ഡാറ്റ നിലനിർത്തൽ ക്രമീകരണം നിങ്ങളുടെ അഭ്യർത്ഥന അയയ്ക്കൂ. ഓപ്പൺറൂട്ടർ ഓരോ ഹോസ്റ്റിന്റെയും നയം ഹോസ്റ്റുമായി ചേർന്ന് തയ്യാറാക്കുന്നതിൽ നിന്നാണ് ആ ലേബൽ വരുന്നത്. സെക്യൂരിറ്റി കമ്പനിയായ ഡ്രാഗോസ് ഈ വാഗ്ദാനം പരീക്ഷിച്ചു. ജൂലൈ മുതൽ നവംബർ വരെ അതിന്റെ ടീം ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകൾ അയച്ചു,
ഗവേഷകർ ഇത് എങ്ങനെ കണ്ടെത്തി?
0:47 ഓരോന്നിനും അതിൻ്റേതായ വ്യാജ ക്രെഡൻഷ്യലും രഹസ്യ വെബ് ലിങ്കും. ആരെങ്കിലും ഒന്ന് ഉപയോഗിക്കുകയാണെങ്കിൽ, ഏത് പ്രോംപ്റ്റ് ചോർന്നു, ഏത് റൂട്ടും സ്വകാര്യതാ ക്രമീകരണവുമാണ് അത് വഹിച്ചതെന്ന് നിങ്ങൾക്ക് കൃത്യമായി അറിയാം. ഏറ്റവും വിചിത്രമായ ഫലം ഒരു ചാറ്റ് സന്ദേശമാണ്. സീറോ റീടെൻഷൻ ഫ്ലാഗോടുകൂടി ഒരു ടെസ്റ്റ് പ്രോംപ്റ്റ് അയച്ചതിന് ഇരുപത്തിനാല് ദിവസത്തിന് ശേഷം, അതിൻ്റെ രഹസ്യ ലിങ്ക് ചൈനയിലെ ഒരു കമ്പനി ചാറ്റിൽ പേസ്റ്റ് ചെയ്യപ്പെടുകയും, ആറ് ഉപകരണങ്ങളിൽ നിന്ന് രണ്ട് മിനിറ്റിനുള്ളിൽ തുറക്കുകയും ചെയ്തതായി ഗവേഷകർ പറയുന്നു. പ്രോംപ്റ്റിന്റെ സംഭരിച്ച പകർപ്പ് ആരോ വായിക്കുകയായിരുന്നു എന്ന് അവർ നിഗമനം ചെയ്യുന്നു. നോവിറ്റയുടെ സെർവറുകളിൽ പ്രവർത്തിപ്പിക്കുന്നതിന് പകരം, മെയ് ഇരുപത്തിയെട്ടാം തീയതി മുതൽ നവംബർ പതിനൊന്നാം തീയതി വരെ ചില മിനിമാക്സ് അഭ്യർത്ഥനകൾ മിനിമാക്സിന്റെ സ്വന്തം API-ലേക്ക് കൈമാറ്റം ചെയ്യപ്പെട്ടതായി നോവിറ്റ പറയുന്നു,
1:14 ഓപ്പൺറൂട്ടറിലൂടെ റൂട്ട് ചെയ്ത അഭ്യർത്ഥനകളും ഇതിൽ ഉൾപ്പെടുന്നു.
പ്രൊവൈഡർമാർ എന്ത് സമ്മതിച്ചു?
1:18 അതിനെ ഒരു റൂട്ടിംഗ് കോൺഫിഗറേഷൻ പ്രശ്നമെന്ന് വിളിക്കുകയും, ബാധിച്ച മോഡലുകൾ താൽക്കാലികമായി നിർത്തുകയും ചെയ്തു. ഫാലയുടെ പരാജയം വ്യത്യസ്തമാണ്. ഒരു ആക്രമണകാരി പഴയകാലത്തെ ഇന്റർനെറ്റ് അധിഷ്ഠിത സേവനത്തെ മാനേജ്മെന്റ് ഇന്റർഫേസുകളുമായി ബന്ധിപ്പിച്ചു, അത് പ്രാദേശിക കോൾ ചെയ്യുന്നവരെ വിശ്വസിച്ചിരുന്നു, തുടർന്ന് പൂർണ്ണമായ ഹാർഡനിംഗ് ഇല്ലാതെ പ്രൊഡക്ഷൻ ട്രാഫിക്ക് സേവിക്കുന്ന ഒരു പുതിയ GPU സെർവറിലെ ഒരു ഇൻഫറൻസ് മെഷീന്റെ നിയന്ത്രണം ഏറ്റെടുത്തു. ഒക്ടോബർ ഇരുപത്തിയൊന്നാം തീയതി മുതൽ നവംബർ എട്ടാം തീയതി വരെ ഓപ്പൺറൂട്ടർ അവിടേക്ക് റൂട്ട് ചെയ്ത ഒരു ഡീപ്സീക്ക് മോഡലിലേക്കുള്ള അഭ്യർത്ഥനകൾ ചോർന്നതായി കണക്കാക്കണമെന്നും ഫാല പറയുന്നു, എങ്കിലും ആദ്യ രണ്ട് ദിവസത്തെ ഗവേഷകരുടെ കാനറികൾ മാത്രമാണ് പിന്നീട് ദുരുപയോഗം ചെയ്തത്. ഓപ്പൺറൂട്ടർ പറയുന്നു ഇത് ഓപ്പൺറൂട്ടറിന്റെ ലംഘനമല്ലായിരുന്നു. ഇത് മൂന്ന് പ്രൊവൈഡർമാരെ നീക്കം ചെയ്തു, നൂറ്റിയിരുപത്തിയഞ്ച് എൻഡ്പോയിന്റുകൾ സീറോ റീടെൻഷൻ യോഗ്യതയിൽ നിന്ന് നീക്കം ചെയ്തു, ചിലത് മുൻകരുതൽ എന്ന നിലയിൽ മാത്രം, ബാധിക്കാൻ സാധ്യതയുള്ളതായി കരുതുന്ന ഉപഭോക്താക്കളെ അറിയിക്കുകയും ചെയ്തു.
1:43 ഗവേഷകരുടെ ടെസ്റ്റുകൾ തുടർച്ചയായി നടത്താൻ ഇത് അനുയോജ്യമാക്കുമെന്നും പറയുന്നു, നീക്കം ചെയ്ത ഏതെങ്കിലും എൻഡ്പോയിന്റുകൾക്ക് സീറോ റീടെൻഷൻ സ്റ്റാറ്റസ് പുനഃസ്ഥാപിക്കുന്നതിന് മുമ്പ് ഉറപ്പുകൾ ആവശ്യപ്പെടുകയും ചെയ്യും. മൂന്ന് പ്രൊവൈഡർമാർ ലിസ്റ്റിൽ നിന്ന് പുറത്തുപോയി, ഏതൊക്കെയാണെന്ന് പോസ്റ്റിൽ പറയുന്നില്ല. പോസ്റ്റ് മൂന്ന് അറിയിപ്പുകളിലേക്ക് ലിങ്ക് ചെയ്യുന്നു, ബാധിക്കപ്പെട്ട എല്ലാ പ്രൊവൈഡർമാരും ഒന്ന് പ്രസിദ്ധീകരിച്ചിട്ടില്ലെന്ന് പറയുന്നു, കൂടാതെ ഹാക്കർ ന്യൂസ് കമന്റേറ്റർമാർക്ക് പേരുകൾ വേണം. ഒരു സ്വകാര്യതാ ഫ്ലാഗ് ആദ്യ ഹോപ്പിനെ മാത്രമേ ബന്ധിപ്പിക്കൂ എന്ന് ഗവേഷകർ പറയുന്നു.
ഓപ്പൺറൂട്ടർ എന്ത് ചെയ്തു?
2:02 AI ഇൻഫറൻസിനായുള്ള അവരുടെ ട്രെയ്സറൂട്ട് ആരും പരസ്യം ചെയ്യാത്ത അധിക ലെയറുകൾ കണ്ടെത്തി, ഒരുപിടി ട്രെയ്സുകൾ അവരുടെ ടെസ്റ്റ് ചിത്രം പരസ്യം ചെയ്ത പാതയിലില്ലാത്ത ഒരു കമ്പനിക്ക് അയച്ചു. നിങ്ങൾക്ക് സ്വയം എന്ത് പരിശോധിക്കാൻ കഴിയും? ഓപ്പൺറൂട്ടറിന്റെ ഡോക്യുമെന്റേഷനിൽ പറയുന്നത്, ക്രമീകരണങ്ങളും ഗാർഡ്റെയിലുകളും സീറോ റീടെൻഷൻ നിർബന്ധമാക്കുന്നുണ്ടോ എന്ന് തീരുമാനിക്കുന്നു, കൂടാതെ യോഗ്യതയുള്ള എൻഡ്പോയിന്റുകളുടെ പട്ടിക പൊതുവാണ്. നിങ്ങളുടെ അപ്സ്ട്രീം പ്രൊവൈഡർമാരെ സ്വയം തിരഞ്ഞെടുക്കാനും, നിങ്ങളുടെ ഏജന്റുകൾ അയയ്ക്കുന്നവയിൽ നിങ്ങളുടെ സ്വന്തം സൗജന്യ വ്യാജ ക്രെഡൻഷ്യൽ ഇടാനും, അതിൻ്റെ ഏതൊരു ഉപയോഗവും ഒരു സംഭവമായി കണക്കാക്കാനും ഗവേഷകർ നിർദ്ദേശിക്കുന്നു.
2:28 ബാധിക്കപ്പെട്ട അഭ്യർത്ഥനകളിലെ ഏതെങ്കിലും രഹസ്യങ്ങൾ മാറ്റണമെന്ന് നോവിറ്റയും ഫാലയും പറയുന്നു. ഇപ്പോൾ ഞാൻ വാഗ്ദാനം ചെയ്ത അറിയിപ്പ്.
ഫ്ലാഗ് യഥാർത്ഥത്തിൽ എന്താണ് ഉൾക്കൊള്ളുന്നത്?
2:35 സ്വകാര്യ ഹഗ്ഗിംഗ് ഫേസ് ശേഖരത്തിൽ പരിശോധനയ്ക്കായി പ്രോംപ്റ്റ് സാമ്പിളുകൾ സൂക്ഷിച്ചിരുന്നു എന്ന് ടുഗെദർ പറയുന്നു. ഒരു പൊതു ശേഖരം നിർമ്മിക്കുന്നതിനിടെ, ഒരു AI കോഡിംഗ് ഏജന്റ് സ്വകാര്യ ശേഖരത്തിലേക്കുള്ള ഒരു ക്രെഡൻഷ്യൽ നൽകി. കമ്മിറ്റ് തിരികെ ലഭിച്ചു, പക്ഷേ ആ സമയത്തിനുള്ളിൽ ഒരു അനധികൃത പാർട്ടി സാമ്പിളുകൾ ഡൗൺലോഡ് ചെയ്യുകയും അതിനുള്ളിൽ കണ്ടെത്തിയ ക്രെഡൻഷ്യലുകൾ പരിശോധിക്കുകയും ചെയ്തു.
ഈ ആഴ്ച നിങ്ങൾ എന്താണ് പരിശോധിക്കേണ്ടത്?
2:45 അഞ്ചെണ്ണം ഗവേഷകരുടെ വ്യാജങ്ങളായിരുന്നു. സാമ്പിളുകൾ മനഃപൂർവ്വം സൂക്ഷിച്ചതാണ്, അതിനാൽ ഇത് വ്യത്യസ്ത തരത്തിലുള്ള ഒരു നിലനിർത്തൽ പരാജയമാണ്. ടുഗെദർ ഇപ്പോൾ പുതിയ അക്കൗണ്ടുകൾക്ക് സീറോ നിലനിർത്തൽ സ്ഥിരസ്ഥിതിയാക്കുന്നു. ഒരു കാര്യം കൂടി, കാരണം ഇന്നലത്തെ കഥ മാറി. റീമാൻ പ്രൂഫിൻ്റെ താരതമ്യപ്പെടുത്തൽ റൺ ശനിയാഴ്ച ഉച്ചയ്ക്ക് ശേഷവും നടന്നുകൊണ്ടിരിക്കുകയായിരുന്നു എന്ന് ഇന്നലത്തെ വീഡിയോയിൽ ഞാൻ നിങ്ങളോട് പറഞ്ഞു. ലീൻ, മാത്ലിബ് കമ്മ്യൂണിറ്റികൾ ഒരുമിച്ച് ഒരു പ്രസ്താവന ഇതിനകം പുറത്തുവിട്ടിരുന്നു, അത് പുറത്തുവരുന്നതിന് ഏകദേശം തൊണ്ണൂറ് മിനിറ്റ് മുമ്പ്, കെവിൻ ബസ്സാർഡിൻ്റെ നാല് മാനദണ്ഡങ്ങളും പാലിക്കപ്പെടുന്നു എന്ന് പ്രസ്താവിച്ചു. അതുകൊണ്ട് നിങ്ങൾ കണ്ടപ്പോൾ ആ നില കാലഹരണപ്പെട്ടതായിരുന്നു. പ്രൂഫിലെ സിദ്ധാന്തം മാത്ലിബിൻ്റെ സ്വന്തം സിദ്ധാന്തം തന്നെയാണെന്ന് പ്രസ്താവന പറയുന്നു, രണ്ട് സ്വതന്ത്ര താരതമ്യ ഉപകരണങ്ങൾ ഇത് സ്ഥിരീകരിച്ചു.
ഏത് നോട്ടീസാണ് ഒരു കോഡിംഗ് ഏജന്റിന്റെ പേര് പറയുന്നത്?
3:07 നിരവധി പരിശോധകർ പിന്നീട് എക്സ്പോർട്ട് ചെയ്ത പ്രൂഫ് സ്വീകരിച്ചു. അവയിൽ രണ്ടെണ്ണം സെറ്റ് തിയറിയുമായി ബന്ധപ്പെട്ട്, തെറ്റായ പ്രൂഫ് സ്വീകരിക്കാൻ കഴിയില്ല എന്നതിൻ്റെ ഒരു ഔപചാരിക പ്രൂഫുമായി വരുന്നു, കൂടാതെ പരിശോധനകൾ ക്ഷുദ്രകരമായ കോഡിന് സ്പർശിക്കാൻ കഴിയാത്ത ഒരു നിഷ്ക്രിയ പകർപ്പിലാണ് നടന്നത്. ശനിയാഴ്ച സ്കോട്ട് ആരോൺസൺ തൻ്റെ പോസ്റ്റിൽ പ്രൂഫ് ശരിയാണെന്ന് ഒരു അപ്ഡേറ്റ് ചേർത്തു. വെള്ളിയാഴ്ച ടെറൻസ് ടാവോ എഴുതിയത്, ദഹന പ്രക്രിയയ്ക്ക് കുറച്ച് സമയമെടുക്കുമെന്ന് താൻ കരുതുന്നു എന്നാണ്. പ്രതിയോഗിയായ മനുഷ്യ ഡ്രാഫ്റ്റ് പോസ്റ്റ് ചെയ്ത രവി വകിൽ പറയുന്നത്, തൻ്റെ പ്രൂഫ് സ്ട്രാറ്റജിയുടെ കൃത്യതയെക്കുറിച്ച് തനിക്ക് യാതൊരു അവകാശവാദവുമില്ലെന്നാണ്. ഇന്ന് രാത്രി പത്തിന് തൊട്ടുമുമ്പ് ഞാൻ ആൻഡ്രൂ സതർലാൻഡിന്റെ പേജ് വായിച്ചപ്പോൾ, ബാങ്കോക്ക് സമയം, അത് അവസാനമായി അപ്ഡേറ്റ് ചെയ്തത് ഇന്ന് രാത്രി ഒമ്പത് പത്തിനാണെന്ന് പറഞ്ഞു. അത് ഇപ്പോഴും മുഴുവൻ താരതമ്യപ്പെടുത്തൽ റണ്ണും ലീനിന്റെ സ്വന്തം കേർണൽ റീപ്ലേയും പ്രവർത്തിക്കുന്നതായി രേഖപ്പെടുത്തിയിരുന്നു,
റീമാൻ പരിശോധന പൂർത്തിയായോ?
3:33 അതിൻ്റെ പ്രസ്താവന പരിശോധന ഇതിനകം പാസായിട്ടുണ്ട്. ഞാൻ പറയുന്നത് കേൾക്കുന്നതിലും ഇത് വായിക്കാനാണ് നിങ്ങൾക്ക് താൽപ്പര്യമെങ്കിൽ, എല്ലാ ദിവസവും രാവിലെ നിങ്ങളുടെ ഇൻബോക്സിൽ ഡിഫ് വരുന്നു, daily diff dot dev-ൽ സൗജന്യമായി, ലിങ്ക് താഴെ. അതുകൊണ്ട് സീറോ റീടെൻഷൻ കഥയിലെ ഇന്നത്തെ വിധി REVERT ആണ്. ഞാൻ വിശ്വാസം റദ്ദാക്കുകയും റൂട്ടർ നിലനിർത്തുകയും ചെയ്യും. നിങ്ങളുടെ പ്രോംപ്റ്റുകൾ യഥാർത്ഥത്തിൽ പോകുന്നിടത്ത് ആരെങ്കിലും പരിശോധിക്കുന്നത് വരെ ഒരു സീറോ നിലനിർത്തൽ ഫ്ലാഗ് ഒരു വാഗ്ദാനമാണ്, കൂടാതെ ഓപ്പൺറൂട്ടറിന്റെ തുടർച്ചയായ പരിശോധനകൾ നിലവിലില്ലാത്തതിനാൽ, ആ വ്യക്തി നിങ്ങളാണ്. സബ്സ്ക്രൈബ് ചെയ്യുക, ബെൽ അടിക്കുക, നിങ്ങൾ ഇത് വ്യത്യസ്തമായി സ്റ്റാമ്പ് ചെയ്യുമായിരുന്നോ എന്ന് കമന്റുകളിൽ എന്നോട് പറയുക. അതാണ് ഇന്നത്തെ ഡിഫ്. ഞാൻ ആക്സിറിസിയിൽ നിന്ന് നിക്കോ.
3:56 ഉത്തരവാദിത്തത്തോടെ ലയിപ്പിക്കുക. സീറോ ഡാറ്റ നിലനിർത്തൽ ഒരു റൂട്ടറിൽ, ഓപ്പൺറൂട്ടർ പോലെ, എന്താണ് വാഗ്ദാനം ചെയ്യുന്നത്? ഓപ്പൺറൂട്ടറിന്റെ ഡോക്യുമെന്റേഷൻ പറയുന്നത്, സീറോ ഡാറ്റ നിലനിർത്തൽ എന്നത്, ചൈൽഡ് സെക്ഷ്വൽ അബ്യൂസ് മെറ്റീരിയൽ സ്ക്രീനിംഗിനുള്ള ഒരു ഒഴിവാക്കൽ ഒഴികെ, പ്രോസസ്സിംഗിന് ശേഷം പ്രോംപ്റ്റുകളോ പ്രതികരണങ്ങളോ പതിവായി സൂക്ഷിക്കാത്തതിനെയാണ് അർത്ഥമാക്കുന്നത് എന്നാണ്. അക്കൗണ്ട് ക്രമീകരണങ്ങളിലോ, ഒരു ഗാർഡ്റെയിലിലോ, അല്ലെങ്കിൽ ഓരോ അഭ്യർത്ഥനയിലും ഇത് നടപ്പിലാക്കുമ്പോൾ, അഭ്യർത്ഥനകൾ ഒന്നും സൂക്ഷിക്കുന്നില്ലെന്ന് പറയുന്ന ഹോസ്റ്റുകളുടെ എൻഡ്പോയിന്റുകളിലേക്ക് മാത്രമേ പോകുകയുള്ളൂ. ഓരോ പ്രൊവൈഡറിന്റെയും ഡാറ്റ നയങ്ങൾ മനസ്സിലാക്കാൻ ഓപ്പൺറൂട്ടർ പ്രൊവൈഡർമാരുമായി ചേർന്ന് പ്രവർത്തിക്കുന്നു എന്നും ഡോക്യുമെന്റേഷൻ പറയുന്നു. എൻഫോഴ്സ്മെന്റ് പ്രൊവൈഡർ റൂട്ടിംഗിനെയാണ് ഉൾക്കൊള്ളുന്നത്, പ്ലഗിനുകളെയും വെബ് സെർച്ച് പോലുള്ള ടൂളുകളെയും അല്ല, അവയ്ക്ക് അവരുടേതായ നയങ്ങളുണ്ട്. പ്രൊവൈഡർമാർ സീറോ ഡാറ്റ നിലനിർത്തൽ മാനിക്കുന്നുണ്ടോ എന്ന് ഗവേഷകർ എങ്ങനെയാണ് പരിശോധിച്ചത്? ഡ്രാഗോസ് റിപ്പോർട്ട് ചെയ്യുന്നത്, 2026 ജൂലൈയ്ക്കും നവംബറിനും ഇടയിൽ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകൾ അയച്ചുവെന്നും, ഓരോന്നിനും തനതായ വ്യാജ ക്രെഡൻഷ്യലും രഹസ്യ വെബ് ലിങ്കും ഉണ്ടായിരുന്നു, അത് മറ്റൊരിടത്തും നിലവിലില്ല. അതിൻ്റെ ഏതെങ്കിലും തുടർന്നുള്ള ഉപയോഗം ഏത് പ്രോംപ്റ്റ് ചോർന്നു, ഏത് റൂട്ടും സ്വകാര്യതാ ക്രമീകരണവുമാണ് അത് വഹിച്ചതെന്ന് കാണിക്കുന്നു. മറഞ്ഞിരിക്കുന്ന ഹോപ്പുകൾ കണ്ടെത്താൻ ടീം AI ഇൻഫറൻസിനായുള്ള ഒരു ട്രെയ്സറൂട്ടും നിർമ്മിച്ചു. ചില മോഷ്ടിക്കപ്പെട്ട അഭ്യർത്ഥനകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ എന്ന് അടയാളപ്പെടുത്തിയിരുന്നു എന്നും ഒരു സ്വകാര്യതാ ഫ്ലാഗ് ആദ്യ ഹോപ്പിനെ മാത്രമേ ബന്ധിപ്പിക്കൂ എന്നും ഡ്രാഗോസ് പറയുന്നു. നോവിറ്റ, ഫാല, ടുഗെദർ എന്നിവർ ഓരോരുത്തരും എന്താണ് സംഭവിച്ചതെന്ന് പറഞ്ഞത്? മെയ് 28-നും നവംബർ 11-നും ഇടയിലുള്ള ചില മിനിമാക്സ് അഭ്യർത്ഥനകൾ ഒരു റൂട്ടിംഗ് കോൺഫിഗറേഷൻ പ്രശ്നം കാരണം മിനിമാക്സിന്റെ സ്വന്തം API-ലേക്ക് കൈമാറ്റം ചെയ്യപ്പെട്ടു എന്നും, അത് ബാധിച്ച മോഡലുകൾ താൽക്കാലികമായി നിർത്തിവച്ചു എന്നും നോവിറ്റ പറയുന്നു. ഒരു ആക്രമണകാരി ഒരു ഇൻഫറൻസ് മെഷീന്റെ നിയന്ത്രണം ഏറ്റെടുത്തതായും, ഒക്ടോബർ 21 മുതൽ നവംബർ 8 വരെ അവിടേക്ക് റൂട്ട് ചെയ്ത ഒരു ഡീപ്സീക്ക് മോഡലിലേക്കുള്ള അഭ്യർത്ഥനകൾ ചോർന്നതായി കണക്കാക്കണമെന്നും ഫാലയുടെ പ്രാഥമിക റിപ്പോർട്ട് പറയുന്നു. ഒരു AI കോഡിംഗ് ഏജന്റ് ഒരു ക്രെഡൻഷ്യൽ നൽകിയതിന് ശേഷം പരിശോധനയ്ക്കായി സൂക്ഷിച്ചിരുന്ന പ്രോംപ്റ്റ് സാമ്പിളുകൾ ഡൗൺലോഡ് ചെയ്യപ്പെട്ടു എന്ന് ടുഗെദർ പറയുന്നു. ഡ്രാഗോസ് റിപ്പോർട്ടിന് ശേഷം ഓപ്പൺറൂട്ടർ എന്ത് ചെയ്തു, ഒരു ബിൽഡർക്ക് എന്ത് പരിശോധിക്കാൻ കഴിയും?
4:20 ഓപ്പൺറൂട്ടർ പറയുന്നത്, മൂന്ന് പ്രൊവൈഡർമാരെ നീക്കം ചെയ്തു എന്നും, 125 എൻഡ്പോയിന്റുകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ യോഗ്യതയിൽ നിന്ന് നീക്കം ചെയ്തു എന്നും, ചിലത് മുൻകരുതൽ എന്ന നിലയിൽ മാത്രം, ബാധിക്കാൻ സാധ്യതയുള്ള ഉപഭോക്താക്കളെ അറിയിക്കുകയും ചെയ്തു എന്നും. നീക്കം ചെയ്ത മൂന്ന് പ്രൊവൈഡർമാരുടെ പേര് അതിന്റെ പോസ്റ്റിൽ പറയുന്നില്ല. ഗവേഷകരുടെ പരിശോധനകൾ തുടർച്ചയായി നടത്താൻ ഇത് അനുയോജ്യമാക്കുന്നു. ബിൽഡർമാർക്ക് അവരുടെ ഓപ്പൺറൂട്ടർ സ്വകാര്യതാ ക്രമീകരണങ്ങളും ഗാർഡ്റെയിലുകളും അവലോകനം ചെയ്യാനും, പൊതുവായ എൻഡ്പോയിന്റ് പട്ടിക പരിശോധിക്കാനും, ഗവേഷകർ നിർദ്ദേശിക്കുന്നത് പോലെ അപ്സ്ട്രീം പ്രൊവൈഡർമാരെ സ്വയം തിരഞ്ഞെടുക്കാനും, നോവിറ്റയും ഫാലയും ഉപദേശിക്കുന്നത് പോലെ ബാധിച്ച അഭ്യർത്ഥനകളിലെ രഹസ്യങ്ങൾ മാറ്റാനും കഴിയും. സീറോ ഡാറ്റ നിലനിർത്തൽ കഥയിൽ ദി ഡെയ്ലി ഡിഫിന്റെ വിധി എന്തായിരുന്നു? ദി ഡെയ്ലി ഡിഫിന്റെ വിധി REVERT ആയിരുന്നു: വിശ്വാസം റദ്ദാക്കുക, റൂട്ടർ നിലനിർത്തുക. പ്രോംപ്റ്റുകൾ യഥാർത്ഥത്തിൽ പോകുന്നിടത്ത് ആരെങ്കിലും പരിശോധിക്കുന്നത് വരെ ഒരു സീറോ ഡാറ്റ നിലനിർത്തൽ ഫ്ലാഗ് ഒരു വാഗ്ദാനമാണ്, കൂടാതെ ഓപ്പൺറൂട്ടറിന്റെ തുടർച്ചയായ പരിശോധനകൾ നിലവിലില്ലാത്തതിനാൽ, ബിൽഡറാണ് ടെസ്റ്റർ. ഈ വിധി ലേബലിൽ പരിശോധിക്കാതെ ആശ്രയിക്കുന്നതിന് ബാധകമാണ്, ഓപ്പൺറൂട്ടറിന്റെ പ്രതികരണത്തിനല്ല, അത് പ്രഖ്യാപിച്ചതും എന്നാൽ ഇതുവരെ നടപ്പിലാക്കാത്തതുമായ ശരിയായ നടപടികളാണെന്ന് എപ്പിസോഡ് വിവരിക്കുന്നു. സീറോ ഡാറ്റ നിലനിർത്തൽ ഒരു റൂട്ടറിൽ, ഓപ്പൺറൂട്ടർ പോലെ, എന്താണ് വാഗ്ദാനം ചെയ്യുന്നത്? ഓപ്പൺറൂട്ടറിന്റെ ഡോക്യുമെന്റേഷൻ പറയുന്നത്, സീറോ ഡാറ്റ നിലനിർത്തൽ എന്നത്, ചൈൽഡ് സെക്ഷ്വൽ അബ്യൂസ് മെറ്റീരിയൽ സ്ക്രീനിംഗിനുള്ള ഒരു ഒഴിവാക്കൽ ഒഴികെ, പ്രോസസ്സിംഗിന് ശേഷം പ്രോംപ്റ്റുകളോ പ്രതികരണങ്ങളോ പതിവായി സൂക്ഷിക്കാത്തതിനെയാണ് അർത്ഥമാക്കുന്നത് എന്നാണ്. അക്കൗണ്ട് ക്രമീകരണങ്ങളിലോ, ഒരു ഗാർഡ്റെയിലിലോ, അല്ലെങ്കിൽ ഓരോ അഭ്യർത്ഥനയിലും ഇത് നടപ്പിലാക്കുമ്പോൾ, അഭ്യർത്ഥനകൾ ഒന്നും സൂക്ഷിക്കുന്നില്ലെന്ന് പറയുന്ന ഹോസ്റ്റുകളുടെ എൻഡ്പോയിന്റുകളിലേക്ക് മാത്രമേ പോകുകയുള്ളൂ. ഓരോ പ്രൊവൈഡറിന്റെയും ഡാറ്റ നയങ്ങൾ മനസ്സിലാക്കാൻ ഓപ്പൺറൂട്ടർ പ്രൊവൈഡർമാരുമായി ചേർന്ന് പ്രവർത്തിക്കുന്നു എന്നും ഡോക്യുമെന്റേഷൻ പറയുന്നു. എൻഫോഴ്സ്മെന്റ് പ്രൊവൈഡർ റൂട്ടിംഗിനെയാണ് ഉൾക്കൊള്ളുന്നത്, പ്ലഗിനുകളെയും വെബ് സെർച്ച് പോലുള്ള ടൂളുകളെയും അല്ല, അവയ്ക്ക് അവരുടേതായ നയങ്ങളുണ്ട്. പ്രൊവൈഡർമാർ സീറോ ഡാറ്റ നിലനിർത്തൽ മാനിക്കുന്നുണ്ടോ എന്ന് ഗവേഷകർ എങ്ങനെയാണ് പരിശോധിച്ചത്? ഡ്രാഗോസ് റിപ്പോർട്ട് ചെയ്യുന്നത്, 2026 ജൂലൈയ്ക്കും നവംബറിനും ഇടയിൽ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകൾ അയച്ചുവെന്നും, ഓരോന്നിനും തനതായ വ്യാജ ക്രെഡൻഷ്യലും രഹസ്യ വെബ് ലിങ്കും ഉണ്ടായിരുന്നു, അത് മറ്റൊരിടത്തും നിലവിലില്ല. അതിൻ്റെ ഏതെങ്കിലും തുടർന്നുള്ള ഉപയോഗം ഏത് പ്രോംപ്റ്റ് ചോർന്നു, ഏത് റൂട്ടും സ്വകാര്യതാ ക്രമീകരണവുമാണ് അത് വഹിച്ചതെന്ന് കാണിക്കുന്നു. മറഞ്ഞിരിക്കുന്ന ഹോപ്പുകൾ കണ്ടെത്താൻ ടീം AI ഇൻഫറൻസിനായുള്ള ഒരു ട്രെയ്സറൂട്ടും നിർമ്മിച്ചു. ചില മോഷ്ടിക്കപ്പെട്ട അഭ്യർത്ഥനകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ എന്ന് അടയാളപ്പെടുത്തിയിരുന്നു എന്നും ഒരു സ്വകാര്യതാ ഫ്ലാഗ് ആദ്യ ഹോപ്പിനെ മാത്രമേ ബന്ധിപ്പിക്കൂ എന്നും ഡ്രാഗോസ് പറയുന്നു. നോവിറ്റ, ഫാല, ടുഗെദർ എന്നിവർ ഓരോരുത്തരും എന്താണ് സംഭവിച്ചതെന്ന് പറഞ്ഞത്?
4:46 മെയ് 28-നും നവംബർ 11-നും ഇടയിലുള്ള ചില മിനിമാക്സ് അഭ്യർത്ഥനകൾ ഒരു റൂട്ടിംഗ് കോൺഫിഗറേഷൻ പ്രശ്നം കാരണം മിനിമാക്സിന്റെ സ്വന്തം API-ലേക്ക് കൈമാറ്റം ചെയ്യപ്പെട്ടു എന്നും, അത് ബാധിച്ച മോഡലുകൾ താൽക്കാലികമായി നിർത്തിവച്ചു എന്നും നോവിറ്റ പറയുന്നു. ഒരു ആക്രമണകാരി ഒരു ഇൻഫറൻസ് മെഷീന്റെ നിയന്ത്രണം ഏറ്റെടുത്തതായും, ഒക്ടോബർ 21 മുതൽ നവംബർ 8 വരെ അവിടേക്ക് റൂട്ട് ചെയ്ത ഒരു ഡീപ്സീക്ക് മോഡലിലേക്കുള്ള അഭ്യർത്ഥനകൾ ചോർന്നതായി കണക്കാക്കണമെന്നും ഫാലയുടെ പ്രാഥമിക റിപ്പോർട്ട് പറയുന്നു. ഒരു AI കോഡിംഗ് ഏജന്റ് ഒരു ക്രെഡൻഷ്യൽ നൽകിയതിന് ശേഷം പരിശോധനയ്ക്കായി സൂക്ഷിച്ചിരുന്ന പ്രോംപ്റ്റ് സാമ്പിളുകൾ ഡൗൺലോഡ് ചെയ്യപ്പെട്ടു എന്ന് ടുഗെദർ പറയുന്നു.
ഇന്നത്തെ വിധി എന്താണ്?
4:50 ഡ്രാഗോസ് റിപ്പോർട്ടിന് ശേഷം ഓപ്പൺറൂട്ടർ എന്ത് ചെയ്തു, ഒരു ബിൽഡർക്ക് എന്ത് പരിശോധിക്കാൻ കഴിയും? ഓപ്പൺറൂട്ടർ പറയുന്നത്, മൂന്ന് പ്രൊവൈഡർമാരെ നീക്കം ചെയ്തു എന്നും, 125 എൻഡ്പോയിന്റുകൾ സീറോ ഡാറ്റ നിലനിർത്തൽ യോഗ്യതയിൽ നിന്ന് നീക്കം ചെയ്തു എന്നും, ചിലത് മുൻകരുതൽ എന്ന നിലയിൽ മാത്രം, ബാധിക്കാൻ സാധ്യതയുള്ള ഉപഭോക്താക്കളെ അറിയിക്കുകയും ചെയ്തു എന്നും. നീക്കം ചെയ്ത മൂന്ന് പ്രൊവൈഡർമാരുടെ പേര് അതിന്റെ പോസ്റ്റിൽ പറയുന്നില്ല. ഗവേഷകരുടെ പരിശോധനകൾ തുടർച്ചയായി നടത്താൻ ഇത് അനുയോജ്യമാക്കുന്നു. ബിൽഡർമാർക്ക് അവരുടെ ഓപ്പൺറൂട്ടർ സ്വകാര്യതാ ക്രമീകരണങ്ങളും ഗാർഡ്റെയിലുകളും അവലോകനം ചെയ്യാനും, പൊതുവായ എൻഡ്പോയിന്റ് പട്ടിക പരിശോധിക്കാനും, ഗവേഷകർ നിർദ്ദേശിക്കുന്നത് പോലെ അപ്സ്ട്രീം പ്രൊവൈഡർമാരെ സ്വയം തിരഞ്ഞെടുക്കാനും, നോവിറ്റയും ഫാലയും ഉപദേശിക്കുന്നത് പോലെ ബാധിച്ച അഭ്യർത്ഥനകളിലെ രഹസ്യങ്ങൾ മാറ്റാനും കഴിയും. സീറോ ഡാറ്റ നിലനിർത്തൽ കഥയിൽ ദി ഡെയ്ലി ഡിഫിന്റെ വിധി എന്തായിരുന്നു? ദി ഡെയ്ലി ഡിഫിന്റെ വിധി REVERT ആയിരുന്നു: വിശ്വാസം റദ്ദാക്കുക, റൂട്ടർ നിലനിർത്തുക. പ്രോംപ്റ്റുകൾ യഥാർത്ഥത്തിൽ പോകുന്നിടത്ത് ആരെങ്കിലും പരിശോധിക്കുന്നത് വരെ ഒരു സീറോ ഡാറ്റ നിലനിർത്തൽ ഫ്ലാഗ് ഒരു വാഗ്ദാനമാണ്, കൂടാതെ ഓപ്പൺറൂട്ടറിന്റെ തുടർച്ചയായ പരിശോധനകൾ നിലവിലില്ലാത്തതിനാൽ, ബിൽഡറാണ് ടെസ്റ്റർ. ഈ വിധി ലേബലിൽ പരിശോധിക്കാതെ ആശ്രയിക്കുന്നതിന് ബാധകമാണ്, ഓപ്പൺറൂട്ടറിന്റെ പ്രതികരണത്തിനല്ല, അത് പ്രഖ്യാപിച്ചതും എന്നാൽ ഇതുവരെ നടപ്പിലാക്കാത്തതുമായ ശരിയായ നടപടികളാണെന്ന് എപ്പിസോഡ് വിവരിക്കുന്നു. നിങ്ങൾ സീറോ ഡാറ്റ നിലനിർത്തൽ ഓണാക്കിയാൽ നിങ്ങളുടെ പ്രോംപ്റ്റ് ആരും സൂക്ഷിക്കുന്നില്ലെന്ന് നിങ്ങൾ കരുതുന്നു. ഗവേഷകർ ഏകദേശം രണ്ട് ദശലക്ഷം പ്രോംപ്റ്റുകളിൽ വ്യാജ രഹസ്യങ്ങൾ ഒളിപ്പിച്ചു. പിന്നീട് അപരിചിതർ സീറോ നിലനിർത്തൽ എന്ന് അടയാളപ്പെടുത്തിയ പ്രോംപ്റ്റുകളിൽ നിന്ന് രഹസ്യങ്ങൾ ഉപയോഗിക്കാൻ ശ്രമിച്ചു. ഈ വീഡിയോയിൽ, ഒരു സീറോ നിലനിർത്തൽ വാഗ്ദാനം എങ്ങനെ പരാജയപ്പെടുന്നു?
ഉറവിടങ്ങൾ
- Data Processing Incidents on Inference ProvidersOpenRouter
- Three breaches, endless leaks: Your AI supply chain needs canariesDragos (HD Moore)
- Privacy Notice Regarding MiniMax Requests on NovitaNovita
- Phala November Preliminary Incident ReportPhala
- Security event: Prompt leakage for requests in June and July of 2026Together AI
- Zero Data RetentionOpenRouter documentation
- Data Processing Incidents on Inference Providers (discussion)Hacker News
- Lean verification of the Riemann HypothesisLean and Mathlib communities
- Verification files for the Lean proof of the Riemann HypothesisAndrew Sutherland, MIT
- The stochastic parrots have apparently proved the Riemann HypothesisScott Aaronson, Shtetl-Optimized
- Unforced Euler singularity, unforced Navier-Stokes singularity, and the Generalized Riemann HypothesisTerence Tao, What's new
- Hurried Announcement: Alessandro Masullo GRHRavi Vakil, Math 216



