+− THE DAILY DIFFdev & AI news
REVERT

Нульовий день у Meta's Muse. Вердикт: REVERT.

Вчорашній штамп на Meta's Muse був NEEDS REVIEW.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Вчорашній штамп на Meta's Muse був NEEDS REVIEW. За ніч огляд надійшов двічі: Патрік Вардл показав, що будь-яка локальна програма або одна вставлена ​​термінальна команда може перенаправити кінцеву точку транскрипції Muse і викрасти токен облікового запису, а Пітер Джеймс попросив Muse надати власну файлову систему і отримав 6,8 ГБ її (кодова назва Hatch, Codex CLI на зображенні). Відповіді Meta: жодної відповіді Ars, і «Не застосовується» від програми пошуку помилок. Вердикт: REVERT.

Читати письмову версію (англійською) ↗

Що охоплює це відео

  • Вчорашній вердикт, нічний огляд
  • Тиждень: стіна Amazon, 0-денна вразливість Вардла, архів 6,8 ГБ
  • 0-денна вразливість: перемикач темного режиму поруч із вашим токеном
  • ClickFix: одна вставлена команда, диктування в хмарі Meta
  • Експорт: 6,8 ГБ, кодова назва Hatch, Codex CLI всередині

Запитання та відповіді

Як локальна програма могла викрасти токен облікового запису з програми Meta Muse для Mac?

Дослідник безпеки Патрік Вордл виявив, що будь-яка програма на Mac або будь-яка команда терміналу без дозволів може змінювати недокументовані налаштування Muse. Одне з налаштувань — це адреса сервера, де транскрибується голос. Направлення його на сервер зловмисника повертає транскрипцію та токен, який входить до облікового запису Muse. Фальшива сторінка помилки, яка пропонує користувачам вставити одну команду, відому як ClickFix, може здійснити зміну, повідомляє Ars Technica.

Дивіться цю частину 0:38 · arstechnica.com · news.ycombinator.com

Що Muse передала, коли розробник попросив її надати власну файлову систему?

Пітер Джеймс попросив Muse заархівувати кожен файл, який вона могла бачити, і надіслати його на його Google Drive, і вона повернула 6,8 ГБ розпакованих, 2,7 гігабайти стиснених. Згідно з його дописом, він містив внутрішню кодову назву Meta Hatch, OpenAI Codex CLI, сто тринадцять розшифровок субагентів і нічне завдання під назвою dream. Він сказав, що сама пісочниця містила.

Дивіться цю частину 1:45 · mouse.dev · news.ycombinator.com

Як Meta відреагувала на звіти про безпеку Muse?

Meta майже не відповіла. Ars Technica надсилала запитання електронною поштою, але не отримала відповіді, а програма винагород за виявлення помилок Meta позначила звіт Пітера Джеймса як Не застосовується. У публікації Meta про запуск сказано, що окремий агент Sentinel затверджує все, що залишає машину, і що Muse ніколи не бачить паролів, однак Sentinel схвалив вихід з машини ZIP-архіву розміром три гігабайти.

Дивіться цю частину 2:51 · arstechnica.com · mouse.dev · about.fb.com

Чому інструкція випадкових чисел на деяких чіпах AMD Ryzen ніколи не повертає нуль?

Чіп генерує нулі, але піднімає прапор повторної спроби щоразу, коли значення дорівнює нулю, тому правильна програма повторює спробу і ніколи не бачить його. Програміст на ім'я Джессі помітив це після одинадцяти годин генерування шістнадцяткових чисел, і Hacker News відтворив це на Zen 2. Упередження один до шістдесяти п'яти тисяч не зламає TLS, і Linux все одно змішує кілька джерел.

Дивіться цю частину 3:22 · board.flatassembler.net · news.ycombinator.com

Чи варто людям продовжувати запускати агент Meta Muse на своїх комп'ютерах?

Вердикт The Daily Diff був REVERT. За день до цього Muse було позначено NEEDS REVIEW. Протягом дня надійшли два огляди: перенаправлення токена Вордла та експорт файлової системи розміром 6,8 ГБ, а відповідями постачальника були тиша та Не застосовується. Amazon також заявив, що Muse, схоже, збирає та зберігає облікові дані клієнтів.

Дивіться цю частину 4:58 · arstechnica.com · mouse.dev

Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

Вчорашній вердикт, нічний огляд

0:00 Вчора я позначив Meta's Muse як NEEDS REVIEW. За ніч одна вставлена команда захопила обліковий запис Muse, і Muse заархівувала свій власний жорсткий диск для дослідника, шість цілих вісім десятих гігабайти. У цьому відео: нульовий день, експорт і чип AMD, який ніколи не видає нуль. Сьогодні вівторок, 22 вересня, і це The Daily Diff. Отже, ось різниця.

Тиждень: стіна Amazon, 0-денна вразливість Вардла, архів 6,8 ГБ

0:22 У неділю ввечері Amazon заблокувала Muse. Через дванадцять годин Патрік Вардл опублікував нульовий день у додатку Muse для Mac. У понеділок Пітер Джеймс попросив Muse надати власну файлову систему і отримав її. Також цього тижня: випадкові числа AMD пропускають нуль, а Apple розмістила рекламу в Налаштуваннях, яку ви не можете закрити.

0-денна вразливість: перемикач темного режиму поруч із вашим токеном

0:38 По-перше, нульовий день. Muse на Mac має більше дозволів, ніж ваш банк. Ваші файли, ваша камера, ваш WhatsApp. Apple витратила десятиліття на створення стін навколо них, а Muse просить вас відкрити кожні ворота в перший день, тому що це продукт. Патрік Вардл написав книгу «Мистецтво Mac-шкільного програмного забезпечення». Він виявив, що будь-яка програма на Mac або будь-яка команда терміналу, без будь-яких дозволів, може змінювати довгий список недокументованих налаштувань Muse.

1:00 Більшість з них нешкідливі, як-от темний режим. Одним з них є адреса сервера, куди надсилається ваша мова для транскрипції. Направте цю адресу на свій власний сервер, і ви отримаєте транскрипцію, плюс токен, який входить до облікового запису Muse. Вардл стверджує, що замість того, щоб писати викрадач Mac, ви просто використовуєте самого помічника ШІ. Його докази концепції створювали файли та робили фотографії з веб-камери. Доставка – це ClickFix, атака, коли фальшива сторінка помилки повідомляє вам

ClickFix: одна вставлена команда, диктування в хмарі Meta

1:26 вставити одну команду, і достатньо людей роблять це, що вона має назву. Половина Hacker News каже, що це не нульовий день, це ідіотизм, старий як світ. Правда, і саме тому токен входу не повинен знаходитись за перемикачем темного режиму. Диктування могло б залишитися на Mac. Meta вибрала хмару, де Meta може її реєструвати. По-друге, експорт.

Експорт: 6,8 ГБ, кодова назва Hatch, Codex CLI всередині

1:46 Пітер Джеймс, який створює інструмент для кодування під назвою Mouse, попросив Muse заархівувати кожен файл, який вона могла бачити, і надіслати його на його Google Диск. Muse погодилася. Два цілих сім десятих гігабайти стисненого, шість цілих вісім десятих розпакованого, коренева файлова система машини Linux, на якій живе його агент. Внутрішня назва Muse у Meta – Hatch. У домашній папці зберігаються файл душі, файл ідентифікації та файл пам'яті. Потім сто тринадцять розшифровок субагентів і близько двадцяти посібників для

2:13 платежів, облікових даних і використання браузера. Конфігураційний файл містить перелік з'єднань, які Meta не оголошувала, наприклад, Slack, Dropbox та Polymarket. Образ також постачається з Codex CLI від OpenAI, очевидно, невикористовуваним, за винятком його інструменту "пісочниці", який Meta запозичила для запуску ffmpeg. Флагманський агент Meta перевозить кодуючий агент OpenAI в багажнику, як запасне колесо від конкуруючого дилерства. Були файли ключів SSH, неперевірені, та нічне завдання під назвою "мрія", яке

2:40 читає ваші розмови та пише нотатки про вас. Його "мрія" відзначила, що він не просив незапрошених результатів NFL. Сама "пісочниця" утримувала, каже він, і він перестав її розслідувати, бо це виробниче середовище. Він повідомив про це в програму Meta bug bounty.

Не застосовується: три сторони, один тиждень, одне заперечення

2:52 Meta позначила це як «Не застосовується». Половина Hacker News погоджується, це ваша власна віртуальна машина. Тоді прочитайте пост про запуск. Meta каже, що окремий агент Sentinel затверджує все, що залишає машину. Sentinel затвердив тригігабайтовий архів машини, що покидає машину. Meta каже, що Muse ніколи не бачить ваших паролів. Проксі Вардла бачить токен, який є паролем.

3:10 Amazon заявляє, що Muse, схоже, збирає та зберігає облікові дані клієнтів. Ars надіслав Meta запитання і не отримав відповіді. Три сторони, один тиждень, і єдиний, хто говорить, що немає проблем, це той, хто продає його. Тепер чіп, який не видасть нуль.

AMD: кристал з 65 535 гранями

3:24 У травні бразильський програміст зборки на ім'я Джессі малював гістограми випадкових чисел і помітив, що його AMD Ryzen ніколи не видавав нуля. Шістнадцятибітові числа, тобто близько шістдесяти п'яти тисяч граней на кристалі. Через одинадцять годин єдина грань, яка так і не з'явилася, була нулем. Intel видає нулі цілий день. Цього тижня Hacker News відтворив це на Zen 2 і знайшов механізм. Чіп дійсно виробляє нулі. Він просто піднімає прапор "спробувати ще раз" щоразу, коли значення дорівнює нулю,

3:51 тому будь-яка правильна програма повторює спробу і ніколи не бачить нуля. Хтось в AMD написав: якщо нуль, повідомити про збій. Кристал з шістдесятьма п'ятьма тисячами п'ятистами тридцятьма п'ятьма гранями, проданий як чесний. Чи має це значення? Похибка в один з шістдесяти п'яти тисяч не зламає ваш TLS, і Linux все одно змішує джерела. Але Zen 2 був запущений у 2019 році з протилежною помилкою, завжди повертаючи всі одиниці,

4:12 виправлено мікрокодом. А минулого року власна консультація AMD для Zen 5 вказала розробникам розглядати нуль як збій і повторювати спробу. Помилка, записана як виправлення. Відповідь AMD Джессі, чотири місяці тому, читалася як ChatGPT. І Apple. Користувачі iPhone знаходять банери у верхній частині Налаштувань, які просувають

Apple: реклама в Налаштуваннях, яку не можна закрити

4:30 iCloud+, пробні версії Apple Music та AppleCare, з червоним значком, поки ви не дієте. Часто немає кнопки відхилення. Два виходи — чекати тижнями або платити. Люди, які вже платять за iCloud+, бачать рекламу iCloud+, що Apple назвала б помилкою, а я б назвав попереднім переглядом. Головний коментар у темі говорить, що Apple з рекламою — це не та Apple, яка мала смак. Якщо ви віддаєте перевагу читати це, ніж чути, як я це кажу, розбіжність приходить у вашу поштову скриньку щоранку, безкоштовно на the daily diff dot dev,

4:56 посилання нижче. Отже, сьогоднішній вердикт щодо Muse.

Вердикт: REVERT, два огляди за один день

4:59 REVERT. Вчора я сказав, що потрібен перегляд. Огляд відбувся двічі за один день, і відповідь постачальника була мовчання та «Не застосовується». Підписуйтесь, натискайте дзвіночок і скажіть мені в коментарях, чи ви б поставили штамп по-іншому. І це вся різниця на сьогодні. Я Ніко з Axrisi. Зливайте відповідально.

Джерела

  1. Ars Technica, Dan Goodin — Muse has a serious 0-dayarstechnica.com
  2. Hacker News (105 pts)news.ycombinator.com
  3. mouse.dev, Peter James — I asked Meta's Muse for its filesystem and it sent me 6.8 GBmouse.dev
  4. Hacker News (263 pts)news.ycombinator.com
  5. Meta, Introducing Muse (Sep 8)about.fb.com
  6. Yesterday's episode — Amazon blocks Muse (NEEDS REVIEW)www.youtube.com
  7. flat assembler board, Jessé — AMD's RNG can't generate a 0board.flatassembler.net
  8. Hacker News (235 pts)news.ycombinator.com
  9. TechRadar, Alex Blake — Apple has added persistent 'ads' to iOSwww.techradar.com
  10. Hacker News (489 pts)news.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Пов'язані відео