Нульовий день у Meta's Muse. Вердикт: REVERT.

Що охоплює це відео

• Вчорашній вердикт, нічний огляд
• Тиждень: стіна Amazon, 0-денна вразливість Вардла, архів 6,8 ГБ
• 0-денна вразливість: перемикач темного режиму поруч із вашим токеном
• ClickFix: одна вставлена команда, диктування в хмарі Meta
• Експорт: 6,8 ГБ, кодова назва Hatch, Codex CLI всередині

Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

Вчорашній вердикт, нічний огляд

0:00 Вчора я позначив Meta's Muse як NEEDS REVIEW. За ніч одна вставлена команда захопила обліковий запис Muse, і Muse заархівувала свій власний жорсткий диск для дослідника, шість цілих вісім десятих гігабайти. У цьому відео: нульовий день, експорт і чип AMD, який ніколи не видає нуль. Сьогодні вівторок, 22 вересня, і це The Daily Diff. Отже, ось різниця.

Тиждень: стіна Amazon, 0-денна вразливість Вардла, архів 6,8 ГБ

0:22 У неділю ввечері Amazon заблокувала Muse. Через дванадцять годин Патрік Вардл опублікував нульовий день у додатку Muse для Mac. У понеділок Пітер Джеймс попросив Muse надати власну файлову систему і отримав її. Також цього тижня: випадкові числа AMD пропускають нуль, а Apple розмістила рекламу в Налаштуваннях, яку ви не можете закрити.

0-денна вразливість: перемикач темного режиму поруч із вашим токеном

0:38 По-перше, нульовий день. Muse на Mac має більше дозволів, ніж ваш банк. Ваші файли, ваша камера, ваш WhatsApp. Apple витратила десятиліття на створення стін навколо них, а Muse просить вас відкрити кожні ворота в перший день, тому що це продукт. Патрік Вардл написав книгу «Мистецтво Mac-шкільного програмного забезпечення». Він виявив, що будь-яка програма на Mac або будь-яка команда терміналу, без будь-яких дозволів, може змінювати довгий список недокументованих налаштувань Muse.

1:00 Більшість з них нешкідливі, як-от темний режим. Одним з них є адреса сервера, куди надсилається ваша мова для транскрипції. Направте цю адресу на свій власний сервер, і ви отримаєте транскрипцію, плюс токен, який входить до облікового запису Muse. Вардл стверджує, що замість того, щоб писати викрадач Mac, ви просто використовуєте самого помічника ШІ. Його докази концепції створювали файли та робили фотографії з веб-камери. Доставка – це ClickFix, атака, коли фальшива сторінка помилки повідомляє вам

ClickFix: одна вставлена команда, диктування в хмарі Meta

1:26 вставити одну команду, і достатньо людей роблять це, що вона має назву. Половина Hacker News каже, що це не нульовий день, це ідіотизм, старий як світ. Правда, і саме тому токен входу не повинен знаходитись за перемикачем темного режиму. Диктування могло б залишитися на Mac. Meta вибрала хмару, де Meta може її реєструвати. По-друге, експорт.

Експорт: 6,8 ГБ, кодова назва Hatch, Codex CLI всередині

1:46 Пітер Джеймс, який створює інструмент для кодування під назвою Mouse, попросив Muse заархівувати кожен файл, який вона могла бачити, і надіслати його на його Google Диск. Muse погодилася. Два цілих сім десятих гігабайти стисненого, шість цілих вісім десятих розпакованого, коренева файлова система машини Linux, на якій живе його агент. Внутрішня назва Muse у Meta – Hatch. У домашній папці зберігаються файл душі, файл ідентифікації та файл пам'яті. Потім сто тринадцять розшифровок субагентів і близько двадцяти посібників для

2:13 платежів, облікових даних і використання браузера. Конфігураційний файл містить перелік з'єднань, які Meta не оголошувала, наприклад, Slack, Dropbox та Polymarket. Образ також постачається з Codex CLI від OpenAI, очевидно, невикористовуваним, за винятком його інструменту "пісочниці", який Meta запозичила для запуску ffmpeg. Флагманський агент Meta перевозить кодуючий агент OpenAI в багажнику, як запасне колесо від конкуруючого дилерства. Були файли ключів SSH, неперевірені, та нічне завдання під назвою "мрія", яке

2:40 читає ваші розмови та пише нотатки про вас. Його "мрія" відзначила, що він не просив незапрошених результатів NFL. Сама "пісочниця" утримувала, каже він, і він перестав її розслідувати, бо це виробниче середовище. Він повідомив про це в програму Meta bug bounty.

Не застосовується: три сторони, один тиждень, одне заперечення

2:52 Meta позначила це як «Не застосовується». Половина Hacker News погоджується, це ваша власна віртуальна машина. Тоді прочитайте пост про запуск. Meta каже, що окремий агент Sentinel затверджує все, що залишає машину. Sentinel затвердив тригігабайтовий архів машини, що покидає машину. Meta каже, що Muse ніколи не бачить ваших паролів. Проксі Вардла бачить токен, який є паролем.

3:10 Amazon заявляє, що Muse, схоже, збирає та зберігає облікові дані клієнтів. Ars надіслав Meta запитання і не отримав відповіді. Три сторони, один тиждень, і єдиний, хто говорить, що немає проблем, це той, хто продає його. Тепер чіп, який не видасть нуль.

AMD: кристал з 65 535 гранями

3:24 У травні бразильський програміст зборки на ім'я Джессі малював гістограми випадкових чисел і помітив, що його AMD Ryzen ніколи не видавав нуля. Шістнадцятибітові числа, тобто близько шістдесяти п'яти тисяч граней на кристалі. Через одинадцять годин єдина грань, яка так і не з'явилася, була нулем. Intel видає нулі цілий день. Цього тижня Hacker News відтворив це на Zen 2 і знайшов механізм. Чіп дійсно виробляє нулі. Він просто піднімає прапор "спробувати ще раз" щоразу, коли значення дорівнює нулю,

3:51 тому будь-яка правильна програма повторює спробу і ніколи не бачить нуля. Хтось в AMD написав: якщо нуль, повідомити про збій. Кристал з шістдесятьма п'ятьма тисячами п'ятистами тридцятьма п'ятьма гранями, проданий як чесний. Чи має це значення? Похибка в один з шістдесяти п'яти тисяч не зламає ваш TLS, і Linux все одно змішує джерела. Але Zen 2 був запущений у 2019 році з протилежною помилкою, завжди повертаючи всі одиниці,

4:12 виправлено мікрокодом. А минулого року власна консультація AMD для Zen 5 вказала розробникам розглядати нуль як збій і повторювати спробу. Помилка, записана як виправлення. Відповідь AMD Джессі, чотири місяці тому, читалася як ChatGPT. І Apple. Користувачі iPhone знаходять банери у верхній частині Налаштувань, які просувають

Apple: реклама в Налаштуваннях, яку не можна закрити

4:30 iCloud+, пробні версії Apple Music та AppleCare, з червоним значком, поки ви не дієте. Часто немає кнопки відхилення. Два виходи — чекати тижнями або платити. Люди, які вже платять за iCloud+, бачать рекламу iCloud+, що Apple назвала б помилкою, а я б назвав попереднім переглядом. Головний коментар у темі говорить, що Apple з рекламою — це не та Apple, яка мала смак. Якщо ви віддаєте перевагу читати це, ніж чути, як я це кажу, розбіжність приходить у вашу поштову скриньку щоранку, безкоштовно на the daily diff dot dev,

4:56 посилання нижче. Отже, сьогоднішній вердикт щодо Muse.

Вердикт: REVERT, два огляди за один день

4:59 REVERT. Вчора я сказав, що потрібен перегляд. Огляд відбувся двічі за один день, і відповідь постачальника була мовчання та «Не застосовується». Підписуйтесь, натискайте дзвіночок і скажіть мені в коментарях, чи ви б поставили штамп по-іншому. І це вся різниця на сьогодні. Я Ніко з Axrisi. Зливайте відповідально.

Джерела

1. Ars Technica, Dan Goodin — Muse has a serious 0-dayarstechnica.com
2. Hacker News (105 pts)news.ycombinator.com
3. mouse.dev, Peter James — I asked Meta's Muse for its filesystem and it sent me 6.8 GBmouse.dev
4. Hacker News (263 pts)news.ycombinator.com
5. Meta, Introducing Muse (Sep 8)about.fb.com
6. Yesterday's episode — Amazon blocks Muse (NEEDS REVIEW)www.youtube.com
7. flat assembler board, Jessé — AMD's RNG can't generate a 0board.flatassembler.net
8. Hacker News (235 pts)news.ycombinator.com
9. TechRadar, Alex Blake — Apple has added persistent 'ads' to iOSwww.techradar.com
10. Hacker News (489 pts)news.ycombinator.com