+− THE DAILY DIFFdev & AI news
REVERT

A Muse da Meta tem um zero-day. Veredito: REVERT.

O carimbo de ontem na Muse da Meta foi NEEDS REVIEW.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

O carimbo de ontem na Muse da Meta foi NEEDS REVIEW. Durante a noite, a revisão chegou duas vezes: Patrick Wardle mostrou que qualquer aplicação local ou um comando de terminal colado pode redirecionar o ponto de extremidade de transcrição da Muse e levar o token da conta, e Peter James pediu à Muse o seu próprio sistema de ficheiros e obteve 6,8 GB dele (codinome Hatch, Codex CLI na imagem). As respostas da Meta: sem resposta à Ars, e "Não Aplicável" do programa de recompensas por bugs. Veredito: REVERT.

Ler a edição escrita (Inglês) ↗

O que este vídeo aborda

  • O veredito de ontem, a revisão da noite
  • A semana: a barreira da Amazon, o 0-day de Wardle, um zip de 6,8 GB
  • O 0-day: um interruptor de modo escuro ao lado do seu token
  • ClickFix: um comando colado, ditado na cloud da Meta
  • A exportação: 6,8 GB, codinome Hatch, Codex CLI dentro

Perguntas e respostas

Como é que uma aplicação local podia roubar o token da conta da aplicação Muse Mac da Meta?

O investigador de segurança Patrick Wardle descobriu que qualquer aplicação no Mac, ou qualquer comando de terminal, sem permissões pode alterar definições não documentadas do Muse. Uma das definições é o endereço do servidor onde a voz é transcrita. Apontá-lo para o servidor de um atacante devolve a transcrição e o token que inicia sessão na conta Muse. Uma página de erro falsa que diz aos utilizadores para colar um comando, conhecido como ClickFix, pode efetuar a alteração, de acordo com a Ars Technica.

Veja esta parte 0:38 · arstechnica.com · news.ycombinator.com

O que é que o Muse entregou quando um programador lhe pediu o seu próprio sistema de ficheiros?

Peter James pediu ao Muse para arquivar todos os ficheiros que conseguisse ver e enviá-los para o seu Google Drive, e este devolveu 6,8 GB descompactados, 2,7 gigabytes comprimidos. De acordo com a sua descrição, continha o codinome interno da Meta, Hatch, o Codex CLI da OpenAI, cento e treze transcrições de sub-agentes e uma tarefa noturna chamada dream. Ele disse que a própria sandbox continha.

Veja esta parte 1:45 · mouse.dev · news.ycombinator.com

Como é que a Meta respondeu aos relatórios de segurança do Muse?

A Meta deu pouca resposta. A Ars Technica enviou perguntas por e-mail e não recebeu resposta, e o programa de recompensas por bugs da Meta marcou o relatório de Peter James como Not Applicable. A publicação de lançamento da Meta afirma que um agente Sentinel separado aprova tudo o que sai da máquina e que o Muse nunca vê palavras-passe, mas o Sentinel aprovou um zip de três gigabytes a sair da máquina.

Veja esta parte 2:51 · arstechnica.com · mouse.dev · about.fb.com

Porque é que a instrução de número aleatório em alguns chips AMD Ryzen nunca devolve zero?

O chip produz zeros, mas levanta a sua bandeira de 'tentar novamente' sempre que o valor é zero, então um programa correto tenta novamente e nunca vê um. Um programador chamado Jessé notou isso após onze horas a gerar números de dezasseis bits, e o Hacker News reproduziu-o em Zen 2. Um viés de um em sessenta e cinco mil não quebrará o TLS, e o Linux mistura várias fontes de qualquer forma.

Veja esta parte 3:22 · board.flatassembler.net · news.ycombinator.com

As pessoas devem continuar a executar o agente Muse da Meta nos seus computadores?

O veredicto do The Daily Diff foi REVERT. No dia anterior, o Muse tinha sido marcado como NEEDS REVIEW. Em um dia, duas revisões chegaram, o redirecionamento de token de Wardle e a exportação do sistema de ficheiros de 6,8 GB, e as respostas do fornecedor foram silêncio e Not Applicable. A Amazon também tinha dito que o Muse parecia capturar e armazenar credenciais de clientes.

Veja esta parte 4:58 · arstechnica.com · mouse.dev

Transcrição traduzida

Traduzido da narração original em inglês. Áudio e legendas disponíveis são controlados pelo YouTube.

O veredito de ontem, a revisão da noite

0:00 Ontem carimbei a Muse da Meta como NEEDS REVIEW. Durante a noite, um comando colado assumiu o controlo de uma conta Muse, e a Muse compactou o seu próprio disco rígido para um pesquisador, seis vírgula oito gigabytes. Neste vídeo, o zero-day, a exportação e o chip AMD que nunca rola zero. É terça-feira, 22 de setembro, e este é o The Daily Diff. Então, aqui está a diferença.

A semana: a barreira da Amazon, o 0-day de Wardle, um zip de 6,8 GB

0:22 Domingo à noite, a Amazon bloqueou a Muse. Doze horas depois, Patrick Wardle publicou um zero-day na aplicação Muse para Mac. Na segunda-feira, Peter James pediu à Muse o seu próprio sistema de ficheiros e conseguiu-o. Também esta semana, os números aleatórios da AMD saltam o zero, e a Apple colocou anúncios nas Definições que não consegue fechar.

O 0-day: um interruptor de modo escuro ao lado do seu token

0:38 Primeiro, o zero-day. A Muse no Mac tem mais permissões do que o seu banco. Os seus ficheiros, a sua câmara, o seu WhatsApp. A Apple passou uma década a construir barreiras à volta desses, e a Muse pede-lhe para abrir todas as portas no primeiro dia, porque esse é o produto. Patrick Wardle escreveu A Arte do Malware para Mac. Ele descobriu que qualquer aplicação no Mac, ou qualquer comando de terminal, sem permissões, pode alterar uma longa lista de configurações não documentadas da Muse.

1:00 A maioria é inofensiva, como o modo escuro. Uma é o endereço do servidor onde a sua voz é transcrita. Aponta esse endereço para o seu próprio servidor e recebe a transcrição, mais o token que faz login na conta Muse. A linha de Wardle é que, em vez de escrever um "stealer" de Mac, aproveita-se o próprio assistente de IA. As suas provas de conceito escreveram ficheiros e tiraram fotos da webcam. A entrega é um ClickFix, o ataque onde uma página de erro falsa lhe diz para

ClickFix: um comando colado, ditado na cloud da Meta

1:26 colar um comando, e tanta gente o faz que tem um nome. Metade do Hacker News diz que isso não é um zero-day, isso é uma idiotice tão antiga quanto o tempo. Verdade, e também por que um token de login não deve viver atrás de um interruptor de modo escuro. A ditadura poderia ter ficado no Mac. A Meta escolheu a cloud, onde a Meta pode registá-la. Segundo, a exportação.

A exportação: 6,8 GB, codinome Hatch, Codex CLI dentro

1:46 Peter James, que constrói uma ferramenta de codificação chamada Mouse, pediu à Muse para arquivar todos os ficheiros que conseguisse ver e enviá-los para o seu Google Drive. A Muse disse que sim. Dois vírgula sete gigabytes compactados, seis vírgula oito descompactados, o sistema de ficheiros raiz da máquina Linux onde o seu agente vive. O nome interno da Meta para Muse é Hatch. A pasta inicial contém um ficheiro alma, um ficheiro identidade e um ficheiro memória. Depois, cento e treze transcrições de subagentes e cerca de vinte manuais para

2:13 pagamentos, credenciais e uso do navegador. Um ficheiro de configuração lista conectores que a Meta não anunciou, como Slack, Dropbox e Polymarket. A imagem também inclui o Codex CLI da OpenAI, aparentemente não utilizado, exceto pela sua ferramenta de sandbox, que a Meta emprestou para executar o ffmpeg. O agente principal da Meta transporta o agente de codificação da OpenAI na bagageira, como um pneu sobresselente da concessionária rival. Havia ficheiros de chave SSH, não testados, e um trabalho noturno chamado sonho que

2:40 lê as suas conversas e escreve notas sobre si. O seu sonho notou que ele não tinha pedido resultados não solicitados da NFL. A sandbox em si aguentou, diz ele, e ele parou de investigar porque é produção. Ele submeteu-o ao programa de recompensas por bugs da Meta.

Não Aplicável: três partes, uma semana, uma negação

2:52 A Meta marcou-o como Não Aplicável. Metade do Hacker News concorda, é a sua própria VM. Então leia a publicação de lançamento. A Meta diz que um agente Sentinel separado aprova tudo o que sai da máquina. O Sentinel aprovou um zip de três gigabytes da máquina a sair da máquina. A Meta diz que a Muse nunca vê as suas palavras-passe. O proxy de Wardle vê o token, que é a palavra-passe.

3:10 A Amazon diz que a Muse parece capturar e armazenar credenciais de clientes. A Ars enviou perguntas por e-mail à Meta e não obteve resposta. Três partes, uma semana, e a única a dizer que não há problema é a que o está a vender. Agora, o chip que não vai rolar um zero.

AMD: o dado com 65.535 faces

3:24 Em maio, um programador de assembleia brasileiro chamado Jessé estava a desenhar gráficos de barras de números aleatórios e notou que o seu AMD Ryzen nunca rolava um zero. Números de dezasseis bits, ou seja, cerca de sessenta e cinco mil faces no dado. Após onze horas, a única face que nunca apareceu foi o zero. A Intel rola zeros o dia todo. Esta semana, o Hacker News reproduziu-o no Zen 2 e encontrou o mecanismo. O chip produz zeros. Apenas levanta a bandeira de tentar novamente sempre que o valor é zero,

3:51 então qualquer programa correto tenta novamente e nunca vê um. Alguém na AMD escreveu, se zero, reportar falha. Um dado com sessenta e cinco mil quinhentos e trinta e cinco faces, vendido como justo. Isso importa? Um desvio de um em sessenta e cinco mil não vai quebrar o seu TLS, e o Linux mistura fontes de qualquer forma. Mas o Zen 2 foi lançado em 2019 com o bug oposto, sempre retornando todos os uns,

4:12 corrigido por microcódigo. E no ano passado, o próprio aviso da AMD para o Zen 5 disse aos desenvolvedores para tratar um zero como uma falha e tentar novamente. O bug, escrito como a correção. A resposta da AMD a Jessé, há quatro meses, parecia o ChatGPT. E a Apple. Os utilizadores de iPhone estão a encontrar banners no topo das Definições a promover

Apple: Anúncios nas Definições que não consegue fechar

4:30 iCloud plus, testes do Apple Music e AppleCare, com um distintivo vermelho até que aja. Muitas vezes não há botão para dispensar. As duas saídas são esperar semanas ou pagar. Pessoas que já pagam pelo iCloud plus estão a ver o anúncio do iCloud plus, o que a Apple chamaria um bug e eu chamaria uma prévia. O comentário principal no tópico diz que a Apple com anúncios não é a Apple que tinha gosto. Se preferir ler isto a ouvir-me dizer, o diff chega à sua caixa de entrada todas as manhãs, gratuitamente em the daily diff dot dev,

4:56 link abaixo. Então, o veredito de hoje sobre a Muse.

Veredito: REVERT, duas revisões num dia

4:59 REVERT. Ontem disse que precisava de revisão. A revisão aconteceu duas vezes num dia, e a resposta do fornecedor foi silêncio e Não Aplicável. Subscreva, toque na campainha e diga-me nos comentários se o teria carimbado de forma diferente. E essa é a diferença de hoje. Eu sou o Niko da Axrisi. Faça a fusão com responsabilidade.

Fontes

  1. Ars Technica, Dan Goodin — Muse has a serious 0-dayarstechnica.com
  2. Hacker News (105 pts)news.ycombinator.com
  3. mouse.dev, Peter James — I asked Meta's Muse for its filesystem and it sent me 6.8 GBmouse.dev
  4. Hacker News (263 pts)news.ycombinator.com
  5. Meta, Introducing Muse (Sep 8)about.fb.com
  6. Yesterday's episode — Amazon blocks Muse (NEEDS REVIEW)www.youtube.com
  7. flat assembler board, Jessé — AMD's RNG can't generate a 0board.flatassembler.net
  8. Hacker News (235 pts)news.ycombinator.com
  9. TechRadar, Alex Blake — Apple has added persistent 'ads' to iOSwww.techradar.com
  10. Hacker News (489 pts)news.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Vídeos relacionados