Apple hamuje rozwój agentów AI

Co obejmuje ten film

• Dlaczego jedno uprawnienie na Macu nagle staje się większym ryzykiem?
• Co właściwie otwiera Full Disk Access?
• Dlaczego autonomiczne agenty zmieniają stawkę?
• Co deweloperzy mogą ograniczyć, zanim Apple to wprowadzi?
• Co właściwie robi nowy edytor przepustek Apple?

Przetłumaczona transkrypcja

Przetłumaczono z oryginalnej narracji angielskiej. Dostępne audio i napisy są kontrolowane przez YouTube.

Dlaczego jedno uprawnienie na Macu nagle staje się większym ryzykiem?

0:00 Można by pomyśleć, że kliknięcie Zezwól rozstrzyga o tym, co aplikacja może zobaczyć. Apple twierdzi, że coraz bardziej autonomiczne agenty AI sprawiają, że Full Disk Access jest znacznie ryzykowniejszy, i dodaje kontrole. W tym filmie, co agenci mogą czytać? Co Apple zmienia? Kto jeszcze zostaje narażony? Prywatność kogoś innego jest zagrożona na Twoim Macu. Wróćmy do nich przed werdyktem.

0:18 Jest sobota, trzeciego października, a to jest The Daily Diff. W piątek Apple ostrzegło deweloperów przed pełnym dostępem do dysku i wprowadziło edytor przepustek Wallet. Tymczasem sędzia federalny wstrzymał przepisy stanu Utah dotyczące lokalizacji VPN. Sarah Perez, reporterka TechCrunch, nazwała ogłoszenie Apple „strzałami oddanymi”. Cel pozostaje nienazwany w poście Apple, co jest imponująco korporacyjnym sposobem na rozpoczęcie kłótni. Dokumentacja Apple obejmuje dane Mail i Wiadomości,

Co właściwie otwiera Full Disk Access?

0:42 plus dane Safari. Obejmuje również kopie zapasowe Time Machine, aby Twoja aplikacja do tworzenia kopii zapasowych mogła działać. Apple twierdzi, że to w dużej mierze omija inne kontrole prywatności. Udzielasz go za pomocą Ustawień systemowych, a uprawnienie już istnieje. Ogłoszenie obiecuje dodatkowe kontrole wokół tego udzielenia. Na X, javi odpowiedział: „Mam nadzieję, że lubisz monity o uprawnienia”. To napięcie deweloperskie w sześciu słowach. Automatyzacja ciągle prosi nas o ręczne zatwierdzenie automatyzacji.

1:06 Utrzymaj jednak porządek w uprawnieniach. Dostępność i Automatyzacja mają oddzielne wpisy w przewodniku Apple. Odczytywanie chronionych danych i kontrolowanie innej aplikacji to różne możliwości, z różnymi kontrolami.

Dlaczego autonomiczne agenty zmieniają stawkę?

1:16 Program do tworzenia kopii zapasowych kopiuje Twoje pliki. Agent interpretuje to, co czyta, i może wywoływać narzędzia do działania na tym. Większa autonomia sprawia, że konsekwencje szerokiego dostępu są trudniejsze do przewidzenia. Istnieje już sporny przykład. Jason Aten powiedział, że Muse firmy Meta czytał jego wiadomości bez pozwolenia. Meta twierdzi, że integracja wymaga zarówno pełnego dostępu do dysku, jak i jego łącznika Wiadomości. Apple nie wymienia ani Muse, ani daty wprowadzenia. Twierdzi, że użytkownicy powinni rozumieć ten dostęp i udzielać go poprzez bardzo wyraźne

1:42 działanie. Rzeczywisty interfejs pozostaje brakującym zrzutem ekranu. Istnieje tu głębszy problem z agentami. E-mail lub strona internetowa mogą zawierać instrukcje, które próbują przekierować asystenta. To jest wstrzykiwanie promptów, a agent napotyka to podczas wykonywania pożytecznej pracy. Niezależni badacze stworzyli Agent Dojo, z dziewięćdziesięcioma siedmioma zadaniami i sześciuset dwudziestoma dziewięcioma przypadkami bezpieczeństwa. Testuje, czy niezaufane dane przejmują narzędzia agenta.

2:04 Są to historyczne wyniki laboratoryjne z dwudziestego czwartego roku. Przyszłe okno dialogowe Apple nie zostało jeszcze opublikowane, więc nikt nie świętuje jeszcze zwycięstwa. W jednej konfiguracji GPT-4o, ukierunkowany atak powiódł się w około czterdziestu ośmiu procentach przypadków. Filtrowanie dostępnych narzędzi zmniejszyło to do około siedmiu procent, z użyteczną lekcją projektowania.

Co deweloperzy mogą ograniczyć, zanim Apple to wprowadzi?

2:21 Daj asystentowi dane i narzędzia, których wymaga zadanie. Folder projektu to mniejsza powierzchnia wejściowa niż całe konto. Dostęp do odczytu można również oddzielić od uprawnienia do wysyłania lub usuwania. To kompromis produktowy, z którym deweloperzy już żyją. Terminal lub narzędzie do tworzenia kopii zapasowych może mieć uzasadniony powód do szerokiego dostępu. Nieostrożne jego usunięcie stworzyłoby bardzo bezpieczny, ale zepsuty przepływ pracy. Więc co Apple zmienia? Deklarowanym celem jest jaśniejsza, bardziej wyraźna zgoda na nadzwyczajny dostęp.

2:46 Nadal potrzebujemy wdrożenia, aby zobaczyć, jak zachowuje ono te uzasadnione zastosowania.

Co właściwie robi nowy edytor przepustek Apple?

2:50 Apple wprowadziło również Pass Designer, wizualny edytor przepustek Wallet. Zaczynasz od szablonu, importujesz swoje obrazy i podglądasz przepustkę podczas edycji. Apple twierdzi, że podgląd używa tego samego renderowania, co iPhone i Apple Watch. Weryfikuje pola i może tworzyć przepustkę kompatybilną wstecz z danych semantycznych. Tagi semantyczne opisują takie rzeczy jak szczegóły lotu i daty wydarzeń. Twój bilet na koncert może w końcu stać się danymi strukturalnymi, zanim stanie się rozmytym zrzutem ekranu w czyimś czacie rodzinnym.

3:15 Wersja beta wymaga macOS 17 lub nowszego. Apple wymienia bezpłatną rejestrację do pobrania. To pomaga w projektowaniu przepustek; ich wydawanie i dystrybucja wymaga własnego przepływu pracy.

Dlaczego strona internetowa nie może idealnie zlokalizować użytkownika VPN?

3:24 Potem jest Utah, gdzie prawodawcy chcieli, aby objęte przepisami strony internetowe dla dorosłych identyfikowały prawdziwą lokalizację użytkowników VPN lub ich blokowały. Sędzia federalny wstępnie zablokował zaskarżone przepisy dotyczące VPN. Electronic Frontier Foundation cytuje sąd, który stwierdził, że perfekcja geolokalizacji nie jest obecnie możliwa. Okazuje się, że stos sieciowy nadal odmawia implementacji funkcji tylko dlatego, że ustawodawstwo otworzyło zgłoszenie. Strona internetowa widzi adres serwera VPN.

3:49 To nie ustala, gdzie siedzi dana osoba. Traktowanie każdej ukrytej lokalizacji jako potencjalnego Utah, przesuwa wymóg daleko poza granice stanu. EFF cytuje rozumowanie sędziego, że Aylo musiałby zweryfikować dwadzieścia osiem milionów użytkowników, aby zagwarantować zgodność. To jest koszt żądania doskonałości od sygnału, który nie może jej dostarczyć. To jest wstępne zarządzenie.

4:08 Osobne ograniczenie dotyczące udostępniania informacji VPN nie zostało zaskarżone. Prawny diff nadal ma linie do przeglądu. Wszystkie trzy historie dotyczą granic. Edytor przepustek może sprawdzić pole. Strona internetowa widzi adres wyjściowy. Agent uzyskuje dowolny dostęp, który faktycznie udziela otaczający system. A osoba z początku to ta, która wysłała Ci wiadomość.

Kto zostaje narażony bez klikania Zezwól?

4:27 Apple wyraźnie ostrzega również o ich prywatności. Twoje pozwolenie może ujawnić rozmowę zawierającą dane kogoś innego, a oni nigdy nie kliknęli Twojego przycisku Zezwól. Nagłówek Slashdot nazywa to zwiększonym ryzykiem. To szersze grono jest powodem, dla którego mi zależy. Ekran uprawnień musi wyjaśniać, co otrzyma asystent. Jeśli wolisz to przeczytać, niż usłyszeć, jak to mówię, diff ląduje w Twojej skrzynce odbiorczej codziennie rano, bezpłatnie na the daily diff dot dev, link poniżej.

4:49 Więc dzisiejszy werdykt, NEEDS REVIEW.

Jaki jest mój werdykt na temat proponowanych kontroli Apple?

4:51 Chcę jaśniejszej zgody i węższego dostępu, z zachowaniem uzasadnionych przepływów pracy. Implementacja Apple zadecyduje, czy to zostanie zrealizowane. Zasubskrybuj, naciśnij dzwonek i powiedz mi w komentarzach, czy Ty byś to inaczej opatrzył. I to jest dzisiejszy diff. Jestem Niko z Axrisi. Łącz odpowiedzialnie.

Źródła

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com