Apple bremst KI-Agenten aus

Was dieses Video behandelt

• Warum ist eine Mac-Berechtigung plötzlich ein größeres Risiko?
• Was öffnet Full Disk Access eigentlich?
• Warum ändern autonome Agenten die Spielregeln?
• Was können Entwickler begrenzen, bevor Apple ausliefert?
• Was macht Apples neuer Pass-Editor eigentlich?

Übersetztes Transkript

Aus der englischen Originalerzählung übersetzt. Verfügbare Audio- und Untertitel werden von YouTube gesteuert.

Warum ist eine Mac-Berechtigung plötzlich ein größeres Risiko?

0:00 Man könnte meinen, ein Klick auf „Zulassen“ klärt, was eine App sehen kann. Apple sagt, zunehmend autonome KI-Agenten machen Full Disk Access erheblich riskanter, und es werden Kontrollen hinzugefügt. In diesem Video, was können Agenten lesen? Was ändert Apple? Wer wird sonst noch exponiert? Die Privatsphäre einer anderen Person ist auf Ihrem Mac gefährdet. Wir kommen vor dem Urteil darauf zurück.

0:18 Es ist Samstag, der dritte Oktober, und das ist The Daily Diff. Am Freitag warnte Apple Entwickler vor dem vollständigen Festplattenzugriff und führte einen Wallet-Pass-Editor ein. Unterdessen hat ein Bundesrichter Utahs VPN-Standortregeln vorläufig ausgesetzt. TechCrunch-Reporterin Sarah Perez bezeichnete Apples Ankündigung als einen Schuss. Das Ziel bleibt in Apples Beitrag ungenannt, was eine beeindruckend geschäftsmäßige Art ist, eine Diskussion zu beginnen. Apples Dokumentation umfasst Mail- und Nachrichten-Daten,

Was öffnet Full Disk Access eigentlich?

0:42 plus Safari-Daten. Es enthält auch Time Machine-Backups, damit Ihre Backup-App funktionieren kann. Apple sagt, dies umgehe weitgehend andere Datenschutz-Kontrollen. Sie gewähren es über die Systemeinstellungen, und die Berechtigung existiert bereits. Die Ankündigung verspricht zusätzliche Kontrollen rund um diese Gewährung. Auf X antwortete javi: „Ich hoffe, Sie mögen Berechtigungsaufforderungen.“ Das ist die Entwicklerspannung in sechs Worten. Automatisierung fordert uns immer wieder auf, die Automatisierung manuell zu genehmigen.

1:06 Behalten Sie die Berechtigungen jedoch im Blick. Bedienungshilfen und Automatisierung haben separate Einträge in Apples Leitfaden. Das Lesen geschützter Daten und die Steuerung einer anderen App sind unterschiedliche Funktionen, mit unterschiedlichen Kontrollen.

Warum ändern autonome Agenten die Spielregeln?

1:16 Ein Backup-Programm kopiert Ihre Dateien. Ein Agent interpretiert, was er liest, und kann Tools aufrufen, um darauf zu reagieren. Mehr Autonomie macht die Folgen eines breiten Zugriffs schwerer vorhersehbar. Es gibt bereits ein umstrittenes Beispiel. Jason Aten sagte, Metas Muse habe seine Nachrichten ohne Erlaubnis gelesen. Meta sagt, die Integration erfordert sowohl vollen Festplattenzugriff als auch seinen Nachrichten- Konnektor. Apple nennt weder Muse noch ein Rollout-Datum. Es sagt, Benutzer sollten diesen Zugriff verstehen und ihn durch eine sehr explizite

1:42 Aktion gewähren. Die eigentliche Oberfläche bleibt ein fehlender Screenshot. Es gibt hier ein tieferes Agentenproblem. Eine E-Mail oder Webseite kann Anweisungen enthalten, die versuchen, den Assistenten umzuleiten. Das ist Prompt Injection, und der Agent begegnet ihr, während er nützliche Arbeit leistet. Unabhängige Forscher bauten Agent Dojo mit siebenundneunzig Aufgaben und sechs hundertneunundzwanzig Sicherheitsfällen. Es testet, ob nicht vertrauenswürdige Daten die Tools eines Agenten übernehmen.

2:04 Dies sind historische Laborergebnisse aus dem Jahr 2024. Apples zukünftiger Dialog wurde noch nicht veröffentlicht, also bekommt noch niemand eine Ehrenrunde. In einer GPT-4o-Konfiguration war der gezielte Angriff in etwa achtundvierzig Prozent der Fälle erfolgreich. Das Filtern verfügbarer Tools reduzierte dies auf etwa sieben Prozent, mit einer nützlichen Design-Lektion.

Was können Entwickler begrenzen, bevor Apple ausliefert?

2:21 Geben Sie einem Assistenten die Daten und Tools, die die Aufgabe benötigt. Ein Projektordner ist eine kleinere Eingabeoberfläche als ein ganzes Konto. Der Lesezugriff kann auch von der Berechtigung zum Senden oder Löschen getrennt werden. Das ist ein Produktkompromiss, mit dem Entwickler bereits leben. Ein Terminal- oder Backup-Dienstprogramm kann einen legitimen Grund für umfassenden Zugriff haben. Eine unvorsichtige Entfernung würde einen sehr sicheren, aber unterbrochenen Workflow schaffen. Was ändert Apple also? Das erklärte Ziel ist eine klarere, explizitere Zustimmung für außergewöhnlichen Zugriff.

2:46 Wir benötigen noch die Implementierung, um zu sehen, wie diese legitimen Verwendungen erhalten bleiben.

Was macht Apples neuer Pass-Editor eigentlich?

2:50 Apple stellte auch Pass Designer vor, einen visuellen Editor für Wallet-Pässe. Sie beginnen mit einer Vorlage, fügen Ihre Bilder ein und sehen den Pass in der Vorschau, während Sie bearbeiten. Apple sagt, die Vorschau verwendet dieselbe Darstellung wie iPhone und Apple Watch. Es validiert Felder und kann einen abwärtskompatiblen Pass aus semantischen Daten erstellen. Semantische Tags beschreiben Dinge wie Flugdetails und Veranstaltungsdaten. Ihre Konzertkarte kann endlich zu strukturierten Daten werden, bevor sie zu einem unscharfen Screenshot in einem Familien-Gruppenchat wird.

3:15 Die Beta erfordert macOS 27 oder höher. Apple listet eine kostenlose Registrierung für den Download auf. Dies hilft beim Entwerfen von Pässen; deren Ausstellung und Verteilung benötigt einen eigenen Workflow.

Warum kann eine Website einen VPN-Nutzer nicht perfekt lokalisieren?

3:24 Dann ist da Utah, wo Gesetzgeber wollten, dass Websites für Erwachsene die tatsächliche Position von VPN-Nutzern identifizieren oder sie blockieren. Ein Bundesrichter hat die angefochtenen VPN-Bestimmungen vorläufig blockiert. Die Electronic Frontier Foundation zitiert das Gericht, das sagt, dass Geolocation- Perfektion derzeit nicht möglich ist. Es stellt sich heraus, dass der Netzwerk-Stack sich immer noch weigert, Funktionen zu implementieren, nur weil ein Gesetzgeber ein Ticket eröffnet hat. Eine Website sieht die Adresse des VPN-Servers.

3:49 Das stellt nicht fest, wo die Person sitzt. Jeden versteckten Ort als potenziell Utah zu behandeln, drängt die Anforderung weit über die Staatsgrenzen hinaus. Die EFF zitiert die Begründung des Richters, dass Aylo achtundzwanzig Millionen Benutzer verifizieren müsste, um die Einhaltung zu garantieren. Das ist der Preis, wenn man Perfektion von einem Signal verlangt, das sie nicht liefern kann. Dies ist eine vorläufige Anordnung.

4:08 Die separate Beschränkung der Weitergabe von VPN-Informationen wurde nicht angefochten. Der rechtliche Unterschied muss noch geprüft werden. Alle drei Geschichten drehen sich um Grenzen. Ein Pass-Editor kann ein Feld überprüfen. Eine Website sieht eine Exit-Adresse. Ein Agent erhält den Zugriff, den das umgebende System tatsächlich gewährt. Und die Person vom Anfang ist derjenige, der Ihnen die Nachricht geschickt hat.

Wer wird ohne Klick auf „Zulassen“ exponiert?

4:27 Apple warnt auch explizit vor deren Privatsphäre. Ihre Erlaubnis kann eine Konversation mit den Daten einer anderen Person offenlegen, und diese haben nie auf Ihre Schaltfläche „Zulassen“ geklickt. Slashdots Schlagzeile nennt es ein erhöhtes Risiko. Dieser größere Kreis ist der Grund, warum es mir wichtig ist. Der Berechtigungsbildschirm muss erklären, was der Assistent erhalten wird. Wenn Sie dies lieber lesen als mich sprechen zu hören, landet der Diff jeden Morgen kostenlos in Ihrem Posteingang unter thedailydiff.dev, Link unten.

4:49 Also das heutige Urteil, NEEDS REVIEW.

Was ist mein Urteil zu Apples vorgeschlagenen Kontrollen?

4:51 Ich möchte eine klarere Zustimmung und einen engeren Zugriff, wobei legitime Workflows erhalten bleiben. Apples Implementierung wird entscheiden, ob dies gelingt. Abonnieren Sie, klicken Sie auf die Glocke und sagen Sie mir in den Kommentaren, ob Sie es anders gestempelt hätten. Und das ist der Diff für heute. Ich bin Niko von Axrisi. Verantwortungsvoll zusammenführen.

Quellen

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com