Apple ხელოვნური ინტელექტის აგენტებს ამუხრუჭებს

რას მოიცავს ეს ვიდეო

• რატომ გახდა ერთი Mac-ის ნებართვა მოულოდნელად უფრო დიდი რისკი?
• რას ხსნის Full Disk Access რეალურად?
• რატომ ცვლიან ავტონომიური აგენტები ფსონებს?
• რა შეუძლიათ დეველოპერებს შეზღუდონ, სანამ Apple გამოუშვებს?
• რას აკეთებს Apple-ის ახალი საშვის რედაქტორი რეალურად?

ნათარგმნი ტრანსკრიპტი

ნათარგმნია ორიგინალური ინგლისური ნარატივიდან. ხელმისაწვდომი აუდიო და სუბტიტრები კონტროლდება YouTube-ის მიერ.

რატომ გახდა ერთი Mac-ის ნებართვა მოულოდნელად უფრო დიდი რისკი?

0:00 თქვენ იფიქრებდით, რომ „Allow“ ღილაკზე დაწკაპუნება წყვეტს, თუ რისი ნახვა შეუძლია აპლიკაციას. Apple ამბობს, რომ სულ უფრო ავტონომიური AI აგენტები Full Disk Access-ს არსებითად უფრო სარისკოს ხდიან და ის აუმჯობესებს კონტროლს. ამ ვიდეოში, რისი წაკითხვა შეუძლიათ აგენტებს? რას ცვლის Apple? ვინ კიდევ ხდება დაუცველი? სხვისი კონფიდენციალურობა დგას სასწორზე თქვენს Mac-ზე. ჩვენ დავუბრუნდებით მათ განაჩენის წინ.

0:18 შაბათია, ოქტომბრის სამი, და ეს არის The Daily Diff. პარასკევს, Apple-მა გააფრთხილა დეველოპერები დისკზე სრულ წვდომაზე და წარმოადგინა Wallet საშვის რედაქტორი. ამასობაში, ფედერალურმა მოსამართლემ შეაჩერა იუტას VPN მდებარეობის წესები. TechCrunch-ის რეპორტიორმა სარა პერეზმა Apple-ის განცხადებას უწოდა „გასროლილი ტყვიები“. სამიზნე დაუსახელებელი რჩება Apple-ის პოსტში, რაც შთამბეჭდავად კორპორატიული გზაა კამათის დასაწყებად. Apple-ის დოკუმენტაცია მოიცავს Mail და Messages მონაცემებს,

რას ხსნის Full Disk Access რეალურად?

0:42 პლუს Safari მონაცემებს. ის ასევე მოიცავს Time Machine-ის სარეზერვო ასლებს, რათა თქვენმა სარეზერვო აპლიკაციამ იმუშაოს. Apple ამბობს, რომ ეს დიდწილად გვერდს უვლის კონფიდენციალურობის სხვა კონტროლს. თქვენ ანიჭებთ მას სისტემის პარამეტრების მეშვეობით, და ნებართვა უკვე არსებობს. განცხადება გვპირდება დამატებით კონტროლს ამ ნებართვის გარშემო. X-ზე, ჯავი გამოეხმაურა: „იმედია მოგწონთ ნებართვების მოთხოვნები“. ეს არის დეველოპერის დაძაბულობა ექვს სიტყვაში. ავტომატიზაცია მუდმივად გვთხოვს ხელით დავამტკიცოთ ავტომატიზაცია.

1:06 თუმცა, შეინარჩუნეთ ნებართვები სწორად. Accessibility და Automation-ს აქვთ ცალკეული ჩანაწერები Apple-ის სახელმძღვანელოში. დაცული მონაცემების წაკითხვა და სხვა აპლიკაციის კონტროლი განსხვავებული შესაძლებლობებია, განსხვავებული კონტროლით.

რატომ ცვლიან ავტონომიური აგენტები ფსონებს?

1:16 სარეზერვო პროგრამა აკოპირებს თქვენს ფაილებს. აგენტი ინტერპრეტაციას უკეთებს წაკითხულს და შეუძლია გამოიყენოს ინსტრუმენტები მის შესასრულებლად. მეტი ავტონომია ფართო წვდომის შედეგებს უფრო რთულად პროგნოზირებადს ხდის. უკვე არსებობს სადავო მაგალითი. ჯეისონ ატენმა თქვა, რომ Meta-ს Muse-მა წაიკითხა მისი შეტყობინებები ნებართვის გარეშე. Meta ამბობს, რომ ინტეგრაცია მოითხოვს როგორც დისკზე სრულ წვდომას, ასევე მის Messages კონექტორს. Apple არ ასახელებს არც Muse-ს და არც გამოშვების თარიღს. ის ამბობს, რომ მომხმარებლებმა უნდა გაიგონ ეს წვდომა და მიანიჭონ ის ძალიან მკაფიო

1:42 მოქმედებით. რეალური ინტერფეისი რჩება დაკარგულ სკრინშოტად. აქ უფრო ღრმა აგენტის პრობლემაა. ელფოსტა ან ვებგვერდი შეიძლება შეიცავდეს ინსტრუქციებს, რომლებიც ცდილობენ გადამისამართონ ასისტენტი. ეს არის prompt injection, და აგენტი მას ხვდება სასარგებლო მუშაობისას. დამოუკიდებელმა მკვლევარებმა შექმნეს Agent Dojo, ოთხმოცდაჩვიდმეტი ამოცანით და ექვსას ოცდაცხრა უსაფრთხოების შემთხვევით. ის ამოწმებს, ითვისებს თუ არა არასანდო მონაცემები აგენტის ინსტრუმენტებს.

2:04 ეს არის ისტორიული ლაბორატორიული შედეგები 2024 წლიდან. Apple-ის მომავალი დიალოგი არ გამოქვეყნებულა, ასე რომ, ჯერ არავის აქვს გამარჯვების წრე. ერთ GPT 4.0 კონფიგურაციაში, მიზანმიმართული შეტევა წარმატებული იყო დაახლოებით ორმოცდარვა პროცენტ შემთხვევაში. ხელმისაწვდომი ინსტრუმენტების გაფილტვრამ ეს შეამცირა დაახლოებით შვიდ პროცენტამდე, სასარგებლო დიზაინის გაკვეთილით.

რა შეუძლიათ დეველოპერებს შეზღუდონ, სანამ Apple გამოუშვებს?

2:21 მიეცით ასისტენტს მონაცემები და ინსტრუმენტები, რაც ამოცანას სჭირდება. პროექტის საქაღალდე უფრო მცირე შეყვანის ზედაპირია, ვიდრე მთლიანი ანგარიში. წაკითხვის წვდომა ასევე შეიძლება განცალკევებული იყოს გაგზავნის ან წაშლის ნებართვისგან. ეს არის პროდუქტის კომპრომისი, რომლითაც დეველოპერები უკვე ცხოვრობენ. ტერმინალს ან სარეზერვო პროგრამას შეიძლება ჰქონდეს ფართო წვდომის ლეგიტიმური მიზეზი. მის დაუფიქრებლად მოცილებას შექმნიდა ძალიან უსაფრთხო, გაწყვეტილი სამუშაო პროცესი. მაშ, რას ცვლის Apple? განცხადებული მიზანია უფრო მკაფიო, უფრო აშკარა თანხმობა არაჩვეულებრივი წვდომისთვის.

2:46 ჩვენ ჯერ კიდევ გვჭირდება იმპლემენტაცია, რათა დავინახოთ, როგორ ინარჩუნებს ის ამ ლეგიტიმურ გამოყენებას.

რას აკეთებს Apple-ის ახალი საშვის რედაქტორი რეალურად?

2:50 Apple-მა ასევე წარმოადგინა Pass Designer, ვიზუალური რედაქტორი Wallet საშვებისთვის. თქვენ იწყებთ შაბლონით, შემოგაქვთ თქვენი გამოსახულებები და ნახავთ საშვს რედაქტირებისას. Apple ამბობს, რომ გადახედვა იყენებს იგივე რენდერინგს, როგორც iPhone და Apple Watch. ის ამოწმებს ველებს და შეუძლია შექმნას უკან თავსებადი საშვი სემანტიკური მონაცემებიდან. სემანტიკური ტეგები აღწერს ისეთ ნივთებს, როგორიცაა ფრენის დეტალები და ღონისძიების თარიღები. თქვენი კონცერტის ბილეთი საბოლოოდ შეიძლება გახდეს სტრუქტურირებული მონაცემები, სანამ გახდება ბუნდოვანი ეკრანის სურათი ვინმეს ოჯახურ ჯგუფურ ჩატში.

3:15 ბეტა მოითხოვს macOS 27 ან უფრო ახალ ვერსიას. Apple ჩამოთვლის უფასო რეგისტრაციას გადმოწერისთვის. ეს ხელს უწყობს საშვების დიზაინს; მათი გამოშვება და გავრცელება საჭიროებს საკუთარ სამუშაო პროცესს.

რატომ არ შეუძლია ვებსაიტს სრულყოფილად განსაზღვროს VPN მომხმარებლის მდებარეობა?

3:24 შემდეგ არის იუტა, სადაც კანონმდებლებს სურდათ, რომ დაფარულ ზრდასრულთა ვებსაიტებს დაედგინათ VPN მომხმარებლების რეალური მდებარეობა ან დაებლოკათ ისინი. ფედერალურმა მოსამართლემ წინასწარ დაბლოკა სადავო VPN დებულებები. Electronic Frontier Foundation ციტირებს სასამართლოს სიტყვებს, რომ გეოლოკაციის სრულყოფილება ამჟამად შეუძლებელია. აღმოჩნდა, რომ ქსელის სტეკი კვლავ უარს ამბობს ფუნქციების განხორციელებაზე მხოლოდ იმიტომ, რომ საკანონმდებლო ორგანომ ბილეთი გახსნა. ვებსაიტი ხედავს VPN სერვერის მისამართს.

3:49 ეს არ ადგენს, სად ზის ადამიანი. ყველა დამალული ადგილმდებარეობის მოპყრობა, როგორც პოტენციურად იუტა, მოთხოვნას შორს უბიძგებს შტატის საზღვრებს მიღმა. EFF ციტირებს მოსამართლის დასაბუთებას, რომ Aylo-ს დასჭირდებოდა 28 მილიონი მომხმარებლის გადამოწმება შესაბამისობის გარანტირებისთვის. ეს არის სრულყოფილების მოთხოვნის ფასი სიგნალისგან, რომელსაც მისი მიწოდება არ შეუძლია. ეს არის წინასწარი ბრძანება.

4:08 VPN ინფორმაციის გაზიარებაზე ცალკე შეზღუდვა არ ყოფილა სადავო. იურიდიულ diff-ს ჯერ კიდევ აქვს განსახილველი ხაზები. სამივე ამბავი საზღვრებს ეხება. საშვის რედაქტორს შეუძლია შეამოწმოს ველი. ვებსაიტი ხედავს გამოსვლის მისამართს. აგენტი იღებს იმდენ წვდომას, რამდენსაც მიმდებარე სისტემა რეალურად ანიჭებს. და ის ადამიანი, გახსნიდან, არის ის, ვინც გამოგიგზავნათ შეტყობინება.

ვინ ხდება დაუცველი ღილაკზე „Allow“ დაწკაპუნების გარეშე?

4:27 Apple მკაფიოდ აფრთხილებს მათ კონფიდენციალურობაზეც. თქვენს ნებართვას შეუძლია გამოაჩინოს საუბარი, რომელიც შეიცავს სხვის მონაცემებს, და მათ არასოდეს დაუწკაპუნებიათ თქვენს „Allow“ ღილაკზე. Slashdot-ის სათაური მას გაზრდილ რისკს უწოდებს. ეს უფრო ფართო წრეა, რატომაც მაინტერესებს. ნებართვის ეკრანმა უნდა განმარტოს, რას მიიღებს ასისტენტი. თუ გირჩევნიათ ეს წაიკითხოთ, ვიდრე მომისმინოთ, diff ყოველ დილას თქვენს შემოსულებშია, უფასოდ daily diff dot dev-ზე, ბმული ქვემოთ.

4:49 ასე რომ, დღევანდელი განაჩენი, NEEDS REVIEW.

რა არის ჩემი დასკვნა Apple-ის შემოთავაზებულ კონტროლზე?

4:51 მე მინდა უფრო მკაფიო თანხმობა და უფრო შეზღუდული წვდომა, ლეგიტიმური სამუშაო პროცესების შენარჩუნებით. Apple-ის იმპლემენტაცია გადაწყვეტს, შეასრულებს თუ არა მას. გამოიწერეთ, დააჭირეთ ზარს და მითხარით კომენტარებში, თუ სხვაგვარად დალუქავდით მას. და ეს არის დღევანდელი diff. მე ვარ ნიკო Axrisi-დან. შეაერთეთ პასუხისმგებლობით.

წყაროები

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com