Giới hạn chi tiêu AWS có thể xóa dự án của bạn

Nội dung video này đề cập

• Giới hạn chi tiêu đám mây thực sự có thể bảo vệ điều gì?
• AWS thực sự ngừng chi tiêu của một dự án như thế nào?
• Ai nhận được giới hạn chi tiêu mới của AWS?
• Google giới hạn gì và những gì vẫn tiếp tục tính phí?
• Mô hình mã nguồn mở mới của Đức nhỏ đến mức nào?

Bản ghi đã dịch

Được dịch từ lời tường thuật tiếng Anh gốc. Âm thanh và phụ đề có sẵn được điều khiển bởi YouTube.

Giới hạn chi tiêu đám mây thực sự có thể bảo vệ điều gì?

0:00 Giới hạn chi tiêu có nghĩa là dự án phụ của bạn an toàn. Giới hạn mới của AWS có thể tạm dừng nó, và để nó tạm dừng cuối cùng có thể xóa dữ liệu. Trong video này, điều gì ngăn chặn hóa đơn? Có gì đáng chú ý? Ai thực sự nhận được những giới hạn này? Có một bộ đếm ngược trong tài liệu của AWS. Chúng ta sẽ theo dõi nó cho đến nút xóa. Đây là Chủ Nhật, ngày 4 tháng 10, và đây là The Daily Diff.

0:20 Vào thứ Bảy, Simon Willison đã kêu gọi các giới hạn chi tiêu mặc định khi các tác nhân làm cho việc triển khai phần mềm dễ dàng hơn. Đức phát hành Kolibri, trong khi những người bảo trì của Cosmic đã vạch ra ranh giới xung quanh các đóng góp AI. Lập luận của Willison quen thuộc một cách đau đớn. Một email cảnh báo đến vào lúc nửa đêm, dịch vụ vẫn tiếp tục chi tiêu, và bạn thức dậy với tư cách là nhà tài trợ bất đắc dĩ cho vòng lặp vô hạn của riêng mình. AWS đã giới thiệu giới hạn chi tiêu dự án trong trải nghiệm xây dựng đơn giản hóa của họ vào

AWS thực sự ngừng chi tiêu của một dự án như thế nào?

0:44 tháng 9. Khi mức sử dụng đạt giới hạn, AWS tạm dừng dự án và ngừng các tài nguyên của nó. Dữ liệu của bạn ban đầu được giữ lại. Đó là một thay đổi thực sự trong hợp đồng sản phẩm. Khách hàng có thể ủy quyền cho đám mây làm gián đoạn thử nghiệm. Một cảnh báo chi tiêu để lại quyết định cho bất cứ ai đọc hộp thư đến của họ. Một tác nhân mã hóa có thể cấp phát tài nguyên trong khi bạn đang chuẩn bị bữa tối. Hóa đơn thuộc về chủ tài khoản, người bằng cách nào đó đã trở thành cả phòng kỹ thuật và phòng tài chính.

1:09 Việc triển khai bị hạn chế và bạn cần một gói trả phí để đặt giới hạn.

Ai nhận được giới hạn chi tiêu mới của AWS?

1:13 Điều này thuộc về trải nghiệm dự án mới. Kiểm tra tính khả dụng trước khi cho rằng tài khoản hiện có của bạn có các kiểm soát tương tự. Mức trần áp dụng cho các khoản phí trước thuế và không bao gồm các khoản tín dụng. Mức tối thiểu là 20 đô la hoặc ước tính chi tiêu thận trọng của AWS, tùy theo cái nào cao hơn. Các tài nguyên đang chạy có thể đẩy mức tối thiểu đó lên. Điều đó quan trọng đối với một sandbox bị bỏ quên đầy máy móc đắt tiền. Bạn có thể phải dừng chúng trước khi đặt một giới hạn nhỏ hơn.

1:36 Lời khuyên tài chính của đám mây bắt đầu bằng việc tắt máy tính. AWS cũng cung cấp các kiểm soát sớm tùy chọn. Khoảng một tuần trước giới hạn dự kiến, nó có thể chặn các tài nguyên mới. Các phiên bản hiện có của bạn vẫn chạy, trong khi một nhóm tự động mở rộng quy mô có thể mất quyền mở rộng. Các tùy chọn khác tạm dừng các tài nguyên nhàn rỗi, sau đó các yếu tố chi phí hàng đầu khi dự báo càng gần. Một điểm cuối SageMaker không có cuộc gọi nào trong hai tuần được coi là nhàn rỗi. Bản demo bị lãng quên của bạn cuối cùng cũng nhận được một cuộc phỏng vấn kết thúc.

2:03 Willison muốn giới hạn cứng được bật theo mặc định, với chi tiêu không giới hạn là một lựa chọn rõ ràng. Đó là đề xuất của anh ấy. Tài liệu của AWS mô tả các kiểm soát bạn cấu hình, với quyền truy cập hạn chế trong quá trình triển khai này. Google đã công bố giới hạn chi tiêu của riêng mình vào tháng 7.

Google giới hạn gì và những gì vẫn tiếp tục tính phí?

2:17 Trong bản xem trước công khai, chúng nhắm mục tiêu một dịch vụ trong một dự án, và Google nói rằng giới hạn AI kích hoạt trong vòng vài phút sau khi đạt ngưỡng. Các dịch vụ được liệt kê bao gồm Gemini và Cloud Run. Các dịch vụ khác không bị ảnh hưởng. Các cam kết hợp đồng cố định vẫn tiếp tục tính phí, vì vậy việc tạm dừng sử dụng mới vẫn để lại bất kỳ cam kết nào bạn đã ký trên hóa đơn. Đối với một doanh nghiệp, việc ngừng hoạt động bất ngờ cũng có thể tốn kém. AWS rõ ràng đóng khung các giới hạn này xung quanh các thử nghiệm và sandbox,

2:43 với việc sử dụng sản xuất phụ thuộc vào việc tạm dừng tài nguyên có được chấp nhận hay không. Lời khuyên của tôi dành cho nhà phát triển rất đơn giản. Đặt các tác nhân thử nghiệm vào một dự án riêng biệt, kiểm tra các khoản phí mà giới hạn bao gồm, và kiểm tra quy trình phục hồi của bạn. Lan can cần một chủ sở hữu nhận thấy khi nó kích hoạt.

Mô hình mã nguồn mở mới của Đức nhỏ đến mức nào?

2:57 Trong khi đó, Aleph Alpha đã phát hành Kolibri, một mô hình mã nguồn mở cho tiếng Đức và tiếng Anh. Hoạt hình ra mắt của nó nói rằng chim nhỏ, cánh nhanh. Các trọng số có sẵn theo Apache 2.0. Chubby gọi nó là một bản phát hành mạnh mẽ đáng ngạc nhiên từ Đức. Phần hữu ích là kiểm soát triển khai. Một công ty có thể giữ các trọng số và chạy các tài liệu của mình thông qua cơ sở hạ tầng mà họ sở hữu. Khoảng ba tỷ rưỡi tham số hoạt động trên mỗi token, nhưng mô hình đầy đủ có bảy mươi tám tỷ.

3:22 Các trọng số được công bố của nó chiếm khoảng bảy mươi tám gigabyte, vì vậy chim nhỏ vẫn cần một cái lồng lớn. Tejas Kumar đã độc lập kiểm tra bộ token của nó trên hiến pháp Đức. Nó sử dụng ít hơn khoảng 15 phần trăm token so với bộ token của OpenAI bằng tiếng Đức. Trên bản dịch tiếng Anh, chúng thực sự ngang nhau. Đó là một phép đo hẹp, hữu ích về hiệu quả văn bản tiếng Đức. Anh ấy nói rằng anh ấy chưa chạy mô hình đó. Giữ sự phân biệt đó khi một biểu đồ ra mắt thân thiện cố gắng trở thành

3:46 bộ phận mua sắm của bạn. Và trình biên soạn Cosmic của System76 hiện yêu cầu

COSMIC từ chối điều gì trong các yêu cầu pull?

3:50 những người đóng góp phải chứng nhận rằng yêu cầu pull của họ không chứa nội dung được tạo bởi mô hình ngôn ngữ. Mẫu rõ ràng bao gồm mã, bình luận và mô tả. Những người đóng góp cũng hứa rằng họ hiểu và đã kiểm tra thay đổi. Kho lưu trữ Flatpak có một ngoại lệ cho nguồn ứng dụng và tệp kê khai của riêng họ. Đọc mẫu thực tế trước khi coi toàn bộ dự án là một quy tắc. Máy có thể tạo ra một bản vá khác trong vài giây. Ai đó vẫn phải đọc nó.

4:14 Ngày nay đám mây đặt giới hạn cho thử nghiệm, và những người bảo trì đặt giới hạn cho hàng đợi xem xét. Quay lại dự án AWS bị tạm dừng đó. Tăng giới hạn chi tiêu có thể kích hoạt lại nó, và một số tài nguyên có thể cần khởi động lại thủ công. Phục hồi là một quy trình bạn nên hiểu trước khi một tác nhân chi tiêu khoản cho phép. Bộ đếm ngược là 90 ngày.

Khi nào việc tạm dừng trở thành mất dữ liệu vĩnh viễn?

4:31 AWS nói rằng nếu bạn không thực hiện hành động nào trong thời gian đó sau khi dự án bị tạm dừng, nó sẽ xóa vĩnh viễn dữ liệu dự án. Đặt một bản sao lưu bên ngoài bán kính vụ nổ của dự án đó. Một hóa đơn đã dừng và một bản sao lưu được giữ lại là hai công việc riêng biệt. Tôi muốn giới hạn, và tôi muốn một kế hoạch phục hồi. Nguyên mẫu cuối tuần bị bỏ rơi của tôi nên nghỉ hưu một cách đàng hoàng. Nếu bạn muốn đọc điều này hơn là nghe tôi nói, bản diff sẽ đến hộp thư đến của bạn mỗi sáng, miễn phí tại thedailydiff.dev, liên kết bên dưới.

Đánh giá của tôi về các kiểm soát chi tiêu mới là gì?

4:55 Vậy phán quyết hôm nay, NEEDS REVIEW. Tôi hoan nghênh các giới hạn chi tiêu được thực thi. Tôi sẽ xác minh tính khả dụng, các khoản phí được bảo hiểm và khả năng phục hồi trước khi giao tài khoản cho một tác nhân. Đồng hồ xóa 90 ngày xứng đáng có một cảnh báo rất dễ thấy. Và đó là bản diff cho ngày hôm nay. Tôi là Niko từ Axrisi. Hợp nhất có trách nhiệm.

Nguồn

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com