forge: Khung bảo mật, di động để triển khai các tác nhân AI
forge, được phát triển bởi Initializ, là một framework mã nguồn mở giúp các nhóm xác định, chạy và triển khai các tác nhân AI tự động trên các pipeline phát triển và sản xuất. Nó áp dụng một quy trình làm việc dựa trên cấu hình để nắm bắt hành vi của tác nhân, quyền truy cập vào công cụ và các tham số thời gian chạy, sau đó thực thi các tác nhân với việc lập lịch nhiệm vụ và duy trì ngữ cảnh. Nền tảng này nhấn mạnh việc triển khai an toàn, di động và khả năng tương tác với các giao thức mô hình và công cụ. Công cụ này nhắm đến các nhà phát triển AI và các nhóm DevOps cần quản lý và điều phối tác nhân theo định hướng sản xuất.
Lựa chọn thay thế được đề xuất hàng đầu
Các nhiệm vụ nào bạn thực sự có thể sử dụng nó cho?
Ứng dụng được xây dựng để tạo ra và vận hành các tác nhân tự động thực hiện công việc theo lịch trình, tương tác với các nền tảng nhắn tin và chạy các chuỗi công cụ theo miền cụ thể. Người dùng định nghĩa logic và các công cụ có sẵn trong một tệp cấu hình duy nhất, kết hợp các kỹ năng nguyên tử có thể tái sử dụng và kết nối các tác nhân với các kênh bên ngoài như Slack, Telegram và Discord. Môi trường bao gồm một bảng điều khiển web để giám sát các tác nhân và một cơ chế duy trì phiên để giữ ngữ cảnh hội thoại hoặc quy trình làm việc giữa các lần chạy.
Các thời gian chạy của tác nhân an toàn và có thể kiểm soát đến mức nào?
An ninh là một mục tiêu thiết kế chính, được thể hiện qua các ràng buộc thời gian chạy. Kiến trúc sử dụng mô hình truyền thông chỉ ra ngoài và tránh việc lộ diện các trình nghe công khai, giảm thiểu các vectơ tấn công vào. Các bí mật được lưu trữ dưới dạng mã hóa và việc cho phép miền giới hạn các đích bên ngoài. Những kiểm soát này đánh đổi khả năng kết nối môi trường để có sự quản lý chặt chẽ hơn, điều này có lợi cho các triển khai yêu cầu bề mặt tấn công mạng nhỏ hơn và các chính sách xuất khẩu nghiêm ngặt hơn.
Các mục tiêu triển khai và mẫu tích hợp nào mà nó hỗ trợ?
Ứng dụng nhắm đến phát triển cục bộ và sản xuất đám mây một cách bình đẳng. Nó chạy trên một trạm làm việc của nhà phát triển, trong các container Docker, và bên trong các cụm Kubernetes và tích hợp với Giao thức Ngữ cảnh Mô hình để phối hợp các mô hình và công cụ. Dự án mô tả một con đường thiết lập nhanh từ cài đặt đến thực thi tác nhân, và thiết kế của nó cho phép các nhóm thêm các công cụ hoặc kỹ năng mới mà không cần sửa đổi mã cốt lõi, điều này đơn giản hóa việc mở rộng qua các môi trường.
Nó có phù hợp với quy trình làm việc của nhà phát triển và DevOps không?
Khung làm việc phù hợp với các quy trình làm việc tập trung vào mã và hướng đến CI. Cách tiếp cận Kỹ năng như Mã và các mô-đun kỹ năng nguyên tử tương ứng với kiểm soát phiên bản, xem xét mã và quy trình kiểm tra. Các công cụ và bảng điều khiển hướng đến nhà phát triển hỗ trợ kiểm tra lặp lại, trong khi khả năng di chuyển sang các container và cụm giúp thúc đẩy các tác nhân từ giai đoạn thử nghiệm đến sản xuất. Các nhóm nên kết hợp các bài kiểm tra tự động với các cổng xem xét để giữ cho hành vi của tác nhân có thể dự đoán được trong quá trình triển khai.
Một lựa chọn thực tiễn cho các đội nhóm chuẩn hóa việc điều phối tác nhân
Công cụ này là một lựa chọn thực dụng cho các nhà phát triển AI và các đội DevOps cần điều phối tác nhân hướng đến sản xuất, được hỗ trợ bởi mã nguồn mở và sự đón nhận tích cực từ cộng đồng. Mô hình cấu hình đầu tiên của nó yêu cầu thử nghiệm và quản lý có kỷ luật cho việc sử dụng an toàn. Áp dụng ứng dụng trong các quy trình CI hiện có và thực thi thử nghiệm theo giai đoạn cũng như xem xét thủ công cho các kỹ năng mới trước khi triển khai rộng rãi để hạn chế các hành động không mong muốn của tác nhân.
