Mẫu dữ liệu nhạy cảm tích hợp
Chọn trong 11 mẫu cho API key, token, khóa riêng, số thẻ, ID, hộ chiếu, cùng các mẫu email, điện thoại và IP.
Lọc nội dung cho tổ chức
Giữ các prompt nhạy cảm trong tầm kiểm soát
trước khi đến mô hình
Đặt quy tắc do tổ chức quản lý cho các yêu cầu gửi qua BazaarLink. Chọn nội dung cần che, chặn hoặc đánh dấu trước khi gọi mô hình.
Phạm vi này áp dụng cho các yêu cầu gửi qua BazaarLink. Ứng dụng bên thứ ba không gửi qua BazaarLink nằm ngoài kiểm soát này.
Những gì tổ chức có thể kiểm soát
Mẫu prompt injection
Nhóm prompt injection có 25 mẫu, bao gồm cả mẫu tiếng Trung. Ngoài ra còn có 3 bộ phát hiện hành vi né tránh.
Quy tắc tùy chỉnh
Thêm quy tắc từ khóa hoặc regex do tổ chức quản lý, bật hoặc tắt từng quy tắc và chọn thao tác cho mỗi quy tắc.
Kiểm tra mẫu an toàn
Các dạng regex không an toàn hoặc không được hỗ trợ sẽ bị từ chối khi lưu thay vì trở thành quy tắc đang hoạt động.
Kiểm thử trước khi áp dụng
Tab cài đặt tổ chức có công cụ dry-run dùng bộ đối sánh được bảo vệ với văn bản mẫu.
Quyền truy cập mô hình tách biệt
Một allowlist mô hình riêng có thể giới hạn những mô hình mà tổ chức, nhóm hoặc thành viên được phép gọi.
Kiểm tra tổ chức được áp dụng ở đâu
Kiểm tra tổ chức dùng chung chạy trước khi gửi đến mô hình trên các bề mặt nội dung khách hàng sử dụng cơ chế này.
Chat Completions kiểm tra nội dung từ khóa tổ chức trước khi gửi đến mô hình, bao gồm lưu lượng BYOK và BYOC.
Messages kiểm tra văn bản và nội dung công cụ từ khóa tổ chức trước khi gửi.
Responses kiểm tra đầu vào chuỗi, văn bản tin nhắn cùng các mục gọi hàm và kết quả trước khi gửi.
Cơ chế kiểm tra dùng chung này cũng có mặt với embeddings, tạo ảnh, âm thanh, đánh giá và gửi video.
Giới hạn quan trọng
- Đọc cấu hình
- Nếu việc đọc nội bộ cấu hình bộ lọc thất bại, luồng xử lý hiện tại coi bộ lọc là đã tắt và không lọc yêu cầu đó.
- Nội dung có cấu trúc
- Chỉ quét nội dung dạng chuỗi được chọn cho từng endpoint; giá trị có cấu trúc hoặc đa phương thức được xử lý theo định nghĩa của endpoint đó.
- Quyền truy cập mô hình
- Allowlist mô hình là cơ chế kiểm soát riêng cho tổ chức, nhóm và thành viên; danh sách trống nghĩa là không hạn chế ở lớp đó.
Câu hỏi thường gặp
Ứng dụng bên thứ ba có được áp dụng không?
Chỉ khi yêu cầu được gửi qua BazaarLink. Ứng dụng gửi trực tiếp đến nơi khác không thuộc các quy tắc tổ chức này.
Mỗi thao tác thực hiện điều gì?
Đánh dấu sẽ được ghi vào nhật ký kiểm toán bảo mật và không thay đổi yêu cầu. Che sẽ thay thế văn bản khớp. Chặn sẽ từ chối yêu cầu trước khi gọi mô hình.
Có thể thử mẫu trước khi lưu không?
Có. Tab bộ lọc nội dung trong cài đặt tổ chức có công cụ thử mẫu và dùng cùng một bộ máy được bảo vệ.
Điều gì xảy ra nếu có sự cố?
Lỗi đọc cấu hình hiện được xử lý bằng trạng thái tắt và không lọc. Lỗi đối sánh hoặc đánh giá sẽ được xử lý thận trọng bằng cách chặn.
Bắt đầu với các quy tắc tổ chức cần
Mở cài đặt bộ lọc nội dung để chọn mẫu, thêm mẫu nhận diện và thử nghiệm bằng văn bản mẫu.
Mở cài đặt bộ lọc nội dung