Thỏa thuận của chúng tôi với Bộ Chiến Tranh

Thỏa thuận của chúng tôi với Bộ Chiến Tranh

Hôm qua, chúng tôi đã đạt được thỏa thuận với Lầu Năm Góc về việc triển khai các hệ thống AI tiên tiến trong các môi trường bí mật, và chúng tôi đã yêu cầu họ cũng cung cấp điều này cho tất cả các công ty AI.

Chúng tôi tin rằng thỏa thuận này có nhiều rào chắn hơn bất kỳ thỏa thuận nào trước đây cho các triển khai AI bí mật, bao gồm cả của Anthropic. Lý do là:

Các Nguyên Tắc Chính

• Không sử dụng công nghệ của OpenAI cho giám sát hàng loạt trong nước.
• Không sử dụng công nghệ của OpenAI để chỉ đạo các hệ thống vũ khí tự động.
• Không sử dụng công nghệ của OpenAI cho các quyết định tự động có rủi ro cao (ví dụ: hệ thống “tín dụng xã hội”).

Thỏa Thuận Của Chúng Tôi Bao Gồm:

1. Kiến Trúc Triển Khai. Đây là một triển khai chỉ sử dụng đám mây, với một “safety stack” mà chúng tôi điều hành bao gồm các nguyên tắc này và nhiều nguyên tắc khác. Chúng tôi không cung cấp cho Bộ Chiến Tranh các mô hình “không có rào chắn” hoặc không được đào tạo về an toàn, cũng như không triển khai trên các thiết bị biên.

2. Hợp Đồng. Ngôn ngữ hợp đồng quy định rằng hệ thống AI không được sử dụng để chỉ đạo vũ khí tự động một cách độc lập khi luật, quy định hoặc chính sách của Bộ yêu cầu có sự kiểm soát của con người.

3. Sự Tham Gia Của Chuyên Gia AI. Chúng tôi sẽ có các kỹ sư của OpenAI hỗ trợ với chuyên môn đã được xác nhận.

FAQ

Tại sao chúng tôi làm điều này?

• Chúng tôi tin rằng quân đội Hoa Kỳ cần các mô hình AI mạnh mẽ để hỗ trợ nhiệm vụ của họ.
• Chúng tôi muốn giảm bớt căng thẳng giữa Bộ Chiến Tranh và các phòng thí nghiệm AI tại Hoa Kỳ.

Thỏa thuận này có cho phép Bộ Chiến Tranh sử dụng mô hình của OpenAI để điều khiển vũ khí tự động không?

• Không. Thỏa thuận của chúng tôi bao gồm các biện pháp bảo vệ mạnh mẽ để ngăn chặn việc sử dụng như vậy.

Thỏa thuận này có cho phép giám sát hàng loạt người dân Hoa Kỳ không?

• Không. Các biện pháp pháp lý hiện hành và rào chắn an toàn đảm bảo điều này không thể xảy ra.