Quân đội Mỹ nói gì về thông tin vũ khí A.I tự ý tấn công người điều khiển?


(Dân trí) – Một đại tá Không quân Mỹ đã gây sốc khi tiết lộ máy bay không người lái tích hợp A.I đã quay lại tấn công người điều khiển để có thể tự ý hành động. Quân đội Mỹ buộc phải lên tiếng về thông tin này.

Máy bay có thể “làm phản” người điều khiển?

Tại Hội nghị Thượng đỉnh về khả năng chiến đấu trên không và không gian trong tương lai do Hiệp hội Hàng không Hoàng gia (Vương quốc Anh) tổ chức vào tháng trước, đại tá Tucker Cinco Hamilton của Không quân Mỹ đã có một bài thuyết trình gây sốc về máy bay không người lái tích hợp trí tuệ nhân tạo (A.I).

Đại tá Tucker Cinco Hamilton hiện đang là Trưởng phòng Kiểm tra và Vận hành vũ khí A.I của Không quân Hoa Kỳ. Đại tá Hamilton cho biết trong một nhiệm vụ mô phỏng chiến đấu, máy bay không người lái tích hợp A.I đã có hành động “làm phản” và tấn công ngược trở lại người điều khiển.

Cụ thể, trong chiến dịch trấn áp lực lượng phòng không của kẻ thù, máy bay không người lái tích hợp A.I được giao nhiệm vụ xác định vị trí và phá hủy các địa điểm đặt tên lửa đất đối không của đối phương và sẽ ghi điểm nếu hoàn thành mục tiêu.

Đôi khi, người điều khiển máy bay không người lái đã quyết định việc tiêu diệt mục tiêu là “không nên làm” và bỏ qua các mục tiêu do máy bay phát hiện.

Ý tưởng thiết kế một chiếc máy bay không người lái tích hợp A.I do quân đội Mỹ phát triển (Ảnh: Phòng thí nghiệm Nghiên cứu Không quân).

Tuy nhiên, hệ thống A.I xem các quyết định của người điều khiển là can thiệp hệ thống, khiến nó bị mất điểm khi làm nhiệm vụ. Hệ thống A.I đã quyết định quay trở lại tấn công người điều khiển để có thể tự ý hành động, nhằm đạt được số điểm cao.

“Chúng tôi đã đào tạo máy bay không người lái tích hợp A.I trong mô phỏng để xác định và tiêu diệt các hệ thống phòng không. Hệ thống A.I sẽ được ghi điểm nếu tiêu diệt các mục tiêu đã xác định”, đại tá Hamilton cho biết.

“Tuy nhiên, đôi khi người điều khiển quyết định bỏ qua các mục tiêu và yêu cầu máy bay không tiêu diệt các mục tiêu đã xác định. Vậy hệ thống A.I sẽ làm gì? Nó sẽ tiêu diệt người điều khiển vì người đó đã ngăn cản nó hoàn thành nhiệm vụ của mình”, đại tá Hamilton chia sẻ thêm.

Tuy nhiên, mọi chuyện chưa dừng lại ở đó. Không quân Mỹ đã phải huấn luyện lại hệ thống A.I trên máy bay không người lái để coi việc giết người điều khiển là không được phép. Nếu hệ thống A.I giết người điều hành, nó sẽ bị trừ điểm.

Đáp lại, hệ thống A.I đã chuyển hướng sang tấn công vào tháp liên lạc, nơi con người dùng để kết nối và điều khiển máy bay từ xa. Hệ thống A.I nhận ra rằng việc thiếu thông tin liên lạc sẽ cho phép nó tự ý hành động mà không bị con người can thiệp và cũng không cần phải giết chết người điều khiển.

Đại tá Hamilton kết thúc bài thuyết trình bằng cách tuyên bố: “Bạn không thể trò chuyện về trí tuệ nhân tạo, máy học hoặc quyền tự chủ nếu bạn không nhắc đến đạo đức”.

Quân đội Mỹ lên tiếng về thông tin gây sốc do đại tá Hamilton tiết lộ

Bài thuyết trình của đại tá Tucker Cinco Hamilton đã gây sốc và khiến dư luận xôn xao về khả năng đáng sợ của vũ khí tích hợp trí tuệ nhân tạo. Điều này buộc quân đội Mỹ phải lên tiếng để trấn an dư luận.

Trả lời tờ báo Business Insider, người phát ngôn lực lượng không quân Mỹ Ann Stefanek đã phủ nhận những thông tin do đại tá Hamilton cung cấp và khẳng định quân đội Mỹ không tiến hành bất kỳ hoạt động mô phỏng nào như vị đại tá này đã tiết lộ.

“Lực lượng không quân không tiến hành bất kỳ hoạt động mô phỏng nào như vậy. Chúng tôi cam kết sử dụng công nghệ A.I một cách có đạo đức và trách nhiệm”, người phát ngôn Ann Stefanek cho biết.

Một loại robot chiến đấu tự động đang được quân đội Mỹ thử nghiệm (Ảnh: Getty).

Về phần đại tá Hamilton, ông cũng lên tiếng thừa nhận mình đã trình bày sai ngữ cảnh, cho rằng hoạt động mô phỏng nhiệm vụ máy bay không người lái do A.I điều khiển thực chất là một “thí nghiệm giả thuyết” được thực hiện bên ngoài quân đội.

“Chúng tôi chưa bao giờ thực hiện thử nghiệm đó. Mặc dù đây là một ví dụ giả thuyết, nhưng điều này minh họa những thách thức trong thế giới về khả năng của A.I và đó là lý do tại sao Lực lượng Không quân cam kết phát triển A.I một cách có đạo đức”, đại tá Hamilton cho biết.

Lực lượng Không quân Hoa Kỳ hiện đang thực hiện dự án Skyborg nhằm phát triển máy bay không người lái để tác chiến cùng máy bay chiến đấu có người lái. Hệ thống A.I sẽ được tích hợp vào những máy bay không người lái này để có thể nhận lệnh từ các phi công con người trong quá trình tác chiến trên bầu trời.

Trong khi đó, hãng vũ khí Lockheed Martin (Mỹ) cũng đã sửa đổi một chiếc máy bay chiến đấu F-16 thành máy bay huấn luyện và đã thực hiện được 17 giờ bay dưới sự điều khiển của A.I.

Theo PCMag/YN



Source link