Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
“Sức mạnh của siêu trí tuệ có thể dẫn đến sự suy giảm quyền lực, hoặc thậm chí là sự tuyệt chủng của loài người” – đồng sáng lập OpenAI Ilya Sutskever nhận xét, đồng thời dự đoán AI siêu thông minh, hệ thống có khả năng thông minh hơn cả con người, có thể xuất hiện trong thập kỉ này.
Lãnh đạo của OpenAI cho biết, hiện tại vẫn chưa có giải pháp để điều khiển hay kiểm soát AI siêu thông minh. Do đó, cần có những bước đột phá trong “nghiên cứu liên kết”, tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.
Theo OpenAI, công ty sẽ dành 20% sức mạnh tính toán được đảm bảo để giải quyết vấn đề này trong vòng 4 năm tới. Ngoài ra, họ cũng đang thành lập một nhóm mới mang tên Superalignment, hoạt động với mục tiêu tạo ra một nghiên cứu căn chỉnh AI theo cấp độ con người, sau đó sẽ mở rộng thông qua một lượng lớn sức mạnh tính toán.
Điều này đồng nghĩa với việc các hệ thống AI sẽ được đào tạo thông qua các phản hồi của con người, từ đó sẽ hỗ trợ đánh giá và thực hiện các nghiên cứu căn chỉnh thay cho mỗi cá nhân.
Ông Connor Leahy – người sáng lập công ty xây dựng công nghệ AI Conjecture – đã đánh giá kế hoạch này của OpenAI là còn nhiều thiếu sót, do AI ở cấp độ con người có thể bị mất kiểm soát nếu như không giải quyết được các vấn đề về liên kết.
Những nguy hiểm tiềm tàng của AI vẫn luôn là mối quan tâm hàng đầu của các nhà nghiên cứu công nghệ và cả công chúng. Vào tháng 4 năm nay, một nhóm các nhà điều hành các công ty công nghệ hàng đầu đã đặt bút ký vào một bức thư ngỏ nhằm kêu gọi đặt ra những quy định về quản lý AI và nâng cao nhận thức về “nguy cơ tuyệt chủng” từ công nghệ này.
