OpenAI có khái niệm về siêu liên kết, một bước tiến đáng kể trong việc quản lý các rủi ro liên quan đến siêu trí tuệ. Siêu trí tuệ, được quảng cáo là công nghệ có tác động mạnh nhất từng được nhân loại phát minh, có thể giúp giải quyết nhiều vấn đề quan trọng nhất của thế giới. Tuy nhiên, sức mạnh to lớn của siêu trí tuệ nó cũng có thể rất nguy hiểm, dẫn đến sự mất quyền lực của nhân loại hoặc thậm chí là sự tuyệt chủng của loài người.
OpenAI trình bày Superalignment: nỗ lực "sắp xếp" trí tuệ nhân tạo với ý định của con người
Mặc dù siêu trí tuệ có vẻ còn xa vời, nhưng OpenAI tin rằng nó có thể sẽ xuất hiện trong thập kỷ này. Quản lý những rủi ro này sẽ yêu cầu, trong số những thứ khác, các thể chế mới để quản trị và giải quyết vấn đề liên kết siêu trí tuệ: Làm thế nào để các hệ thống AI thông minh hơn nhiều so với con người được đảm bảo rằng chúng tuân theo ý định của con người?
Hiện tại, không có giải pháp nào để hướng dẫn hoặc kiểm soát một hệ thống siêu trí tuệ. Các kỹ thuật căn chỉnh AI hiện tại họ dựa vào khả năng giám sát AI của con người, sẽ không thể mở rộng thành siêu trí tuệ. Mục tiêu của OpenAI là xây dựng một công cụ tìm kiếm căn chỉnh cấp độ con người tự động. Để đạt được mục tiêu này, các phương pháp đào tạo có thể mở rộng cần được phát triển.
Đọc thêm: AI và AGI: Giám đốc điều hành Google DeepMind dự đoán một bước đột phá sắp xảy ra
OpenAI đang tập hợp một nhóm các nhà nghiên cứu và kỹ sư máy học hàng đầu để giải quyết vấn đề này. 20% sức mạnh tính toán có sẵn trong bốn năm tới sẽ được dành riêng để giải quyết vấn đề này. Mục tiêu là giải quyết các thách thức kỹ thuật chính của liên kết siêu trí tuệ trong bốn năm. OpenAI mời tất cả những người đã thành công trong học máy tập trung sự chú ý của họ vào sự liên kết. Thành quả của nỗ lực này sẽ được chia sẻ rộng rãi, đồng thời sự liên kết và bảo mật của các mô hình không phải OpenAI là rất quan trọng. Cần lưu ý rằng công ty cũng sẽ làm việc để cải thiện tính bảo mật của các mô hình hiện tại và giải quyết các rủi ro khác từ AI.
Giải quyết sự liên kết siêu trí tuệ đòi hỏi những bộ óc tốt nhất trên thế giới. mở trí tuệ nhân tạo khuyến khích hợp tác liên ngành và tham gia tích cực vào các vấn đề kỹ thuật xã hội liên quan đến liên kết siêu trí tuệ.
