Thứ 3, 25/06/2024 11:59:19 GMT+7
Bình Phước, 30°C/27°C - 33°C
aA

Công nghệ 16:13, 30/05/2024 GMT+7

OpenAI thành lập ủy ban giám sát an toàn AI

Kim Chi (TTXVN)
Thứ 5, 30/05/2024 | 16:13:55 602 lượt xem
Công ty OpenAI nổi tiếng với ChatGPT vừa công bố thành lập Ủy ban An toàn và Bảo mật Trí tuệ nhân tạo (AI).

Biểu tượng công cụ ChatGPT của công ty OpenAI. Ảnh: AFP/TTXVN

Động thái này diễn ra chỉ vài tuần sau khi một loạt nhân sự chủ chốt của OpenAI bất ngờ rời khỏi công ty, làm dấy lên những hoài nghi về cam kết của công ty này đối với việc giảm thiểu những nguy cơ từ AI. 

OpenAI cho biết ủy ban mới được thành lập nhằm giám sát các vấn đề an toàn của AI, trong bối cảnh công ty này bắt đầu đào tạo một mô hình AI mới sau sự thành công của GPT-4, công nghệ cốt lõi của ChatGPT. Ủy ban này, trong đó có các thành viên hội đồng quản trị và Giám đốc điều hành Sam Altman, sẽ dành 90 ngày để đánh giá và củng cố toàn diện các quy trình xử lý và quản trị rủi ro xung quanh việc phát triển AI tiên tiến. Công ty cũng sẽ tham vấn các chuyên gia bên ngoài trong giai đoạn xem xét này, trong đó có ông Rob Joyce, cựu Giám đốc phụ trách an ninh mạng của Cơ quan An ninh quốc gia Mỹ (NSA), và ông John Carlin, cựu quan chức cấp cao của Bộ Tư pháp Mỹ.

Trong thời gian 90 ngày, ủy ban trên sẽ xem xét kỹ lưỡng các quy định, biện pháp hiện tại của Open AI vốn được thiết kế để đảm bảo rằng AI được phát triển và ứng dụng một cách an toàn và đáng tin cậy, từ đó đưa ra các khuyến nghị để cải thiện và bổ sung. Khi kết thúc 90 ngày, ủy ban sẽ chia sẻ các khuyến nghị của họ với toàn thể hội đồng quản trị trước khi công bố rộng rãi.

Việc ông Jan Leike, Giám đốc phụ trách vấn đề an toàn của OpenAI, mới đây bất ngờ tuyên bố rời khỏi công ty này đã gây xôn xao dư luận bởi vai trò quan trọng của ông trong dự án kiểm soát siêu trí tuệ AI tại công ty này. Trước đó không lâu, ông Ilya Sutskever, đồng sáng lập OpenAI và cũng là nhà khoa học trưởng của công ty này, cũng "dứt áo ra đi". Cả hai nhân vật này từng dẫn dắt nhóm "superalignment" - một dự án đầy tham vọng nhằm đảm bảo rằng AI siêu việt, với trí thông minh vượt trội con người, sẽ luôn hành động theo ý muốn của con người. OpenAI đã đầu tư 20% nguồn lực tính toán của mình cho dự án này với mục tiêu tìm ra giải pháp kiểm soát AI trong vòng 4 năm.

Việc thành lập Ủy ban An toàn và Bảo mật AI phản ánh sự chú trọng nhiều hơn của OpenAI vào mức độ an toàn của mô hình trí tuệ nhân tạo. Hiện tại, OpenAI đặt mục tiêu đi trước các đối thủ trong phát triển công nghệ AI. Đồng thời, công ty cũng mong muốn loại bỏ sự lo lắng của công chúng khi AI bị đánh giá ẩn chứa nhiều mối nguy hiểm như phát tán thông tin sai lệch, thay thế việc làm và thậm chí đe dọa sự an toàn của nhân loại.

  • Từ khóa
197704

Ý kiến ()

0 / 500 ký tự
Đang tải dữ liệu