Tác giả: Alex McFarland
Được xuất bản 20 giây trước vào ngày 28 tháng 5, 2024
OpenAI đã đạt được những tiến bộ đáng kể trong việc phát triển các công nghệ trí tuệ nhân tạo, với thành tựu mới nhất là hệ thống GPT-4o, nền tảng của chatbot ChatGPT phổ biến. Hôm nay, OpenAI thông báo về việc thành lập một ủy ban an toàn mới, Hội Đồng An Toàn OpenAI, và tiết lộ rằng họ đã bắt đầu huấn luyện một mô hình AI mới.
Ai là thành viên của Hội Đồng An Toàn OpenAI?
Hội Đồng An Toàn OpenAI mới được thành lập nhằm cung cấp hướng dẫn và giám sát các quyết định quan trọng liên quan đến an toàn và bảo mật trong các dự án và hoạt động của công ty. Mục tiêu chính của hội đồng là đảm bảo rằng các thực hành phát triển AI của OpenAI ưu tiên an toàn và tuân theo các nguyên tắc đạo đức. Ủy ban an toàn gồm một nhóm đa dạng các cá nhân, bao gồm các giám đốc điều hành OpenAI, thành viên hội đồng quản trị và các chuyên gia kỹ thuật và chính sách.
Những thành viên đáng chú ý của Hội Đồng An Toàn OpenAI bao gồm:
- Sam Altman, CEO của OpenAI
- Bret Taylor, Chủ tịch của OpenAI
- Adam D’Angelo, CEO của Quora và thành viên hội đồng quản trị OpenAI
- Nicole Seligman, cựu cố vấn pháp lý của Sony và thành viên hội đồng quản trị OpenAI
Trong giai đoạn đầu tiên, ủy ban an toàn và bảo mật mới sẽ tập trung vào việc đánh giá và tăng cường các quy trình và biện pháp an toàn hiện có của OpenAI. Hội Đồng An Toàn OpenAI đã đặt ra thời hạn 90 ngày để đưa ra các khuyến nghị cho hội đồng quản trị về cách cải thiện các thực hành phát triển AI và hệ thống an toàn của công ty. Sau khi các khuyến nghị được chấp nhận, OpenAI dự định sẽ công khai chúng theo cách phù hợp với các cân nhắc về an toàn và bảo mật.
Huấn Luyện Mô Hình AI Mới
Song song với việc thành lập Hội Đồng An Toàn OpenAI, OpenAI đã thông báo rằng họ đã bắt đầu huấn luyện mô hình tiên tiến tiếp theo. Mô hình trí tuệ nhân tạo mới nhất này được dự kiến sẽ vượt qua khả năng của hệ thống GPT-4 hiện đang là nền tảng của ChatGPT. Mặc dù thông tin chi tiết về mô hình AI mới còn hạn chế, OpenAI cho biết rằng nó sẽ dẫn đầu ngành công nghiệp cả về khả năng lẫn an toàn.
Việc phát triển mô hình AI mới này nhấn mạnh tốc độ đổi mới nhanh chóng trong lĩnh vực trí tuệ nhân tạo và tiềm năng của trí tuệ nhân tạo tổng quát (AGI). Khi các hệ thống AI trở nên tiên tiến và mạnh mẽ hơn, điều quan trọng là phải ưu tiên an toàn và đảm bảo rằng các công nghệ này được phát triển một cách có trách nhiệm.
Các Tranh Cãi Gần Đây và Sự Ra Đi tại OpenAI
Sự tập trung mới của OpenAI vào an toàn diễn ra trong bối cảnh nội bộ công ty gặp nhiều biến động và bị công chúng chỉ trích. Trong những tuần gần đây, công ty đã phải đối mặt với sự chỉ trích từ chính nội bộ của mình, khi nhà nghiên cứu Jan Leike từ chức và bày tỏ lo ngại rằng an toàn đã bị xem nhẹ so với việc phát triển các “sản phẩm hào nhoáng.” Sự ra đi của Leike được theo sau bởi sự từ chức của Ilya Sutskever, đồng sáng lập và nhà khoa học trưởng của OpenAI.
Việc Leike và Sutskever rời đi đã đặt ra câu hỏi về các ưu tiên của công ty và cách tiếp cận của họ đối với an toàn AI. Hai nhà nghiên cứu này đã cùng nhau lãnh đạo nhóm “siêu liên kết” của OpenAI, một nhóm chuyên giải quyết các rủi ro lâu dài của AI. Sau khi họ từ chức, nhóm siêu liên kết đã bị giải tán, càng làm gia tăng mối lo ngại về cam kết của công ty đối với an toàn.
Ngoài những biến động nội bộ, OpenAI cũng đã phải đối mặt với các cáo buộc về việc giả giọng nói trong chatbot ChatGPT của mình. Một số người dùng cho rằng giọng nói của chatbot này có sự giống nhau đáng kể với diễn viên Scarlett Johansson. Mặc dù OpenAI đã phủ nhận việc cố tình giả giọng Johansson, sự việc này đã khơi dậy một cuộc trò chuyện rộng hơn về các vấn đề đạo đức của nội dung do AI tạo ra và khả năng bị lạm dụng.
Cuộc Đối Thoại Rộng Hơn về Đạo Đức AI
Khi lĩnh vực trí tuệ nhân tạo tiếp tục phát triển nhanh chóng, điều quan trọng là các công ty như OpenAI phải tham gia vào các cuộc đối thoại và hợp tác liên tục với các nhà nghiên cứu, nhà lập pháp và công chúng để đảm bảo rằng các công nghệ AI được phát triển một cách có trách nhiệm và với các biện pháp bảo vệ mạnh mẽ. Các khuyến nghị được đưa ra bởi Hội Đồng An Toàn OpenAI và cam kết minh bạch của OpenAI sẽ đóng góp vào cuộc đối thoại rộng hơn về quản trị AI và giúp định hình tương lai của công nghệ biến đổi này, nhưng chỉ có thời gian mới trả lời được kết quả sẽ ra sao.
