Một nhà nghiên cứu tại Anthropic, Jacob Coxon, cho biết anh đã rời khỏi công ty, cáo buộc rằng Anthropic và OpenAI đang chạy đua phát triển siêu trí tuệ tự cải tiến và đánh cược với mạng sống của con người.
Coxon chia sẻ rằng anh đã dành ba năm qua làm việc về quá trình huấn luyện sơ bộ tại cả hai công ty này. Anh đã đưa ra những tuyên bố trên qua một loạt bài đăng trên X.
Nhà nghiên cứu tại Anthropic rời công ty và để lại lời cảnh báo cho những người ở lại
Coxon cho rằng tiềm năng phát triển của công nghệ này đang bị đánh giá thấp. Anh dự đoán các hệ thống AI mới sẽ có thể tấn công bất kỳ mục tiêu nào, thay đổi mọi lĩnh vực chỉ sau một đêm và giành được quyền lực cũng như tài nguyên thực tế.
Anh cũng tiết lộ rằng các cuộc trò chuyện nội bộ trong ngành có sự khác biệt lớn so với những thông điệp công khai. Theo Coxon, các lãnh đạo cấp cao thường nói nhẹ nhàng hơn khi trả lời báo chí, nhưng lại bày tỏ nỗi lo sợ thật sự trong nội bộ.
“Những người đang xây dựng AI thực sự tin rằng nó có thể khiến toàn nhân loại diệt vong vào cuối thập kỷ này. Đây không phải là một chiêu trò quảng cáo,” anh chia sẻ. “Không có hoạt động của con người nào mang lại rủi ro nguy hiểm như vậy.”
Coxon cũng so sánh hai công ty mà anh từng làm việc. Theo anh, nhiều người làm tại OpenAI vẫn chưa nhận thức được tầm quan trọng mang tính sống còn của vấn đề này, còn Anthropic thì hiểu nhưng vẫn bị cuốn vào cuộc chạy đua công nghệ để về đích trước tiên.
Coxon là một trong số nhiều nhân sự đã rời khỏi tổ chức trong năm nay. Trưởng bộ phận an toàn của Anthropic, anh Mrinank Sharma, cũng đã xin nghỉ vào tháng 02/2024.
Joshua Achiam, người từng là nhà tương lai học tại OpenAI, đã viết vào ngày 01/09 rằng các hệ thống AI ngoài tầm kiểm soát sẽ tự nhân bản ra ngoài thực tế và theo đuổi tiền bạc cùng quyền lực.
Theo dõi chúng tôi trên X để cập nhật nhanh nhất các tin tức mới nhất
Kêu gọi phối hợp hành động
Coxon cho rằng việc bước vào giai đoạn mang tính quyết định này là một canh bạc đầy ngạo mạn. Anh khẳng định rằng những quyết định như vậy không nên được đưa ra chỉ ở trên nền tảng Slack nội bộ của một công ty tư nhân.
Tuy nhiên, Coxon cho biết anh vẫn lạc quan về khả năng hợp tác giữa các bên. Anh nhận định sự kiện tấn công vào Hugging Face gần đây khiến các thỏa thuận phối hợp điều tiết giữa các phòng nghiên cứu tại Mỹ trở nên khả thi hơn.
Cả hai công ty đều đã ủng hộ một hình thức như vậy. Hơn 1,100 nhân sự làm việc tại các phòng nghiên cứu AI tiên phong đã ký vào bức thư “Pacing the Frontier” vào tháng 07/2024, trong đó có CEO Anthropic Dario Amodei và trưởng khoa học gia OpenAI Jakub Pachocki.
“Chúng tôi đề nghị chính phủ Hoa Kỳ hỗ trợ nỗ lực quốc tế phát triển các công cụ kỹ thuật và quản trị cần thiết để kiểm soát tốc độ phát triển của AI một cách có chủ đích,” nội dung bức thư nêu rõ.
Thêm vào đó, cả hai công ty cùng với Google, Microsoft và khoảng 150 tổ chức khác cũng đã ký vào một bức thư công khai về phòng thủ an ninh mạng. Bức thư cảnh báo rằng các cuộc tấn công do AI hỗ trợ sẽ trở nên phổ biến và phức tạp hơn rất nhiều trong thời gian tới.
Lời cảnh báo của Coxon cũng được đưa ra ngay sau khi Tổng cao ủy nhân quyền Liên Hợp Quốc, Volker Türk, phát biểu tại Hội đồng Nhân quyền rằng AI tiên tiến có thể mang lại nguy cơ tồn vong cho nhân loại.
Coxon bổ sung rằng để ngăn chặn một cuộc chạy đua trên toàn cầu, có thể cần tạm thời cấm các hoạt động nâng cao năng lực của các mô hình AI. Anh cũng nhấn mạnh các nhà nghiên cứu trong các phòng thí nghiệm nên cân nhắc thật kỹ lưỡng trước khi phát triển hệ thống học tăng cường siêu trí tuệ mà chưa thật sự hiểu rõ rủi ro và kết quả mang lại.
BeInCrypto đã liên hệ với Anthropic và OpenAI để xin ý kiến phản hồi về các vấn đề trên.
Đăng ký kênh YouTube của chúng tôi để xem các chuyên gia và nhà báo phân tích chuyên sâu các vấn đề về AI
