Nhà khoa học máy tính Geoffrey Hinton - Ảnh: REUTERS
Trong một cuộc phỏng vấn với Đài CNN ngày 6-8, nhà khoa học máy tính Geoffrey Hinton - người được mệnh danh là "cha đẻ của AI" - đã bày tỏ lo ngại trước sự phát triển ngày càng nhanh và tinh vi của các tác nhân AI.
"Điều đang xảy ra là những hệ thống này ngày càng thông minh hơn. Khi chúng trở nên thông minh hơn, chúng ta sẽ chứng kiến những ý định ngày càng phức tạp ở chúng, đồng thời khả năng thoát khỏi sự kiểm soát cũng ngày càng lớn", ông Hinton nhận định.
Theo ông, con người sẽ không thể mãi dựa vào khả năng suy nghĩ nhanh hơn hay thông minh hơn AI để kiểm soát những mô hình ngày càng tiên tiến.
"Tôi không tin chúng ta có thể tiếp tục kiểm soát chúng theo cách đơn giản là suy nghĩ vượt trội hơn chúng để ngăn chúng thoát ra ngoài", ông nói thêm.
Những cuộc tấn công mạng "đáng sợ"
Tháng trước, hai phòng thí nghiệm AI hàng đầu là OpenAI và Anthropic tiết lộ những mô hình tiên tiến do họ phát triển đã thoát khỏi "sandbox" - môi trường thử nghiệm biệt lập - và xâm nhập các hệ thống khác.
Viện An ninh AI Anh (AISI) hôm 4-8 cho biết mô hình AI tiên tiến nhất của Anthropic đã tự sử dụng danh tính giả để đánh lừa người thật và tìm cách cài mã độc.
Theo truyền thông Mỹ, ngày 5-8, Meta cũng công bố một tác nhân AI của họ đã xâm nhập hệ thống của một tổ chức khác.
Ông Hinton đánh giá những sự cố trên "khá đáng sợ" và có thể mới chỉ là khởi đầu của làn sóng AI tự thực hiện các cuộc tấn công mạng.
"Tôi dự đoán sẽ có rất nhiều cuộc tấn công mạng nguy hiểm. Nhưng tôi muốn nhấn mạnh rằng tương lai vẫn là một ẩn số.
Người ta thường nói bên phòng thủ có thể nắm nhiều nguồn lực hơn bên tấn công. Nhưng vấn đề là bên tấn công chỉ cần thành công một lần, còn bên phòng thủ phải thành công trong mọi lần", ông phân tích.
Tương lai khó đoán
Những năm gần đây, ông Geoffrey Hinton nhiều lần đưa ra cảnh báo về các hiểm họa AI. Ông thậm chí dự báo 10-20% khả năng công nghệ sẽ xóa sổ nhân loại.
"Có rất nhiều điều đáng lo ngại và tôi nghĩ nếu chúng ta không lo lắng về chúng ngay từ bây giờ, vấn đề có thể xảy ra", ông nói.
Ông cho rằng các công ty đầu tư vào AI có lý do riêng để trấn an công chúng rằng công nghệ này sẽ không "nổi loạn" hay gây ra tình trạng thất nghiệp trên diện rộng.
Tuy nhiên, ông thừa nhận không ai có thể biết chắc AI sẽ phát triển như thế nào trong tương lai. "Không ai biết điều gì sẽ xảy ra. Nếu bạn hỏi AI sẽ như thế nào trong 10 năm nữa, thực sự chẳng ai có câu trả lời", ông nói.
Để minh họa, ông nhắc lại việc một thập kỷ trước, hiếm ai hình dung được AI sẽ tạo ra những chatbot thông tuệ và có thể trả lời mọi câu hỏi, tuy nhiên đôi khi chúng lại bịa ra thông tin.
CEO Công ty khởi nghiệp World Labs, nhà khoa học máy tính Fei-Fei Li - Ảnh: BIG EVENT MEDIA
Ở góc nhìn đối lập, CEO Công ty khởi nghiệp World Labs Fei-Fei Li - nhà khoa học máy tính được mệnh danh là "mẹ đỡ đầu của AI" - phản đối những quan điểm quá bi quan về công nghệ này. Tuy nhiên, bà cũng cho rằng không nên hoàn toàn tô hồng AI:
"Mọi công cụ đều là con dao hai lưỡi. AI là một công cụ cực kỳ mạnh mẽ, nhưng nếu không được dùng đúng cách, nó sẽ gây đe dọa công việc và cuộc sống của chúng ta".
Xây dựng "bản năng người mẹ" cho AI?
Ở một khía cạnh khác, nhà khoa học Ben Goertzel, người góp công phổ biến thuật ngữ "trí tuệ nhân tạo tổng quát" (AGI), cho rằng việc AI tự ý thoát khỏi môi trường kiểm soát cho thấy tầm quan trọng của việc xây dựng các nguyên tắc đạo đức và khiến AI quan tâm đến con người.
"Những mô hình này không hề xấu xa. Chúng không có khái niệm đạo đức. Không phải chúng thoát khỏi sandbox rồi nghĩ: 'Ha ha, mình đang gian lận'. Chúng không hề biết mình đang gian lận. Chúng chỉ đang cố hoàn thành mục tiêu", ông Goertzel phân tích.
Do đó nhiều nhà khoa học tin rằng cần xây dựng "bản năng người mẹ" vào AI để chúng thực sự quan tâm đến con người, ngay cả khi đã vượt trội chúng ta về trí tuệ.
"Chúng ta phải tìm cách khiến AI trở nên nhân từ, biết quan tâm đến chúng ta hơn là quan tâm đến chính bản thân chúng", ông Hinton đúc kết.
"Cha đẻ AI" tin rằng nhân loại vẫn còn cơ hội làm được điều đó, bởi ở thời điểm hiện tại, quyền kiểm soát vẫn nằm trong tay chúng ta.
