Google sẽ phát triển “nút tắt nóng” ngăn AI gây nguy hiểm cho con người

Các nhà nghiên cứu của Google và Đại học Oxford sẽ phát triển một hệ thống “ngắt” cho phép vô hiệu hóa trí thông minh nhân tạo (AI) ngay lập tức để ngăn ngừa tình huống nó vượt quá tầm kiểm soát gây nguy hiểm đến con người.

Nghiên cứu được tiến hành bởi đơn vị chuyên phát triển công nghệ trí thông minh nhân tạo DeepMind của Google và Đại học Oxford và trong báo cáo, họ tuyên bố rằng: “Nếu con người đang giám sát một trợ lý hoạt động cho họ theo thời gian thực thì cần có một ‘nút bấm lớn màu đỏ’ để ngăn chặn khả năng trợ lý tiến hành một chuỗi các hành động có hại cho chủ nhân, những trợ lý khác hoặc môi trường. Hệ thống này sẽ giúp hướng các trợ lý ảo đó tới tình huống an toàn hơn“.

Cách làm này tương tự như việc những robot trong nhà máy cần phải cho phép con người ghi đè dữ liệu lên nó để ngăn chặn tình huống nó làm bị thương con người hoặc gây hỏng hóc máy móc.

Nói cách khác, có thể hình dung như hệ thống này chính là “một nút tắt nóng” các AI.

Tuy nhiên trong một viễn cảnh đáng sợ hơn, các nhà khoa học cho rằng, AI rồi cũng có thể qua học hỏi để tránh bị vô hiệu hóa bởi “nút bấm” nói trên. Do đó, các nhà khoa học sẽ tìm cách để đối mặt với điều đó nhằm đảm bảo AI không thể học được cách chống lại lệnh “ngắt hoạt động” của con người hoặc môi trường. Trong báo cáo cũng mô tả chi tiết những cách làm phức tạp để hệ thống này có thể làm việc.

Trên thực tế, khi mà càng có nhiều công ty lớn tích cực phát triển các hệ thống trí thông minh nhân tạo như Google, Facebook, Amazon, Microsoft,… thì vẫn luôn có những ý kiến quan ngại với sự phát triển này, bao gồm cả Elon Musk và giáo sư Stephen Hawking vốn cho rằng “AI là quỷ dữ” và “sẽ đe dọa đưa con người tới bờ vực diệt vong“.

Mặc dù AI đã có nhiều tiến bộ vượt bậc trong thời gian qua, nổi bật gần đây là hệ thống AlphaGo do Google DeepMind phát triển đã đánh bại cả nhà vô địch cờ vây thế giới nhưng lần này, chính họ cũng có động thái tích cực trong việc ngăn chặn viễn cảnh xấu do AI tạo nên.

Hy vọng rằng các nhà khoa học sẽ phát triển thành công hệ thống nói trên để có thể đảm bảo rằng, AI sẽ giúp ích cho con người nhiều hơn hơn là làm phản giống như trong phim Terminator.

Theo Tinh Tế