Google sẽ phát triển “nút tắt nóng” ngăn AI gây nguy hiểm cho con người

04/06/16, 16:36 Công nghệ

Các nhà nghiên cứu của Google và Đại học Oxford sẽ phát triển một hệ thống “ngắt” cho phép vô hiệu hóa trí thông minh nhân tạo (AI) ngay lập tức để ngăn ngừa tình huống nó vượt quá tầm kiểm soát gây nguy hiểm đến con người.

Google sẽ phát triển "nút tắt nóng" ngăn AI gây nguy hiểm cho con người - H1

Nghiên cứu được tiến hành bởi đơn vị chuyên phát triển công nghệ trí thông minh nhân tạo DeepMind của Google và Đại học Oxford và trong báo cáo, họ tuyên bố rằng: “Nếu con người đang giám sát một trợ lý hoạt động cho họ theo thời gian thực thì cần có một ‘nút bấm lớn màu đỏ’ để ngăn chặn khả năng trợ lý tiến hành một chuỗi các hành động có hại cho chủ nhân, những trợ lý khác hoặc môi trường. Hệ thống này sẽ giúp hướng các trợ lý ảo đó tới tình huống an toàn hơn“.

Cách làm này tương tự như việc những robot trong nhà máy cần phải cho phép con người ghi đè dữ liệu lên nó để ngăn chặn tình huống nó làm bị thương con người hoặc gây hỏng hóc máy móc.

Nói cách khác, có thể hình dung như hệ thống này chính là “một nút tắt nóng” các AI.

Tuy nhiên trong một viễn cảnh đáng sợ hơn, các nhà khoa học cho rằng, AI rồi cũng có thể qua học hỏi để tránh bị vô hiệu hóa bởi “nút bấm” nói trên. Do đó, các nhà khoa học sẽ tìm cách để đối mặt với điều đó nhằm đảm bảo AI không thể học được cách chống lại lệnh “ngắt hoạt động” của con người hoặc môi trường. Trong báo cáo cũng mô tả chi tiết những cách làm phức tạp để hệ thống này có thể làm việc.

Trên thực tế, khi mà càng có nhiều công ty lớn tích cực phát triển các hệ thống trí thông minh nhân tạo như Google, Facebook, Amazon, Microsoft,… thì vẫn luôn có những ý kiến quan ngại với sự phát triển này, bao gồm cả Elon Musk và giáo sư Stephen Hawking vốn cho rằng “AI là quỷ dữ” và “sẽ đe dọa đưa con người tới bờ vực diệt vong“.

Mặc dù AI đã có nhiều tiến bộ vượt bậc trong thời gian qua, nổi bật gần đây là hệ thống AlphaGo do Google DeepMind phát triển đã đánh bại cả nhà vô địch cờ vây thế giới nhưng lần này, chính họ cũng có động thái tích cực trong việc ngăn chặn viễn cảnh xấu do AI tạo nên.

Hy vọng rằng các nhà khoa học sẽ phát triển thành công hệ thống nói trên để có thể đảm bảo rằng, AI sẽ giúp ích cho con người nhiều hơn hơn là làm phản giống như trong phim Terminator.

Theo Tinh Tế

Ad will display in 09 seconds

Người xưa đối đãi thế nào với rượu

Ad will display in 09 seconds

Trải nghiệm cận tử của một thanh niên Mỹ

Ad will display in 09 seconds

Chuyện cổ Phật gia: Ai tỉnh, ai say?

Ad will display in 09 seconds

Ác nghiệp khi phá thai, xem xong đừng khóc!

Ad will display in 09 seconds

Hé lộ một nửa sự thật về vụ Mỹ ném bom nguyên tử xuống Nhật Bản

Ad will display in 09 seconds

Kiếp trước Đức Phật là ai?

Ad will display in 09 seconds

Bài phát biểu của TT Trump trước toàn thể người dân Mỹ từ Nhà Trắng ngày 8/1/2019

Ad will display in 09 seconds

Lương tâm trong sạch thì hạnh phúc

Ad will display in 09 seconds

Lời tiên tri 1000 năm đã thành sự thật

Ad will display in 09 seconds

Kẻ xấu xí vì sao đắc quả La Hán?

  • Người xưa đối đãi thế nào với rượu

    Người xưa đối đãi thế nào với rượu

  • Trải nghiệm cận tử của một thanh niên Mỹ

    Trải nghiệm cận tử của một thanh niên Mỹ

  • Chuyện cổ Phật gia: Ai tỉnh, ai say?

    Chuyện cổ Phật gia: Ai tỉnh, ai say?

  • Ác nghiệp khi phá thai, xem xong đừng khóc!

    Ác nghiệp khi phá thai, xem xong đừng khóc!

  • Hé lộ một nửa sự thật về vụ Mỹ ném bom nguyên tử xuống Nhật Bản

    Hé lộ một nửa sự thật về vụ Mỹ ném bom nguyên tử xuống Nhật Bản

  • Kiếp trước Đức Phật là ai?

    Kiếp trước Đức Phật là ai?

  • Bài phát biểu của TT Trump trước toàn thể người dân Mỹ từ Nhà Trắng ngày 8/1/2019

    Bài phát biểu của TT Trump trước toàn thể người dân Mỹ từ Nhà Trắng ngày 8/1/2019

  • Lương tâm trong sạch thì hạnh phúc

    Lương tâm trong sạch thì hạnh phúc

  • Lời tiên tri 1000 năm đã thành sự thật

    Lời tiên tri 1000 năm đã thành sự thật

  • Kẻ xấu xí vì sao đắc quả La Hán?

    Kẻ xấu xí vì sao đắc quả La Hán?

x