“Bố già AI” Geoffrey Hinton rời khỏi Google và lời cảnh báo về mối hiểm họa AI
TechLifestyle

“Bố già AI” Geoffrey Hinton rời khỏi Google và lời cảnh báo về mối hiểm họa AI

Mới đây, Geoffrey Hinton, người được mệnh danh là “Bố già AI”, đã rời vai trò của mình tại Google vào tuần trước để cảnh báo về “những mối nguy hiểm” của công nghệ mà ông đã giúp phát triển.

Geoffrey Hinton, người chiến thắng giải thưởng Turing Awards 2018 cho những đột phá về khái niệm và kỹ thuật, cảm thấy hối tiếc về công việc để đời của mình.

Công trình tiên phong của Hinton về mạng lưới thần kinh đã định hình hệ thống trí tuệ nhân tạo cung cấp năng lượng cho nhiều sản phẩm ngày nay. Ông ấy đã làm việc bán thời gian tại Google trong một thập kỷ cho các nỗ lực phát triển AI của gã khổng lồ công nghệ, nhưng kể từ đó, ông bắt đầu lo ngại về công nghệ và vai trò của mình trong việc thúc đẩy nó.

Hinton nói với tờ New York Times, tờ báo đầu tiên đưa tin về quyết định của ông: “Tôi tự an ủi mình bằng một lý do bình thườngnếu tôi không làm thì người khác cũng sẽ làm”. Trong một tweet của mình, Hinton cũng cho biết việc rời khỏi Google giúp ông có thể thoải mái và tự do hơn khi nói về những rủi ro của AI.

Jeff Dean, nhà khoa học trưởng của Google, cho biết Hinton “đã tạo ra những bước đột phá cơ bản về AI” và bày tỏ sự đánh giá cao đối với “thập kỷ đóng góp của Hinton tại Google”, nhưng cũng đồng thời khẳng định lập trường và thể hiện tinh thần trách nhiệm của Google, rằng “Chúng tôi vẫn cam kết thực hiện một cách tiếp cận có trách nhiệm đối với AI. Chúng tôi không ngừng học hỏi để hiểu những rủi ro mới nổi đồng thời cũng mạnh dạn đổi mới.”

Quyết định của Hinton rút lui khỏi công ty và lên tiếng về công nghệ này được đưa ra khi ngày càng có nhiều nhà lập pháp, nhóm vận động chính sách và những người trong ngành công nghệ đưa ra cảnh báo về khả năng một loại chatbot mới do AI cung cấp có thể truyền bá thông tin sai lệch và thay thế việc làm.

Làn sóng chú ý xung quanh ChatGPT vào cuối năm ngoái đã giúp làm mới cuộc “chạy đua vũ trang” giữa các công ty công nghệ để phát triển và triển khai các công cụ AI tương tự trong các sản phẩm của họ. OpenAI, Microsoft và Google đang đi đầu trong xu hướng này, nhưng IBM, Amazon, Baidu và Tencent đang làm việc trên các công nghệ tương tự.

Vào tháng 3, một số nhân vật nổi tiếng trong lĩnh vực công nghệ đã ký một lá thư kêu gọi các phòng thí nghiệm trí tuệ nhân tạo ngừng đào tạo các hệ thống AI mạnh nhất trong ít nhất sáu tháng, viện dẫn “những rủi ro sâu sắc đối với xã hội và nhân loại”.

Bức thư được xuất bản bởi Future of Life Institute, một tổ chức phi lợi nhuận do Elon Musk hậu thuẫn, được đưa ra chỉ hai tuần sau khi OpenAI công bố GPT-4, một phiên bản thậm chí còn mạnh mẽ hơn của công nghệ hỗ trợ ChatGPT. Trong các thử nghiệm ban đầu và bản demo của công ty, GPT-4 được sử dụng để soạn thảo các vụ kiện, vượt qua các bài kiểm tra tiêu chuẩn hóa và xây dựng một trang web hoạt động từ một bản phác thảo vẽ tay.

Bên cạnh đó, CEO Google Sundar Pichai cũng đã công khai cảnh báo về những rủi ro của AI. Anh ấy đã nói với “60 Minutes” vào tháng trước rằng xã hội chưa chuẩn bị cho những gì sắp tới. Đồng thời, Google cũng giới thiệu các sản phẩm của riêng mình, chẳng hạn như robot tự học và Bard, đối thủ cạnh tranh của ChatGPT.

Nhưng khi được hỏi liệu tốc độ thay đổi có thể vượt xa khả năng thích ứng của chúng ta hay không, Pichai đã hạ thấp rủi ro khi quả quyết: “Tôi không nghĩ vậy. Chúng tôi là một loài có khả năng thích nghi vô hạn.”

Trở lại vấn đề, chính xác thì điều Hinton lo ngại là tiềm năng của AI trong việc loại bỏ việc làm và tạo ra một thế giới mà nhiều người sẽ “không thể biết đâu là sự thật nữa”. Đó là những rủi ro ngắn hạn là sự gia tăng của những bức ảnh, video và văn bản giả mạo có vẻ như thật đối với người bình thường. Ông ấy cũng chỉ ra tốc độ thăng tiến đáng kinh ngạc, vượt xa những gì bản thân mình và những người khác đã dự đoán.

Ngay cả trước khi rời khỏi Google, Hinton đã nói công khai về khả năng gây hại cũng như lợi ích của AI.

“Tôi tin rằng sự tiến bộ nhanh chóng của AI sẽ biến đổi xã hội theo những cách mà chúng ta không hiểu hết và không phải tất cả các tác động đều tốt đẹp”, Hinton cho biết trong bài phát biểu khai giảng năm 2021 tại Viện Công nghệ Ấn Độ Bombay ở Mumbai . Ông lưu ý cách AI sẽ tăng cường chăm sóc sức khỏe đồng thời tạo cơ hội cho vũ khí tự động gây chết người. “Tôi thấy viễn cảnh này ngay lập tức và đáng sợ hơn nhiều so với viễn cảnh robot sẽ tiếp quản, điều mà tôi nghĩ là còn rất lâu nữa mới xảy ra.”

Nhìn chung, sự ra đi của Hinton là một mất mát lớn đối với Google Brain, nhóm đứng sau phần lớn công việc của công ty về AI. Vài năm trước, Google được cho là đã chi 44 triệu USD để mua lại một công ty do Hinton và hai sinh viên của ông thành lập vào năm 2012.

Nhóm nghiên cứu của ông đã tạo ra những bước đột phá lớn trong lĩnh vực học sâu giúp tăng tốc độ nhận dạng giọng nói và phân loại đối tượng. Công nghệ của họ sẽ giúp hình thành những cách sử dụng AI mới, bao gồm ChatGPT và Bard.

Google đã tập hợp các nhóm trong toàn công ty để tích hợp công nghệ của Bard và LLM vào nhiều sản phẩm và dịch vụ hơn. Tháng trước, công ty cho biết họ sẽ hợp nhất Brain với DeepMind để “đẩy nhanh đáng kể tiến độ của chúng tôi trong lĩnh vực AI”.

Hinton không phải là nhân viên Google đầu tiên giương cờ đỏ về AI. Vào tháng 7, công ty đã sa thải một kỹ sư tuyên bố rằng một hệ thống AI chưa được phát hành đã trở nên có tri giác, nói rằng anh ta đã vi phạm các chính sách về việc làm và bảo mật dữ liệu. Nhiều người trong cộng đồng AI đã phản đối mạnh mẽ lời khẳng định của kỹ sư.

Ảnh: Tổng hợp
 

Related Article