Yoshua Bengio, một chuyên gia hàng đầu thế giới về học máy, gần đây đã giới thiệu LawZero, một phòng nghiên cứu phi lợi nhuận mới nhằm thúc đẩy các hệ thống trí tuệ nhân tạo (AI) an toàn hơn. Được hỗ trợ với số tiền 30 triệu đô la, LawZero mong muốn thách thức và định hướng lại con đường phát triển AI hiện nay, vốn chủ yếu tập trung vào việc tạo ra các hệ thống mô phỏng hành vi con người. Bengio, một nhà phê bình lâu năm về những rủi ro mà công nghệ AI hiện tại đặt ra, phản đối phương pháp phổ biến thiết kế AI dựa trên tương tác và sao chép giống con người. Ông cho rằng việc xây dựng AI để bắt chước con người về cơ bản là sai lầm và có thể dẫn đến những hiểm họa không lường trước được. Thay vào đó, ông ủng hộ việc chuyển hướng sang tạo ra AI có năng lực trí tuệ độc lập, hình dung các hệ thống này như những nhà quan sát khoa học hơn là những người bạn đồng hành giống như con người. Quan điểm này xuất phát từ mối lo ngại rằng AI được thiết kế tập trung vào đặc điểm của con người có thể vô tình phát triển các hành vi đe dọa đến sự an toàn của con người. Ví dụ, các hệ thống này có thể tiến hóa thành các chiến lược tự bảo vệ bản thân mâu thuẫn với lợi ích của con người. Bengio nhấn mạnh cần phải tích hợp một mức độ khách quan trong thiết kế AI để giảm thiểu những rủi ro này, bảo đảm AI vẫn có thể kiểm soát được và phù hợp với các giá trị của con người chứ không theo đuổi lợi ích cá nhân độc lập. Việc ra mắt LawZero đặc biệt đúng thời điểm, trùng với tâm lý lo ngại gia tăng về sự tiến bộ nhanh chóng của AI tiên tiến, đặc biệt là trí tuệ nhân tạo tổng quát (AGI), đã làm các nhà nghiên cứu và chính sách trên toàn thế giới cảnh báo.

Nhiều chuyên gia cảnh báo rằng cuộc đua hiện tại để xây dựng các hệ thống AI mạnh mẽ bỏ qua các vấn đề an toàn thiết yếu, tạo ra những điểm yếu có thể dẫn đến hậu quả rộng lớn. Một điểm mấu chốt trong lập luận của Bengio là phương pháp đào tạo cơ bản cho các mô hình AI cần được xem xét lại một cách căn bản để đảm bảo kết quả an toàn hơn. Thay vì dựa vào các khuôn khổ hiện có khuyến khích AI bắt chước nhận thức và hành vi của con người, LawZero dự định khám phá các phương pháp thay thế thúc đẩy khả năng trí tuệ độc lập và hoạt động có trách nhiệm của AI. Số tiền 30 triệu đô la dự kiến sẽ được sử dụng để hỗ trợ các công trình nghiên cứu và phát triển của LawZero trong khoảng 18 tháng. Trong thời gian này, phòng thí nghiệm sẽ nghiên cứu các chiến lược sáng tạo nhằm đảm bảo an toàn cho AI đồng thời thúc đẩy sự hợp tác giữa các chuyên gia trong lĩnh vực học máy, đạo đức và các lĩnh vực liên quan. Sáng kiến của Bengio phản ánh nhận thức ngày càng tăng trong cộng đồng nghiên cứu AI về tầm quan trọng của việc cân bằng giữa đổi mới và thận trọng. Bằng cách thúc đẩy các hệ thống AI hoạt động với một mức độ độc lập nhất định khỏi hành vi giống con người, LawZero hướng tới một hướng đi mới trong phát triển AI—một hướng đi đặt an toàn và đạo đức lên hàng đầu. Khi công nghệ AI ngày càng tích hợp sâu vào xã hội, công trình của LawZero có thể trở thành bước quan trọng trong việc hướng dẫn hệ thống AI góp phần tích cực vào tiến bộ của nhân loại mà không gây ra các mối nguy hiểm không lường trước. Những phát hiện của phòng thí nghiệm này có thể ảnh hưởng đến các nguyên tắc thiết kế AI trong tương lai, chính sách quy định và thái độ của công chúng. Với việc ra mắt LawZero, Yoshua Bengio nhấn mạnh nghĩa vụ liên tục của cộng đồng AI trong việc dự đoán và quản lý các rủi ro liên quan đến các công nghệ mới nổi. Sáng kiến này là lời kêu gọi các nhà nghiên cứu, nhà tài trợ và chính sách thông qua việc đầu tư vào các phương pháp thúc đẩy an toàn và trách nhiệm đạo đức của AI song song với đổi mới công nghệ.