Có thể Viện nghiên cứu mới của Timnit Gebru đặt thách thức cho sự kiểm soát của các tập đoàn công nghệ lớn đối với nghiên cứu AI?

Đúng một năm sau khi bị sa thải từ Google, Timnit Gebru đã công bố kế hoạch nhằm giành lại nghiên cứu AI khỏi tay của các đại gia công nghệ.

Gebru, người từng là cộng tác viên chính của nhóm AI Đạo đức của Google, đã khởi động một viện nghiên cứu độc lập: Viện Nghiên cứu AI Phân tán (DAIR).

Với nguồn ngân sách ban đầu là 3,7 triệu USD từ các tổ chức, DAIR sẽ tập trung vào nghiên cứu dài hạn và dựa vào cộng đồng — điều khó khăn tại Silicon Valley.

“Cấu trúc khuyến khích trong ngành công nghiệp và các tổ chức học thuật elita mà chặt chẽ với các công ty công nghệ này không — theo quan điểm của tôi — cho phép loại công việc mà tôi muốn làm,” Gebru nói tại một hội nghị được tổ chức bởi Phụ nữ trong Đạo đức AI.

Sáng kiến khuyến khích nghiên cứu phân tích mục tiêu cuối cùng và nguy cơ tiềm ẩn từ đầu. Ngoài việc phê phán công nghệ hiện tại, Gebru muốn DAIR cung cấp một mô hình tích cực cho việc nghiên cứu AI.

Tính tham vọng này được phản ánh trong từ đầu tiên của viết tắt của viện nghiên cứu: phân tán. Gebru nói rằng không ai sẽ phải rời khỏi cộng đồng của họ để làm việc tại DAIR:

Công nghệ ảnh hưởng đến cả thế giới, nhưng toàn bộ thế giới không có cơ hội để ảnh hưởng đến công nghệ ngay bây giờ. Nếu bạn muốn có nghiên cứu gốc cộng đồng và bạn cần di chuyển người khỏi cộng đồng của họ, và họ phải tất cả đến Silicon Valley… Đó không phải là điều tôi muốn đóng góp.

Tại DAIR, nhân viên sẽ tiến hành nghiên cứu ảnh hưởng đến cộng đồng của họ. Gebru đưa ra ví dụ về các nhà nghiên cứu tại Nam Phi sử dụng hình ảnh vệ tinh và thị giác máy tính để phân tích “apartheid không gian,” sự phân chia địa lý vẫn tồn tại đến ngày nay.

Thoải mái khỏi những giới hạn của công nghệ lớn, các nhà nghiên cứu tại DAIR có thể theo đuổi các dự án mà họ cho là quan trọng — và truyền đạt kết quả theo cách họ cho là đúng.

Gebru có trải nghiệm trực tiếp về cách các công ty công nghệ có thể ảnh hưởng đến những quyết định này. Việc cô bị sa thải đã bắt nguồn từ một tranh chấp về một bài nghiên cứu về những rủi ro của các mô hình ngôn ngữ lớn, được sử dụng trong nhiều sản phẩm của Google.

DAIR có thể không đạt được nguồn tài trợ mà nhà tuyển dụng trước đó của cô có thể cung cấp, nhưng ở một số khía cạnh, điều đó có thể là lợi ích cho viện nghiên cứu.