Orly Lobel tin rằng công nghệ có thể làm thế giới trở nên tốt đẹp hơn—và vào năm 2022, điều này khiến cô trở thành một người đối lập chút ít.
Lobel, một giáo sư pháp luật chuyên ngành lao động và việc làm tại Đại học San Diego ở California, đã nghiên cứu về cách công nghệ và nền kinh tế đồng bộ ảnh hưởng đến người lao động. Điều này khiến cô quen với những động độ từ tiện ích như sàng lọc tự động hồ sơ và ứng dụng sử dụng thuật toán để phân công công việc cho mọi người. Tuy nhiên, Lobel cảm thấy cuộc trò chuyện về tự động hóa và trí tuệ nhân tạo quá tập trung vào những hại ít hơn của những hệ thống này.
Trong cuốn sách của mình Máy Bình Đẳng: Tận Dụng Công Nghệ Số Cho Tương Lai Tươi Sáng, Hấp Dẫn Hơn, Lobel khuyến khích một góc nhìn lạc quan hơn. Cô nghiên cứu các cách mà trí tuệ nhân tạo đã xâm chiếm nhiều khía cạnh quan trọng và cá nhân nhất của cuộc sống chúng ta, khi người tìm việc ngày càng đặt số phận của họ vào sự đánh giá của các hệ thống tự động và các thiết bị chăm sóc sức khỏe tại nhà thu thập một lượng lớn dữ liệu thân thiết. Nếu triển khai một cách cẩn thận, Lobel lập luận rằng những công cụ như vậy có thể tạo ra đội ngũ ứng viên đa dạng hơn hoặc chăm sóc sức khỏe hiệu quả hơn. Cô đã nói chuyện với MINPRICE về cách nhìn nhận trí tuệ nhân tạo như một lực lượng có thể tốt lành. Cuộc phỏng vấn này đã được chỉnh sửa để rút gọn và làm rõ.
Jennifer Conrad: Bạn mô tả cuốn sách này như một quan điểm trái chiều. Có gì không đúng với sự chú ý gần đây về ý nghĩa rằng trí tuệ nhân tạo có thể gây hại?
Orly Lobel: Trong thập kỷ qua, tôi đã thấy quá nhiều cuộc thảo luận nhị phân. Những người ở bên trong ngành công nghiệp công nghệ thực sự không quan tâm đến sự bình đẳng, công bằng phân phối và công bằng—họ chỉ ăn mừng công nghệ vì công nghệ. Sau đó là những người đang hỏi, “Ai là người chiến thắng và người thua, và làm thế nào chúng ta bảo vệ các quyền khác nhau?” Tôi muốn gắn kết hai cuộc trò chuyện này.
Chúng ta cần tôn vinh những cơ hội và thành công, không chỉ tập trung hẹp vào vấn đề. Và những người quan tâm đến những cuộc trò chuyện này đang trở nên découraged hơn. Rất nhiều người, đặc biệt là phụ nữ và các dân tộc thiểu số, đang rút lui khỏi việc làm cho Big Tech. Đó là một chu kỳ ác, nơi chúng ta đang có ít giọng nói đa dạng hơn bên trong, và những người đang phê phán hoặc lạc quan hơn lại có ít sự quan tâm.
Nhìn chung, mọi người thường giả định rằng thuật toán đưa ra câu trả lời chính xác hoặc hoàn hảo. Có nguy cơ là không ai sẽ đặt câu hỏi về cuộc gọi tuyển dụng tự động, hoặc cáo buộc quấy rối không?
Tôi đã nghiên cứu về tuyển dụng và đa dạng và sự bao gồm trong thời gian dài. Chúng ta biết rằng rất nhiều phân biệt đối xử và chênh lệch xảy ra mà không cần quyết định của thuật toán. Câu hỏi cần đặt khi bạn giới thiệu một thuật toán tuyển dụng là liệu nó có vượt trội so với quy trình của con người—không phải là nó hoàn hảo. Và khi có độ chệch, nguồn gốc của chúng là gì, và liệu chúng có thể được sửa chữa, ví dụ, bằng cách thêm dữ liệu đào tạo nhiều hơn? Chúng ta có thể giảm chệch như là con người được bao nhiêu so với việc cải thiện các hệ thống khác nhau?
Rất nhiều công ty lớn hiện nay đang sử dụng một hình thức nào đó của việc sàng lọc tự động hồ sơ. Quan trọng là các cơ quan như Ủy ban Cơ hội Việc làm Công bằng Hoa Kỳ và Bộ Lao động phải xem xét các yêu cầu so với kết quả. Chưa có đủ cuộc trò chuyện tinh tế về nguồn gốc của những rủi ro và liệu chúng có thể được sửa chữa không.
Bạn mô tả tiềm năng của việc sử dụng công nghệ sàng lọc ứng viên dưới dạng trò chơi trực tuyến, như Wasabi Waiter từ một công ty tên là Knack, nơi một người làm việc nhà hàng sushi đông khách. Làm thế nào có thể hiệu quả trong việc đánh giá ứng viên?
Đó là sự sáng tạo hơn trong việc xem xét những gì chúng ta đang lọc, sử dụng những hiểu biết từ tâm lý học và nghiên cứu khác về điều gì tạo nên một người chơi đội tốt. Bạn không muốn chỉ có những thuật toán khai thác, nhìn vào những người trở thành nhân viên xuất sắc trong quá khứ, như ai đó tốt nghiệp Đại học Ivy League và làm đội trưởng đội thể thao.
Nhiều người nói về vấn đề hộp đen, rằng khó hiểu được thuật toán thực sự đang làm gì. Nhưng từ trải nghiệm của tôi như một chứng nhân chuyên gia trong các vụ án kỳ thị việc làm và nghiên cứu về tuyển dụng, cũng rất khó xuyên qua hộp đen của tâm trí con người chúng ta và theo dõi điều gì đã xảy ra. Với quy trình số hóa, chúng ta thực sự có dấu vết giấy tờ, và có thể kiểm tra xem một trò chơi hoặc một loại sàng lọc tình cảm tự động có vượt trội so với cách trước đây trong việc tạo ra một đội ngũ đa dạng hơn không.
Trải nghiệm cá nhân của tôi khi nộp đơn cho những công việc yêu cầu bài kiểm tra năng lực và kiểm tra tính cách là tôi thấy chúng mờ mịt và frustrating. Khi bạn nói chuyện trực tiếp với ai đó, bạn có thể cảm nhận được một phần nào đó về cách bạn đang làm. Khi toàn bộ quá trình được tự động hóa, bạn thậm chí không biết bạn đang được kiểm tra về điều gì.
Đó là cảm nhận của rất nhiều người. Nhưng đây là nơi tôi trở nên chống đối hơn một chút. Điều này không chỉ là về cách mọi người trải nghiệm buổi phỏng vấn, mà là về những gì chúng ta biết về khả năng đánh giá của người ta trong một cuộc phỏng vấn.
Có khá nhiều nghiên cứu chỉ ra rằng cuộc phỏng vấn là một dự đoán tệ cho hiệu suất công việc, và người phỏng vấn thường đánh giá quá mức về những gì họ thực sự có thể nhận được từ một cuộc phỏng vấn. Thậm chí có nghiên cứu chỉ ra cách trong vài giây, định kiến bắt đầu xâm phạm. Nếu chúng ta nghiêm túc về việc mở rộng đội ngũ người đủ điều kiện cho một công việc, số lượng ứng viên sẽ quá lớn để một con người có thể xử lý, ít nhất là ở các giai đoạn đầu tiên.
Nhiều định kiến tại nơi làm việc này đã được ghi chép rõ ràng. Chúng ta đã biết về chênh lệch lương giới trong thời gian dài, nhưng khó khăn để giảm nhỏ nó. Công nghệ tự động có thể giúp được không?
Rất đau lòng khi thấy chênh lệch lương giới đã trở nên tê liệt, mặc dù chúng ta đã có luật bình đẳng lương trên sách. Với bộ dữ liệu rộng lớn hiện có, tôi nghĩ chúng ta có thể làm tốt hơn. Phần mềm của Textio giúp các công ty viết quảng cáo công việc mang tính bao hàm hơn và sẽ dẫn đến một đội ngũ ứng viên đa dạng hơn. Syndio có thể phát hiện ra sự bất bình đẳng trong lương ở các phần khác nhau của lực lượng lao động trong các nơi làm việc lớn, điều này có thể khó nhận thức hơn.
Có vẻ khá có trực giác: Nếu chúng ta sử dụng phần mềm để xem xét nhiều phương thức lương khác nhau và nhiều quảng cáo công việc khác nhau, chúng ta có thể xuyên thủng tấm màn của các mô tả công việc chính thức trong một lực lượng lao động lớn và nhìn thấy điều gì đang xảy ra về mặt giới tính và chủng tộc. Trước đây, chúng ta có ý tưởng về kiểm toán như một lần duy nhất—một lần mỗi năm—nhưng ở đây bạn có thể tiến hành kiểm toán liên tục trong vài tháng, hoặc khi có một sự gia tăng đột ngột về chênh lệch lương do những điều như thưởng.
Phương pháp này đặt ra câu hỏi về việc chúng ta nên đưa ra bao nhiêu dữ liệu để được bảo vệ hoặc đánh giá công bằng. Bạn đã viết về việc sử dụng trí tuệ nhân tạo để theo dõi các cuộc trò chuyện tại nơi làm việc để ngăn chặn quấy rối. Sự nghĩ đầu tiên của tôi là, “Liệu tôi có thực sự muốn một con bot đọc những tin nhắn trên Slack của tôi không?” Liệu mọi người sẽ thoải mái khi có quá nhiều thông tin của họ được số hóa để phần mềm đưa ra nhận định về họ không?
Chúng ta luôn luôn có những căng thẳng giữa quyền riêng tư hơn như một biện pháp bảo vệ và quyền riêng tư như một điều che giấu và bảo vệ quyền lực. Các thỏa thuận không tiết lộ trong nơi làm việc đã là cách để che giấu nhiều hành vi sai trái. Nhưng công nghệ thực sự đang làm cho một số lựa chọn này trở nên rõ ràng hơn, vì chúng ta biết chúng ta đang bị theo dõi. Bây giờ có những ứng dụng báo cáo nơi chỉ khi có nhiều trường hợp của một người bị gắn cờ cho quấy rối thì các báo cáo đó mới được mở khóa.
Còn về các nền tảng cho công việc không chính thức hoặc công việc tự do? Airbnb đã ngừng hiển thị ảnh hồ sơ cho chủ nhà hoặc khách sau khi dữ liệu cho thấy người dân thiểu số ít có khả năng hoàn thành đặt phòng thành công. Nhưng công ty gần đây phát hiện ra rằng khách da đen vẫn phải đối mặt với phân biệt đối xử.
Đây là một câu chuyện về việc kiểm toán liên tục hoạt động và phát hiện phân biệt đối xử thông qua dấu vết số và sức mạnh tính toán của học máy. Trong khi phân biệt đối xử của con người vẫn tiếp tục, nó có thể được hiểu rõ hơn, xác định, cô lập và sửa chữa theo thiết kế khi nó xảy ra trên các nền tảng so với khi xảy ra trong thị trường ngoại tuyến.
Bây giờ mà nhiều dữ liệu của chúng ta đã xuất hiện, một số người cho rằng quy định nên tập trung ít hơn vào việc thu thập dữ liệu và nhiều hơn vào cách dữ liệu đó được sử dụng.
Tuyệt đối. Tôi thích điều đó. Trong khi sự riêng tư quan trọng, chúng ta cần hiểu rằng đôi khi có một sự căng thẳng giữa trí tuệ nhân tạo chính xác và đáng tin cậy, và việc thu thập dữ liệu đại diện, không chệch lệch. Nhiều cuộc trò chuyện chúng ta đang có khá là mơ hồ. Có giả định rằng càng thu thập nhiều dữ liệu, [càng] nó sẽ đặt rủi ro cao hơn cho các cộng đồng bị đ margin hơn.
Chúng ta nên cũng quan tâm đến những người tôi sẽ gọi là bị lạc lõng dữ liệu. Chính phủ và ngành công nghiệp đưa ra quyết định về phân phối nguồn lực từ dữ liệu họ có, và một số cộng đồng không được đại diện bằng cách tương đương. Có nhiều ví dụ về việc sử dụng tích cực thông tin đầy đủ. Các thành phố đưa ra quyết định về nơi kết nối đường, hoặc các sáng kiến của Liên Hợp Quốc đầu tư vào các trường học và làng quê thiếu nguồn lực. Quyết định đang được đưa ra bằng cách sử dụng hình ảnh vệ tinh và thậm chí hoạt động trên điện thoại thông minh. Câu chuyện về tiến bộ của con người và sự công bằng là: Càng biết nhiều, càng giúp chúng ta sửa chữa và hiểu nguồn gốc và nguyên nhân của phân biệt đối xử.
Nếu bạn mua đồ gì đó bằng cách sử dụng liên kết trong câu chuyện của chúng tôi, chúng tôi có thể kiếm được một hoa hồng. Điều này giúp hỗ trợ nghệ thuật truyền thông của chúng tôi. Tìm hiểu thêm.