Thành phố, khách sạn, điểm đến21-22 Apr, 2 Khách, 1 đêm
Tìm kiếm
Ngày đến Sun, Apr 21
1
Ngày vềMon, Apr 22
Số phòng, số khách1 phòng, 2 người lớn, 0 trẻ em

Đạo luật NYC nhằm kiểm soát công cụ tuyển dụng AI dường như đã được thiết kế để tự phá hoại

Bởi: Minprice.com
26/03/20240like

Gần đây, New York đã thông qua một dự luật cung cấp hướng dẫn về việc vận hành phần mềm tuyển dụng tự động trong thành phố. Theo đó, mục tiêu của hội đồng thành phố với dự luật này là bảo vệ người dân New York khỏi AI có độ chệch lệch. Nhưng từ góc độ của chúng tôi, có vẻ như nó sẽ ngược lại mục tiêu đó.

Ngay từ đầu: Dự luật, đặt tên là int 1894-2020, được thiết kế để giải quyết vấn đề độ chệch lệch trong phần mềm AI.

Các công ty như HireVue tuyên bố thuật toán của họ có thể thực sự loại bỏ độ chệch lệch trong quá trình tuyển dụng - quảng cáo ở đây là máy tính không thể là kẻ phân biệt.

Nhưng thực tế là không có cách phép nào để loại bỏ độ chệch lệch từ hệ thống AI. Các thuật toán không phải là phép màu. Thường chúng là các hướng dẫn dựa trên toán học. Và, vì máy tính và thuật toán được thiết kế và lập trình bởi con người, chúng chứa đựng độ chệch lệch bẩm sinh.

Nói cách khác: Một máy tính không thể đưa ra nhận định giá trị về con người. Tất cả những gì chúng có thể làm là đưa ra "đoán." Một số đoán là vô hại, như khi Netflix đoán bạn sẽ thích một bộ phim nào đó và bạn không thích. Bạn có thể xem một cái khác. Những đoán khác là tồi, như khi một thuật toán quyết định bạn không đáng tuyển dụng.

AI hoàn toàn không thể phát hiện xem bạn đang nói dối. AI không thể hiểu được cảm xúc. Và đương nhiên nó chắc chắn không thể đo lường trí tuệ con người. Điều này khiến cho hầu hết các tuyên bố của các công ty chuyên về hệ thống tuyển dụng tự động trở nên không chắc chắn nhất và tệ nhất là là những lời nói dối trắng trợn.

Nhưng câu hỏi thực sự ở đây không phải là liệu AI có thể dự đoán xem một con người có phù hợp với công việc cụ thể hay không (nó chắc chắn không thể), mà là liệu dự luật mới có thể bảo vệ người dân New York khỏi những công ty bán dầu rắn ăn cắp mà tuyên bố nó có thể hay không.

Ý tưởng tốt: thông qua một dự luật bảo vệ người dân New York khỏi những công ty bán dầu rắn ăn cắp.

Đã đến lúc các chính trị gia ở Hoa Kỳ làm điều gì đó về những hệ thống AI có hại rõ ràng này và những công ty bán chúng.

Ý tưởng tồi: để cho các nhà cung cấp phần mềm quyết định xem một thuật toán có độ chệch hay không.

Theo dự luật:

Dự luật này sẽ yêu cầu tiến hành kiểm tra độ chệch trước khi sử dụng công cụ quyết định việc làm tự động. Dự luật cũng yêu cầu phải thông báo cho ứng viên hoặc nhân viên cư trú trong thành phố về việc sử dụng các công cụ đó trong việc đánh giá hoặc đánh giá để tuyển dụng hoặc thăng chức, cũng như thông báo về yêu cầu công việc và đặc điểm sẽ được công cụ quyết định việc làm tự động sử dụng. Vi phạm các điều khoản của dự luật sẽ chịu một khoản phạt dân sự.

Nhưng những vi phạm đó? Chúng là những vi phạm không hiệu quả. Việc thực hiện và báo cáo kiểm tra để chứng minh thuật toán của họ không có độ chệch là trách nhiệm của nhà cung cấp.

Quan điểm nhanh: Điều này giống như để Thanos thực hiện kiểm tra và báo cáo tuân thủ với đạo đức của Thành phố New York. "Theo chúng ông có biết, việc sử dụng Infinity Gauntlet của chúng ông hoàn toàn đạo đức. Chúng ông đã thực hiện kiểm tra và mọi thứ đều ổn."

Trong trường hợp này, New York đã thông qua một dự luật trao quyền cho các nhà cung cấp AI quyết định pháp lý về việc họ có đạo đức hay không. Điều này không bảo vệ công dân, mà bảo vệ các công ty AI lừa đảo.

HireVue đã đưa ra một tuyên bố cho AP mà tóm tắt điều này tốt nhất. Theo bài viết đó:

HireVue, một nền tảng phỏng vấn việc làm dựa trên video, nói trong một tuyên bố tuần này rằng họ hoan nghênh dự luật đòi hỏi "tất cả các nhà cung cấp đáp ứng các tiêu chuẩn cao mà HireVue đã hỗ trợ từ đầu."

Chính xác. HireVue hiện đang sử dụng trí tuệ nhân tạo để đánh giá giả định về "cảm xúc" của ứng viên. Công ty thậm chí tuyên bố thuật toán thị giác máy tính có thể xác định "trí tuệ cảm xúc" của người dùng. Điều này, tất nhiên, là không khả thiAI không có sức mạnh phép thuật.

Và nếu đó là tiêu chuẩn mà New York đang sử dụng để xác định xem một hệ thống AI có độ chệch hay không, thì đó là mùa săn mồi trên Big Apple. Tôi không thể nghĩ ra một công ty khởi nghiệp AI nào, cho dù có xấu xa và lừa đảo đến đâu, không thể vượt qua được rào cản đó.