Thành phố, khách sạn, điểm đến21-22 Apr, 2 Khách, 1 đêm
Tìm kiếm
Ngày đến Sun, Apr 21
1
Ngày vềMon, Apr 22
Số phòng, số khách1 phòng, 2 người lớn, 0 trẻ em

Tiềm năng độc hại của Vòng lặp Phản hồi trên YouTube

Bởi: Minprice.com
26/03/20240like

Từ 2010 đến 2011, tôi làm việc trên hệ thống trí tuệ nhân tạo của YouTube - thuật toán hướng dẫn những gì bạn sẽ xem tiếp dựa trên thói quen xem và tìm kiếm trước đó của bạn. Một trong những nhiệm vụ chính của tôi là tăng thời gian mọi người dành trên YouTube. Lúc đó, việc theo đuổi này dường như là vô hại. Nhưng gần một thập kỷ sau đó, tôi có thể thấy công việc của chúng tôi đã có những hậu quả không dự đoán được - nhưng không phải không thể dự đoán. Trong một số trường hợp, trí tuệ nhân tạo đã đi sai lầm.

Trí tuệ nhân tạo kiểm soát một phần lớn cách chúng ta tiêu thụ thông tin ngày nay. Trong trường hợp của YouTube, người dùng dành 700.000.000 giờ mỗi ngày để xem video được đề xuất bởi thuật toán. Tương tự, hệ thống đề xuất tin của Facebook thúc đẩy khoảng 950.000.000 giờ xem mỗi ngày.

Với kinh nghiệm làm việc trên các hệ thống gợi ý, tôi đã có thể dự đoán rằng trí tuệ nhân tạo sẽ có chủ ý thúc đẩy những video gây hại đằng sau mỗi vụ scandal này. Làm thế nào? Bằng cách nhìn vào các chỉ số tương tác.

Bản chất của một Thảm họa Trí tuệ Nhân tạo

Sử dụng các thuật toán gợi ý, trí tuệ nhân tạo của YouTube được thiết kế để tăng thời gian mọi người dành trực tuyến. Những thuật toán này theo dõi và đo lường thói quen xem trước đó của người dùng—và người dùng tương tự họ—để tìm và đề xuất những video khác mà họ sẽ tương tác.

Trong trường hợp của vụ scandal về đồng tính, trí tuệ nhân tạo của YouTube đã tích cực đề xuất những video gợi ý về trẻ em đến người dùng có khả năng tương tác cao với những video đó. Đồng thời trí tuệ nhân tạo càng mạnh mẽ—tức là có nhiều dữ liệu hơn—thì nó sẽ trở nên hiệu quả hơn trong việc đề xuất nội dung cụ thể dành cho người dùng.

Đây là nơi nó trở nên nguy hiểm: Khi trí tuệ nhân tạo cải thiện, nó sẽ có khả năng dự đoán chính xác hơn về những người quan tâm đến nội dung này; do đó, cũng ít khả năng đề xuất nội dung như vậy cho những người không quan tâm. Ở giai đoạn đó, các vấn đề với thuật toán trở nên khó nhận thức theo cách mũi tên hàm số, vì nội dung ít có khả năng bị đánh dấu hoặc báo cáo. Trong trường hợp chuỗi đề xuất về đồng tính, YouTube nên biết ơn người dùng đã phát hiện và tiết lộ nó. Nếu không có anh ta, chu kỳ có thể tiếp tục hàng năm.

Nhưng sự kiện này chỉ là một ví dụ duy nhất cho một vấn đề lớn hơn.

Cách Người Dùng Tương Tác Mạnh Ảnh Hưởng Đến Trí Tuệ Nhân Tạo

Trước đây trong năm, các nhà nghiên cứu tại Google's Deep Mind đã xem xét tác động của các hệ thống gợi ý, như những hệ thống được sử dụng bởi YouTube và các nền tảng khác. Họ kết luận rằng “vòng lặp phản hồi trong các hệ thống gợi ý có thể dẫn đến 'hội thoại đóng' và 'bong bóng lọc,' có thể làm hẹp sự tiếp xúc của người dùng với nội dung và cuối cùng làm thay đổi quan điểm thế giới của họ.”

Mô hình không tính đến cách hệ thống gợi ý ảnh hưởng đến loại nội dung được tạo ra. Trong thế giới thực, Trí tuệ Nhân tạo, người tạo nội dung và người dùng ảnh hưởng lớn lẫn nhau. Vì Trí tuệ Nhân tạo nhắm đến việc tối đa hóa sự tương tác, người dùng tương tác mạnh trở thành “mô hình cần phải tái tạo.” Sau đó, thuật toán Trí tuệ Nhân tạo sẽ ưu tiên nội dung của những người dùng như vậy.

Vòng lặp phản hồi hoạt động như sau: (1) Những người dùng chi tiêu nhiều thời gian hơn trên các nền tảng có ảnh hưởng lớn đến hệ thống gợi ý. (2) Nội dung mà họ tương tác sẽ nhận được nhiều lượt xem/thích hơn. (3) Người tạo nội dung sẽ chú ý và tạo thêm. (4) Người dùng sẽ dành thêm thời gian trên nội dung đó. Đó là lý do tại sao quan trọng để biết ai là những người dùng tương tác mạnh trên một nền tảng: Họ là những người mà chúng ta có thể nghiên cứu để dự đoán hướng mà Trí tuệ Nhân tạo đang làm nghiêng thế giới.

Nói chung, quan trọng là phải xem xét cấu trúc động viên đằng sau hệ thống gợi ý. Các công ty sử dụng các thuật toán gợi ý muốn người dùng tương tác với nền tảng của họ nhiều nhất và thường xuyên nhất có thể vì điều này là trong lợi ích kinh doanh của họ. Đôi khi đó là trong lợi ích của người dùng khi ở trên một nền tảng càng lâu càng tốt—ví dụ khi nghe nhạc—nhưng không phải lúc nào cũng như vậy.

Chúng ta biết rằng thông tin sai lệch, tin đồn và nội dung gây sốc hoặc gây chia rẽ đều tạo ra sự tương tác đáng kể. Ngay cả khi người dùng nhận thức được tính chất lừa dối của nội dung và báo cáo nó, điều đó thường xảy ra chỉ sau khi họ đã tương tác với nó. Đến lúc đó, đã quá muộn; họ đã tạo một tín hiệu tích cực cho thuật toán. Bây giờ khi nội dung này đã được ưa chuộng một cách nào đó, nó sẽ được tăng cường, điều này khiến người tạo nội dung tải lên nhiều hơn. Do thuật toán Trí tuệ Nhân tạo được kích thích để củng cố các đặc điểm tích cực cho sự tương tác, nhiều hơn nữa nội dung đó sẽ lọt vào hệ thống gợi ý.

Ngay cả trí tuệ nhân tạo tốt nhất trên thế giới—những hệ thống được viết bởi các công ty giàu nguồn lực như YouTube và Facebook—cũng có thể tích cực quảng bá nội dung gây sốc, sai lệch và vô ích để tăng cường tương tác. Người dùng cần hiểu rõ cơ bản của trí tuệ nhân tạo và nhìn nhận với thận trọng đối với các hệ thống gợi ý. Nhưng sự nhận thức này không nên chỉ đặt trên vai người dùng.

Trong năm qua, các công ty đã trở nên tích cực hơn: Cả Facebook và YouTube đều thông báo họ sẽ bắt đầu phát hiện và hạ thấp nội dung có hại.

Nhưng nếu chúng ta muốn tránh một tương lai chứa đựng sự chia rẽ và thông tin sai lệch, còn nhiều công việc phải làm. Người dùng cần hiểu rõ các thuật toán trí tuệ nhân tạo đang làm việc vì họ, và cái nào đang làm việc ngược lại họ.

Ý KIẾN MINPRICE đăng các bài được viết bởi những độc giả bên ngoài và đại diện cho nhiều quan điểm. Đọc thêm ý kiến tại đây. Gửi bài viết tại [email protected]


Những Câu Chuyện Tuyệt Vời Khác Trên MINPRICE
  • Sự mỉa mai trong cách chính trị gia nói về quyền riêng tư trên Facebook
  • Bạn chưa bao giờ thấy công viên trượt ván như thế này trước đây
  • Một người tiên phong trong ngành hàng không đầu tiên chuyển sang máy bay điện
  • Nỗi sợ, thông tin sai lệch và bệnh sởi lan rộng ở Brooklyn
  • Thay đổi cuộc sống của bạn: trải nghiệm bồn cầu xịt
  • 💻 Nâng cấp công việc của bạn với những chiếc laptop, bàn phím, lựa chọn gõ và tai nghe chống ồn mà đội ngũ Gear của chúng tôi yêu thích
  • 📩 Muốn thêm nhiều hơn? Đăng ký nhận bản tin hàng ngày của chúng tôi và không bao giờ bỏ lỡ những câu chuyện mới nhất và tuyệt vời nhất của chúng tôi