Trí tuệ nhân tạo đã trở nên khéo léo trong việc tái tạo, biến đổi và khôi phục giọng nói con người. Nhưng khi bản sao trở nên khó phân biệt với thật, lo ngại về công nghệ này đang tăng lên.
Alex Serdiuk hiểu biết độc đáo về cả cơ hội và mối đe dọa.
Là người sáng lập và CEO của công ty khởi nghiệp trí tuệ nhân tạo Respeecher, Serdiuk đã đoạt giải Emmy với việc tạo ra bản sao giả mạo của Richard Nixon, phát triển bản sao giọng nói cho người khuyết tiếng và làm trẻ hóa dây thanh âm của Mark Hamill cho The Mandalorian.
Tuy nhiên, Serdiuk cũng đã trải qua phương tiện tổng hợp ảo tệ nhất. CEO và công ty của ông đặt trụ sở tại Ukraine, nơi đã là mục tiêu của thông tin giả mạo sâu.
Tháng 3, một đoạn video bị chỉnh sửa của Tổng thống Ukraine Volodymyr Zelensky lan truyền trên mạng xã hội. Đoạn clip hiển thị một phiên bản số hóa Zelensky nói với binh sĩ rằng họ nên đầu hàng cho Nga.
Hội nghị TNW 2024 - Kêu gọi tất cả các Startup tham gia vào ngày 20-21 tháng 6
Trình bày Startup của bạn trước các nhà đầu tư, những người thay đổi và khách hàng tiềm năng với các gói Startup được chọn lọc của chúng tôi.
Tuy nhiên, ảnh hưởng của nó là tối thiểu.
“Deepfake này được thực hiện rất tệ — giống như nhiều điều mà người Nga thường làm — vì vậy nó không thuyết phục,” Seriduk nói với TNW.
“Và quốc gia của chúng tôi thông minh. Chúng tôi tin tưởng vào những gì đang diễn ra trong chính phủ của chúng tôi, và nếu ai đó nói rằng tổng thống chúng tôi từ bỏ, hầu hết mọi người sẽ kiểm tra những sự thật đó — đặc biệt khi deepfake làm tệ như vậy.”
Tuy nhiên, đoạn clip đã thể hiện tiềm năng của phương tiện tổng hợp ảo để làm cho chúng ta đặt câu hỏi về những gì chúng ta thấy — và nghe.
Thực sự, âm thanh giả mạo có thể thuyết phục hơn cả hình ảnh giả mạo.
Chỉnh sửa hiện thực
Seriduk tin rằng giọng nói tổng hợp có thể tránh được thung lũng kỳ lạ một cách mượt mà hơn so với hình ảnh nhân tạo.
Ông thêm rằng sự thực tế này có thể mang lại lợi ích cho xã hội. Respeecher, ví dụ, đã phát triển công nghệ thay thế giọng nói cho những người đã phẫu thuật cắt cổ.
Trong các thử nghiệm, hệ thống tạo ra một giọng nói tự nhiên trong khi bảo toàn sự diễn đạt của người dùng.
Sonantic, một công ty khởi nghiệp trí tuệ nhân tạo, tạo ra một ví dụ mạnh mẽ khác.
Năm 2021, công ty tái tạo giọng nói của Val Kilmer sau khi điều trị ung thư họng khiến diễn viên không thể nói rõ.
Giám đốc điều hành của Sonantic, Zeena Qureshi, cho biết dự án đã thể hiện tiềm năng nhân đạo của phương pháp này.
“Tôi đã dành chín năm giúp đỡ trẻ em tự kỷ học cách sử dụng giọng nói của họ như một công cụ giao tiếp hiệu quả hơn,” cô nhớ lại trong một tuyên bố.
“Dự án với Val lại một lần nữa chứng minh sức mạnh khi con người vượt qua những thách thức về nói chuyện.”
Tuy nhiên, việc sử dụng giọng nói tổng hợp cho mục đích khác cũng gây lo ngại.
Bày tỏ ý kiến phàn nàn
Năm 2021, một bộ phim tài liệu về Anthony Bourdain đã gây ra một cuộc tranh luận gay gắt về deepfakes.
Trong một cuộc phỏng vấn, đạo diễn Morgan Neville tiết lộ rằng trí tuệ nhân tạo đã tái tạo giọng của đầu bếp đã mất trong bộ phim. Các đoạn hội thoại tổng hợp được tạo ra từ những từ Bourdain đã viết nhưng chưa bao giờ nói.
Các nhà phê bình cảm thấy rằng động thái này là gian lận và thiếu sự đồng thuận từ Bourdain — người nổi tiếng với sự chú trọng đến sự chân thật.
Neville sau đó nói rằng anh đã nhận được sự chấp thuận từ người thân cận của Bourdain. Nhưng Ottavia Bourdain, vợ đầu bếp, phản đối tuyên bố này.
“Tôi chắc chắn KHÔNG phải là người nói rằng Tony sẽ thấy thoải mái với điều đó,” cô nói trong một tweet.
Serdiuk nói Respeecher sẽ không cho phép công việc như vậy.
Tuy nhiên, tuyên bố đạo đức của công ty cấm việc sử dụng gian lận của giọng tổng hợp. Công ty đã cam kết không bao giờ sử dụng giọng của một người tư nhân hoặc diễn viên mà không có sự cho phép.
Trong “một số trường hợp,” tuy nhiên, giọng của những nhân vật lịch sử đã được sử dụng để thể hiện tiềm năng của công nghệ này.
Respeecher cũng đang phát triển hai biện pháp phòng thủ kỹ thuật: một bộ phát hiện giọng nói tổng hợp và đánh dấu âm thanh.
Cuối cùng, việc sao chép giọng nói sẽ tiếp tục là một công cụ mà chúng ta có thể sử dụng cho cả điều tốt và xấu. Serdiuk hy vọng rằng các biện pháp bảo vệ sẽ ngăn chặn những tổn thất vượt lên trên những lợi ích.