Đây là bài viết được dịch bởi AI.
Công nghệ Deepfake và ý định của con người
- Ngôn ngữ viết: Tiếng Hàn Quốc
- •
- Quốc gia cơ sở: Tất cả các quốc gia
- •
- CNTT
Chọn ngôn ngữ
Văn bản được tóm tắt bởi AI durumis
- Trung Quốc đã áp dụng quy định toàn diện hạn chế việc tạo Deepfake, một động thái mạnh mẽ khác với Liên minh Châu Âu và Hoa Kỳ, được cho là nhằm đàn áp dư luận chống đối liên quan đến các cuộc biểu tình giấy trắng gần đây.
- Công nghệ Deepfake gây ra tranh cãi về đạo đức, đặc biệt là khi tạo nội dung nhắm vào những người có ảnh hưởng xã hội lớn, điều này gây lo ngại về khả năng bị lợi dụng.
- Thay vì quy định công nghệ Deepfake, việc phân tích bối cảnh sản xuất và quá trình lan truyền nội dung là điều cần thiết hơn, thay đổi nhận thức về việc nhìn nhận con người từ góc độ hệ thống và các chương trình giáo dục theo cộng đồng có thể giúp giải quyết vấn đề.
Trung Quốc đã thực thi quy định toàn diện hạn chế sản xuất "Deepfake" kể từ ngày 10.
Đây là một phần của các biện pháp nhằm ngăn chặn dư luận chống chính phủ liên quan đến các cuộc biểu tình giấy trắng gần đây và được coi là một biện pháp cấm thực sự, trái ngược với Liên minh Châu Âu hoặc Hoa Kỳ, nơi mà các biện pháp này chỉ là khuyến nghị và vẫn đang ở mức độ giới hạn. Điều này đặc biệt thú vị bởi vì nó là một biện pháp cấm thực sự, trái ngược với Liên minh Châu Âu hoặc Hoa Kỳ, nơi mà các biện pháp này chỉ là khuyến nghị và vẫn đang ở mức độ giới hạn. Tất nhiên, các biện pháp của Trung Quốc có thể là do hệ thống kiểm duyệt internet được gọi là "Vạn lý trường thành", đã hoạt động trong hơn 20 năm. Tuy nhiên, do gánh nặng về việc tuân thủ tính minh bạch và công khai thông tin là rất lớn, nên việc đặt câu hỏi về hiệu quả bên trong và bên ngoài của biện pháp này có thể sẽ tiếp tục được đặt ra.
Công nghệ liên quan đến Deepfake đã từ lâu nói về nhu cầu dán nhãn nội dung tổng hợp, nhưng rõ ràng vẫn còn hạn chế trong việc đảm bảo điều này. Ngoài ra, như câu nói "Internet là mãi mãi" đã nêu, khi nội dung được tạo ra lan truyền, việc xóa bỏ hoàn toàn nội dung đó là cực kỳ khó khăn. Hơn nữa, ngay cả sau khi nội dung bị xóa, ý thức tập thể của người xem sẽ không biến mất. Điều này đã được chứng minh qua ví dụ về nội dung "Giọng nói của tháng 4", nội dung này đã chỉ trích chính sách phong tỏa Thượng Hải, đã góp phần vào các cuộc biểu tình giấy trắng.
Theo lịch sử, không thể ngăn cản công nghệ thấm nhuần vào xã hội. Thống kê cho thấy 95% video Deepfake trên toàn cầu là khiêu dâm, video giả mạo về việc Tổng thống Ukraine đầu hàng trong giai đoạn đầu của cuộc xâm lược của Nga, và Bruce Willis, người mắc chứng nói lắp, xuất hiện trong quảng cáo là những ví dụ rõ ràng về nguy cơ thực tế của công nghệ Deepfake, ảnh hưởng đến toàn xã hội. Tuy nhiên, điều thực sự cần cảnh giác không phải là cách thức kiểm soát công nghệ này. Trên thực tế, các phương thức thao túng sự thật luôn tồn tại và việc luôn chú ý đến công nghệ mới nhất sẽ luôn là một trò chơi thua cuộc. Thay vào đó, chúng ta cần quan tâm đến lý do tại sao các sản phẩm liên quan lại được tạo ra và cách chúng lan truyền, tức là tập trung vào các yếu tố xã hội thúc đẩy sự lan truyền của thông tin sai lệch.
"Công nghệ Deepfake có thể bị nghi ngờ về đạo đức, nhưng bản chất của nó không phải là sai."
Nhà đạo đức học và triết gia chính trị Adrienne de Ruiter đã đưa ra quan điểm trong nghiên cứu của mình rằng "sự thể hiện của những người không đồng ý", "hành vi cố ý lừa dối người xem" và "ý định có hại" là những điều khiến sản phẩm của công nghệ này trở nên vô đạo đức. Bà khẳng định rằng chính ý định của người tạo ra và người xem, tức là con người, là đối tượng cần cảnh giác, tách biệt với công nghệ. Đặc biệt, đối với các đối tượng có ảnh hưởng xã hội tương đối lớn như người nổi tiếng hay chính trị gia, việc quản lý việc thể hiện ý định của người tạo ra nội dung Deepfake được nhắm mục tiêu vi mô là rất khó khăn.
Vậy, giải pháp cho vấn đề này trong tương lai sẽ được hình thành như thế nào? Có thể đưa ra hai hướng chính.
Thứ nhất, chúng ta cần nhận thức và thừa nhận rằng mình tồn tại trong thế giới của máy ảnh và hệ thống nhận diện. Tác giả của bài viết này, cũng như bạn đang đọc bài viết này, đều dành phần lớn cuộc sống thường ngày của mình trước màn hình điện thoại di động và máy tính xách tay được trang bị camera.Từ góc nhìn của hệ thống, hành động của con người là vật chất cho thuật toán.
Camera giám sát con cái có mục đích là để tạo ra mối quan hệ lý tưởng giữa cha mẹ và người trông trẻ, nhưng đồng thời cũng là một thực thể phi nhân tính học hỏi và thực hiện ý định hạn chế con người đối với con người. Nhận thức về việc chúng ta đang sống chung với những thực thể mới này có thể giúp chúng ta quản lý và đối phó với những ý định phi đạo đức liên quan đến Deepfake.
Thứ hai, cần tạo ra và phổ biến giáo dục liên quan ở cấp độ cộng đồng. Chúng ta có xu hướng tìm kiếm cảm giác thuộc về trong những kết nối yếu ớt trong hệ thống kỹ thuật số. Điều này liên quan đến việc thiếu cảm giác thuộc về từ các nhóm xã hội được củng cố bởi đại dịch, chúng ta muốn tin rằng mình được kết nối với những người vô hình nào đó thông qua sở thích hoặc mối quan tâm. Việc kiểm tra TikTok liên tục đến 2 giờ sáng, truy cập thường xuyên vào Wikipedia mà không mong đợi độ chính xác, kiểm tra liên tục những câu chuyện trên Instagram, bỏ mặc các nhóm trò chuyện ít quan tâm là những ví dụ điển hình.
Deepfake có xu hướng kích thích cảm giác thuộc về từ những kết nối yếu ớt này, nhưng do thiếu sự quan tâm sâu sắc đến chủ thể liên quan nên việc phá vỡ ảnh hưởng của nội dung liên quan cũng tương đối dễ dàng. Việc xác minh tính xác thực của nội dung Deepfake nhằm làm giảm uy tín của chính trị gia là điều khó khăn đối với cá nhân, nhưng một dự án đã xác định được sự thật trong một đơn vị chính đảng cho thấy chương trình giáo dục dựa trên quan điểm, giá trị và tập quán của cộng đồng có thể là một giải pháp hiệu quả. Điều này cũng có nghĩa là các công ty cung cấp dịch vụ nền tảng nơi nội dung Deepfake được chia sẻ có thể tạo ra cơ hội chiến lược bằng cách đưa ra các giải pháp ứng phó cộng đồng độc đáo cho người dùng.
Phim "Fast & Furious", sử dụng kỹ thuật Deepfake để hồi sinh Paul Walker, người đã qua đời vì tai nạn, bằng cách ghép mặt của anh ấy lên diễn viên đóng thế là em trai, là một ví dụ tích cực về việc sử dụng công nghệ Deepfake. Tuy nhiên, việc một nữ nhà báo bị sử dụng làm mục tiêu cho video khiêu dâm giả mạo đã khiến cuộc sống của một người bị hủy hoại cũng là một điều đang xảy ra trong thực tế.
Cần nhớ rằng các diễn viên trong ngành công nghiệp điện ảnh hiện là những người được bảo vệ nhiều nhất trước công nghệ Deepfake. Xã hội hiện tại vẫn chưa thể trả lời câu hỏi liệu chúng ta có thể phản ứng như thế nào khi đối tượng là người bình thường. Trước khi kỳ vọng vào các quy định pháp lý, việc tự nhận thức về bản thân, những người đang xem nội dung Deepfake trên các kênh mạng xã hội như TikTok để giải trí, có lẽ là bước đầu tiên cần thiết nhất.
*Bài viết này được xuất bản vào ngày 14 tháng 2 năm 2023 tạiCột mốc có tên trên báo điện tử là bản gốc của nội dung đã được công bố.
Tài liệu tham khảo