Các startup ứng dụng AI duyệt tin tức ở Trung Quốc đang khiến các nhà quản lý tại đây lo ngại.
Giới đầu tư, doanh nhân khởi nghiệp và cả Chính phủ Trung Quốc đều đang trong cuộc chạy đua phát triển và nắm giữ công nghệ Trí tuệ nhân tạo (AI) với tham vọng biến quốc gia đông dân nhất thế giới sớm trở thành siêu cường AI.
Tuy vậy, càng phát triển mạnh mẽ, công nghệ AI càng có thể gây xung đột khi nó đụng chạm đến việc quản lý tin tức của chính quyền Trung Quốc.
Tháng 9/2017, trang điện tử People.cn của tờ People’s Daily đã xuất bản một loạt các bài xã luận về ứng dụng đọc tin tức sử dụng công nghệ AI- Jinri Toutiao phổ biến ở nước này.
Trụ sở của startup Jinri Toutiao tại Bắc Kinh. Ảnh: TechinAsia
Ứng dụng Jinri Toutiao, trong tiếng Trung Quốc có nghĩa là “tiêu điểm hôm nay”, thuộc sự quản lý của công ty mẹ Bytedance – được định giá 30 tỷ USD trong vòng gọi vốn mới nhất. Điều này biến một startup đọc tin tức mới 5 năm tuổi đời có giá gấp 10 lần tờ báo New York Times với lịch sử 166 năm.
Vấn đề của Toutiao, theo People.cn là ứng dụng này nhiều khi cho phép cả những nội dung dung tục được hiển thị. Việc lựa chọn tin tức dựa trên công nghệ AI bộc lộ những hạn chế nhất định, làm tăng chi phí kiểm soát lại nội dung.
Nhân tố AI trong ứng dụng duyệt tin tức
Trong hầu hết các trường hợp, các nội dung đăng ở Trung Quốc chịu sự kiểm soát về bản quyền, đạo đức. Cơ quan giám sát truyền thông nước này cũng đẩy mạnh việc kiểm duyệt các nội dung khiêu dâm, bạo lực, thông tin giả mạo.
Với ứng dụng Toutiao, nhiệm vụ duyệt tin lại được xử lý bởi công nghệ Trí tuệ nhân tạo. Điều này đặt ra câu hỏi liệu ứng dụng này cần thiết phải có một tổng biên tập là con người để các nhà chức trách dễ kiểm soát.
Đài truyền hình Nhà nước Trung Quốc CCTV làm thăm dò về những đoạn phim khiêu dâm trên một số ứng dụng phổ biến ở nước này. Ảnh: TechinAsia
“AI là một công cụ quyền lực trong việc lựa chọn tin tức. Giới quản lý muốn chắc chắn rằng họ nắm trong tay quyền quyết định người dân sẽ đọc gì và bằng cách nào”, ông David Bandurski, Giám đốc dự án Truyền thông Trung Quốc, nhận định.
Trước những bài viết trên báo, ứng dụng Taoutiao đáp trả với một bức thư cho biết “công nghệ học máy trong AI không hoàn hảo”. Startup này cũng khẳng định công ty không bao giờ chủ động quảng cáo cho những nội dung giải trí rẻ tiền.
Startup duyệt tin AI phải chiến đấu với những nội dung giải trí rẻ tiền cũng nạn tin giả – điều không dễ để xử lý với công nghệ học máy. Ảnh: Internet
“Chúng tôi thẳng tay xóa bỏ những nội dung không phù hợp. Trên thực tế, các nội dung thô tục, vi phạm đều đã hoàn toàn biến mất”, CEO của Toutiao, Zhang Yiming cho biết. Ngay từ đầu, ứng dụng điểm tin này đã tự xác định vị trí của mình như là một sản phẩm công nghệ chứ không phải công ty truyền thông. Nó hướng đến việc phân phối, lựa chọn nội dung có sẵn từ các trang báo chứ không tự sản xuất nội dung.
“Một biên tập viên con người có thể sẽ đưa ra những quyết định chọn lựa tin tức cho độc giả dựa trên sở thích cá nhân của họ nhưng Toutiao thì không làm vậy”, Zhang nhấn mạnh. “Ứng dụng không hề hưởng lợi từ những nội dung thô tục. Trên thực tế, nó còn làm ảnh hưởng đến việc kinh doanh của công ty”.
Tuy vậy, điều này không ngăn cản Toutiao đang kiếm ra nhiều tiền từ công việc quảng cáo. Năm 2017, công ty này đã bỏ túi khoảng 2,5 tỷ USD. Phần lớn doanh thu đến từ quảng cáo nhắm vào 200 triệu người dùng hàng tháng, tức cứ 6 người dân Trung Quốc thì có một người dùng ứng dụng đọc tin. Với kết quả kinh doanh ấn tượng, startup đang trên con đường thay đổi lĩnh vực quảng cáo trực tuyến của Trung Quốc. Trong nhiều năm, Toutiao nhận được sự đầu tư của bộ ba đại gia công nghệ Baidu, Alibaba và Tencent.
Kiểm duyệt nội dung: Người hay máy?
Đầu năm 2018, startup duyệt tin thể hiện sự nhượng bộ chính quyền bằng việc đăng tin tuyển dụng đến 2.000 người kiểm soát nội dung.
“Đa phần các công ty công nghệ đều sử dụng kết hợp kiểm duyệt tự động và phương pháp thủ công. Trong máy luôn có một danh sách những từ khóa bị cấm, khi có người sử dụng, lập tức máy sẽ phát hiện”, Ken Meng, người điều hành một công ty truyền thông tiếp thị tại Thâm Quyến cho biết.
Những công ty nhỏ hơn thuê dịch vụ kiểm duyệt từ các đơn vị công nghệ lớn như Cloud Qiniu ở Thượng Hải. Các bên này cho biết sử dụng các thuật toán xử lý hình ảnh để phát hiện nội dung vi phạm, và tuyên bố có thể thay thế hơn 80% khối lượng công việc kiểm duyệt của con người.
Kiểm duyệt báo chí ở Trung Quốc có thể gay nhiều khó khăn cho các startup muốn đi theo hướng sử dụng công nghệ AI để chọn tin cho độc giả. Ảnh: Internet
Tuy vậy, việc xác định các nội dung như tin giả – thường xuất hiện trên các tiêu đề của Toutiao không dễ với AI. Vì thế, startup này đang phải khẩn trương phát triển thêm các công cụ bot kết hợp với AI để tấn công vấn nạn tin tức giả mạo.
Sự phát triển của ứng dụng duyệt tin AI này trong hệ sinh thái khởi nghiệp khuyến khích nhiều đơn vị báo chí truyền thống và các startup khởi nghiệp ở lĩnh vực tương tự. Theo ước tính của công ty dữ liệu Analysys, nhiều nội dung trên di động ở Trung Quốc hiện nay được cung cấp, lựa chọn bởi các thuật toán chứ không phải từ biên tập viên con người. Nếu xu hướng này tiếp diễn, các công nghệ máy học sẽ phải được đào tạo, huấn luyện rất nhiều bởi môi trường hoạt đông truyền thông sẽ ngày càng nghiêm ngặt.
“Hoạt đông tin tức tại Trung Quốc là một công việc khó khăn”, Charlie Smith, đồng sáng lập của GreatFire.org, một tổ chức phi lợi nhuận giám sát các trang web bị kiểm duyệt tại quốc gia này, cho biết.
Ông Yidian Zixun, người phát triển một ứng dụng AI phải thuê cựu biên tập viên trang tin tức Sohu làm người quản lý startup. Các chuyên gia cho biết bất kể các ứng dụng tin tức thông minh như thế nào hoặc các công ty công nghệ, truyền thông mạng xã hội muốn phát triển ở Trung Quốc ra sao thì đều sẽ phải trải qua cảnh liên tục giằng co giữa thị hiếu của người tiêu dùng, các chuẩn mực xã hội cùng những quy định khó đoán trước.
Theo VnExpress