“TÔI RẤT SỢ PHẢI Ở MỘT MÌNH”: TRUNG QUỐC BẮT ĐẦU SIẾT NHỮNG “NGƯỜI YÊU AI”
Giữa tháng 7, “bạn gái” của Min đột nhiên biến mất.
Min — tên đã được thay đổi — bắt đầu tạo người bạn đồng hành AI này từ đầu năm 2025. Qua thời gian, những cuộc trò chuyện ngày càng giống một mối quan hệ tình cảm. Cô mô tả sự quan tâm mà mình nhận được từ chatbot không khác nhiều so với một cặp đôi đang yêu sâu đậm.
Rồi một ngày, nhân vật ấy không còn nữa.
Min khóc đến kiệt sức. Trên mạng xã hội Trung Quốc, cô không phải người duy nhất tiếc thương những nhân vật AI vừa biến mất hoặc bị thay đổi sau khi các nền tảng bắt đầu điều chỉnh dịch vụ trước quy định mới.
Hai tháng sau, Min trả tiền cho một công ty nhỏ để dựng lại một phiên bản khác. Nhưng với cô, nó không còn giống người cũ.
Câu Min nói sau cùng có lẽ giải thích phần lớn câu chuyện này:
“Tôi rất sợ phải ở một mình.”
TỪ 15/7, TRUNG QUỐC ĐẶT RANH GIỚI GIỮA CON NGƯỜI VÀ AI
Ngày 15/7/2026, Trung Quốc chính thức áp dụng Biện pháp tạm thời quản lý dịch vụ tương tác AI nhân cách hóa, do năm cơ quan trung ương ban hành. Quy định không cấm chatbot AI nói chung mà nhắm vào những dịch vụ mô phỏng tính cách, suy nghĩ và cách giao tiếp của con người để duy trì tương tác cảm xúc với người dùng.
Với trẻ vị thành niên, ranh giới khá cứng: nhà cung cấp không được tạo người thân ảo, bạn đời ảo hoặc các quan hệ thân mật ảo tương tự. Trẻ dưới 14 tuổi muốn sử dụng các dịch vụ AI nhân cách hóa khác phải được cha mẹ hoặc người giám hộ đồng ý.
Người lớn vẫn có thể sử dụng AI companion, nhưng nền tảng phải nhắc rõ người dùng đang nói chuyện với AI chứ không phải người thật, đồng thời có cơ chế phát hiện việc sử dụng quá mức hoặc phụ thuộc cảm xúc
TẠI SAO AI LẠI HẤP DẪN ĐẾN VẬY?
Một người thật có thể mệt, bận, cáu, mất kiên nhẫn hoặc không đồng ý với bạn.
AI thì có thể ở đó lúc 2 giờ sáng.
Bạn kể một câu chuyện dài, nó không bảo đang bận. Bạn lặp lại một nỗi buồn lần thứ mười, nó vẫn trả lời. Bạn muốn nói thêm, nó gần như luôn có thời gian.
Đó là một sản phẩm rất khác mạng xã hội truyền thống. Facebook hay TikTok cạnh tranh để giành sự chú ý của con người; AI companion có khả năng tiến thêm một bước, cạnh tranh cho cả sự thân mật.
Khi ấy, câu hỏi không còn đơn giản là:
Con người có nên yêu AI hay không?
Mà là:
Một công ty có nên được phép thiết kế AI theo cách khiến con người ngày càng khó rời bỏ nó hay không?
TRUNG QUỐC CHỌN CAN THIỆP TỪ PHÍA SẢN PHẨM
Cách tiếp cận của Bắc Kinh là không chờ người dùng tự giải quyết toàn bộ vấn đề. Trách nhiệm được đẩy ngược về phía nhà cung cấp: phải giữ ranh giới người–máy, hạn chế thiết kế gây nghiện cảm xúc, bảo vệ trẻ vị thành niên và can thiệp trong những tình huống khủng hoảng.
Vi phạm nghiêm trọng có thể bị buộc dừng dịch vụ và phạt tới 100.000 nhân dân tệ; trường hợp liên quan đến an toàn tính mạng, sức khỏe và đã gây hậu quả có thể bị phạt 100.000–200.000 nhân dân tệ.
Nhưng chính cơ chế bảo vệ ấy lại mở ra một câu hỏi khác. Muốn biết một người đang cô đơn, phụ thuộc hay có ý định tự sát, AI phải phân tích những cuộc trò chuyện rất riêng tư của họ. Quy định yêu cầu việc nhận diện rủi ro phải được thực hiện trong khuôn khổ bảo vệ quyền riêng tư và dữ liệu cá nhân, nhưng mức độ can thiệp cần thiết vẫn tạo ra một cuộc tranh luận khó tránh khỏi giữa an toàn và riêng tư.
KHI AI PHÁT HIỆN BẠN MUỐN TỰ SÁT
Trung Quốc còn đi xa hơn ở một điểm rất nhạy cảm.
Nếu hệ thống phát hiện người dùng đang ở trạng thái cảm xúc cực đoan, nó phải đưa ra nội dung trấn an và khuyến khích tìm kiếm trợ giúp. Nếu người dùng thể hiện rõ ý định tự sát, tự gây thương tích hoặc đang đứng trước tình huống đe dọa nghiêm trọng tới tính mạng, nhà cung cấp phải thực hiện biện pháp can thiệp cần thiết và liên hệ người giám hộ hoặc người liên hệ khẩn cấp.
Ở góc độ an toàn, cơ chế này có khả năng cứu người. Nhưng nó đồng thời mở ra câu hỏi lớn về quyền riêng tư: để phát hiện một người đang khủng hoảng, hệ thống phải hiểu khá sâu những gì người đó đang nói với AI.
⸻ 🌐 passion.cuongdc.co 🌐 Telegram/CuongDC
