Cảnh sát Tokyo đã bắt giữ bốn người trong độ tuổi từ 20 đến 50 vì bị cáo buộc tạo và bán hình ảnh khiêu dâm được tạo ra bằng trí tuệ nhân tạo. Đây được cho là trường hợp đầu tiên thuộc loại này ở Nhật Bản.

Chính quyền cho biết những người này đã sử dụng phần mềm tạo hình ảnh AI miễn phí được đào tạo bằng những bức ảnh công khai để tạo ra những hình ảnh khỏa thân giống như thật của những người phụ nữ trưởng thành hư cấu tạo dáng theo những cách khiêu dâm. Những hình ảnh này được in dưới dạng áp phích và bán trực tuyến, thường được quảng cáo là “AI Beauties”, thu về vài nghìn yên mỗi tấm.

Tomohiro Mizutani, một nhà bán lẻ 44 tuổi đến từ Tỉnh Aichi, bị cáo buộc đã kiếm được hơn 10 triệu yên (khoảng 66.000 đô la) từ việc bán những tấm áp phích này trong hơn một năm. Tất cả các nghi phạm đều đã thú nhận các cáo buộc, với Mizutani tuyên bố rằng anh ta theo đuổi dự án này vì lợi nhuận cao. Một nghi phạm khác, Takashi Suganuma, 53 tuổi, cho biết ông ta đã tự học cách tạo ra những hình ảnh này và có ý định xây dựng một doanh nghiệp xung quanh nó.

Sự cố này đã thu hút sự chú ý trở lại vào sự lan truyền của deepfake và nội dung khiêu dâm do AI tạo ra. Cảnh sát Tokyo đã phân loại hình ảnh do AI tạo ra là nội dung khi.ê.u d.â.m mặc dù không có người mẫu thật.

Sự cố này cũng đổ thêm dầu vào cuộc tranh luận đang diễn ra liên quan đến hình ảnh trẻ em do AI tạo ra. Trong khi Nhật Bản cấm mọi nội dung khiêu dâm liên quan đến trẻ vị thành niên, vẫn còn những lỗ hổng pháp lý liên quan đến hình ảnh tổng hợp. Một số chính quyền địa phương, như Tỉnh Tottori, đã bắt đầu sửa đổi luật của họ để giải quyết vấn đề này.

Các chuyên gia pháp lý cho rằng quy định phải phát triển cùng với công nghệ. Giáo sư Takashi Nagase của Đại học Kanazawa nhấn mạnh tầm quan trọng của việc điều chỉnh luật để bảo vệ xã hội trong khi vẫn tôn trọng quyền tự do ngôn luận.

Trên toàn cầu, việc thực thi pháp luật đang được tăng cường. Europol gần đây đã công bố việc bắt giữ 25 cá nhân ở 19 quốc gia vì bị cáo buộc điều hành một trang web phân phối hình ảnh lạm dụng trẻ em do AI tạo ra.