Đây là lần đầu tiên một người sản xuất tài liệu, hình ảnh về lạm dụng tình dục trẻ em bằng AI bị buộc tội.

Bộ Tư pháp Mỹ cho biết, đã buộc tội Steven Anderegg, 42 tuổi, ở Holmen, Wisconsin, về việc sử dụng phần mềm AI Stable Diffusion để tạo ra hơn 13.000 hình ảnh giả mạo trẻ vị thành niên.

Nhiều hình ảnh trong số đó mô tả trẻ em khỏa thân hoàn toàn hoặc một phần, mô tả cảnh quan hệ tình dục với nam giới, theo Washington Post ngày 22.5.

Một quan chức Bộ Tư pháp Mỹ nói, đây là trường hợp đầu tiên bị buộc tội liên quan đến sử dụng AI tạo ra các tài liệu lạm dụng tình dục trẻ em, được gọi là CSAM.

Những hình ảnh này không phải được chụp từ người thật mà được tạo ra bằng cách nhập các nội dung miêu tả vào phần mềm tạo hình ảnh.

Các nhà điều tra cũng cho biết, hai trường hợp khác liên quan đến AI ở Bắc Carolina và Pennsylvania đã sử dụng AI để ghép khuôn mặt trẻ em vào cảnh quan hệ tình dục, tạo ra các hình ảnh deepfake (giả mạo).

Vụ bắt giữ diễn ra khi CSAM tràn ngập các trang web có nội dung xấu với những hình ảnh được tạo ra từ các phần mềm trí tuệ nhân tạo.

Thứ trưởng Bộ Tư pháp Mỹ, Lisa Monaco cho biết: “Bộ Tư pháp sẽ ráo riết truy lùng những kẻ sản xuất và truyền bá CSAM – bất kể tài liệu đó được tạo ra như thế nào.

Nói một cách đơn giản, CSAM do AI tạo ra vẫn là CSAM và chúng tôi sẽ quy trách nhiệm cho những kẻ khai thác AI để tạo ra những hình ảnh tục tĩu và lạm dụng những hình ảnh giống ảnh thực về trẻ em”.