 |
| Hiệu trưởng trường trung học Pikesville đã bị điều tra sau khi đoạn ghi âm được cho là giọng nói của ông được lan truyền trên mạng xã hội. Ảnh: The Baltimore Banner. |
Ngày 25/4, một giáo viên thể dục và cựu giám đốc thể thao của một trường trung học ở hạt Baltimore, Mỹ đã bị bắt vì sử dụng AI giả giọng để gài bẫy Eric Eiswert, hiệu trưởng của trường trung học Pikesville.
Theo tờ The Baltimore Banner, cảnh sát hạt Baltimore khẳng định đoạn ghi âm được lan truyền trên mạng xã hội hồi tháng 1, với nội dung ông Eiswert đưa ra những bình luận phân biệt chủng tộc và chống người Do Thái, là giả mạo.
Các chuyên gia nói với The Baltimore Banner và cảnh sát rằng đoạn ghi âm dẫn đã có dấu hiệu can thiệp bởi AI.
Theo báo cáo của WBAL 11 và NBC News, người tạo ra và lan truyền đoạn ghi âm nói trên là Dazhon Darien, giáo viên thể thao từng làm việc owr trường. Người này bị phát hiện đã truy cập vào máy tính của trường “để sử dụng công cụ OpenAI và dịch vụ Microsoft Bing Chat”.
 |
| Vụ việc đã làm rấy lên những lo ngại về công nghệ giả giọng bằng AI. Ảnh: The Verge. Ảnh: iStock. |
Người này cũng liên quan đến vụ việc lan truyền đoạn ghi âm thông qua địa chỉ email và số điện thoại.
Cảnh sát đã bắt giữ Darien hôm 25/4 tại sân bay và cho biết Darien đã ghi âm "để trả đũa hiệu trưởng Eiswert", người vào thời điểm đó đang theo đuổi một cuộc điều tra về khoản quỹ của trưởng.
Darien được thả sau khi đăng ký bảo lãnh và phải đối mặt với các cáo buộc bao gồm trộm cắp quỹ trường, gây rối hoạt động của trường học và trả thù nhân chứng.
Thời gian qua, mối lo ngại về công nghệ làm giả giọng nói bằng AI đã tăng lên đáng kể khi các dịch vụ ngày càng trở nên giống thật hơn.
Vào tháng 1/2024, hai công ty ở Texas đã sử dụng AI để tạo ra bản ghi âm giả mạo giọng Tổng thống Joe Biden kêu gọi cử tri không bỏ phiếu. Ủy ban Truyền thông Liên bang đã cấm sử dụng cuộc gọi tự động AI vào tháng 2.
Hồi tháng 5/2023, một bài hát tựa đề “Heart on my sleeve” do AI tạo ra với giọng của rapper Drake và ca sĩ The Weeknd này đã đạt hơn 15 triệu lượt phát trên TikTok, 625.000 lượt trên Spotify và hơn 230.000 lượt trên YouTube chỉ trong vài giờ trước khi bị gỡ bỏ vì vi phạm bản quyền.
Trước tình hình này, vào tháng 3, OpenAI đã quyết định không cho sử dụng rộng rãi Voice Engine - nền tảng tạo văn bản thành giọng nói AI. Công ty sau đó cho biết dịch vụ này chỉ được cung cấp cho một số nhà nghiên cứu để tiếp tục phát triển.
Các nhà lập pháp Mỹ đã đệ trình, nhưng chưa thông qua, một số dự luật như Đạo luật Không giả mạo và Đạo luật Chống gian lận AI nhằm ngăn chặn các công ty công nghệ sử dụng khuôn mặt, giọng nói hoặc tên của một cá nhân mà không có sự cho phép của họ.
Những câu hỏi chúng ta phải đối mặt trong thế giới AI
Chúng ta có rất nhiều câu hỏi về thế giới AI, mà đó đều là những nghi hoặc không dễ có ngay đáp án.
Cuốn sách Thời đại AI - Và tương lai loài người chúng ta trình bày cách AI làm thay đổi mối quan hệ của chúng ta với tri thức, chính trị và xã hội. Mục tiêu tối thượng của cuốn sách này là giải thích về AI và cung cấp cho độc giả những câu hỏi mà chúng ta sẽ phải đối mặt trong những năm tới lẫn bộ công cụ để bắt đầu trả lời chúng.
