Một giáo viên thể dục và cựu giám đốc thể thao của một trường trung học ở Quận Baltimore đã bị bắt và bị buộc tội sử dụng dịch vụ nhân bản giọng nói AI để gài bẫy hiệu trưởng của trường.
Biểu ngữ Baltimore báo cáo rằng cảnh sát Quận Baltimore tin rằng đoạn ghi âm lan truyền trên mạng xã hội vào tháng 1 với âm thanh được cho là của hiệu trưởng trường trung học Pikesville Eric Eiswert đưa ra những bình luận phân biệt chủng tộc và chống Do Thái là giả mạo. Các chuyên gia kể Biểu ngữ Baltimore và cảnh sát rằng đoạn ghi âm, dẫn đến việc Eiswert bị đình chỉ trong thời gian ngắn, có “âm thanh phẳng, âm thanh nền trong trẻo bất thường và thiếu âm thanh thở hoặc tạm dừng nhất quán”.
Cảnh sát Quận Baltimore đã lần ra đoạn ghi âm của Dazhon Darien, một cựu giám đốc thể thao của trường, tên cũng được nhắc đến trong đoạn ghi âm. Anh ta bị cáo buộc đã sử dụng máy tính của trường “để truy cập các công cụ OpenAI và dịch vụ Microsoft Bing Chat”, theo báo cáo của WBAL-TV 11 và tin tức NBC. Anh ta cũng được liên kết với việc phát hành âm thanh thông qua địa chỉ email và số điện thoại khôi phục liên quan.
Không rõ nền tảng giọng nói AI mà Darien được cho là đã sử dụng.
Cảnh sát đã bắt giữ Darien vào thứ năm tại sân bay và nói trong một tuyên bố, “Người ta tin rằng ông Darien, từng là Giám đốc thể thao tại trường trung học Pikesville, đã ghi âm để trả đũa ông Eiswert, người vào thời điểm đó đang theo đuổi một cuộc điều tra về khả năng xử lý sai quỹ của trường.” Anh ta đã được thả sau khi đăng ký bảo lãnh và phải đối mặt với các cáo buộc bao gồm trộm cắp (vì vấn đề liên quan đến quỹ của trường), gây rối hoạt động của trường học, trả thù nhân chứng và rình rập.
Trong môi trường khắc nghiệt này, OpenAI đã quyết định giữ lại vào tháng 3 nền tảng tạo văn bản thành giọng nói AI của nó, Voice Engine, được sử dụng rộng rãi. Dịch vụ này chỉ yêu cầu một đoạn âm thanh dài 15 phút để sao chép giọng nói của ai đó và chỉ được cung cấp cho một số nhà nghiên cứu hạn chế do thiếu rào cản xung quanh công nghệ.
Các nhà lập pháp Hoa Kỳ đã đệ trình nhưng chưa được thông qua một số dự luật như Đạo luật Không hàng giả Và Đạo luật Không gian lận AI tìm cách ngăn chặn các công ty công nghệ sử dụng khuôn mặt, giọng nói hoặc tên của một cá nhân mà không có sự cho phép của họ.
Cập nhật, ngày 25 tháng 4: Làm rõ rằng Trường Trung học Pikesville nằm ở thành phố Pikesville thuộc Quận Baltimore, Maryland, đồng thời bổ sung thêm thông tin chi tiết về Darien và vụ bắt giữ hôm thứ Năm.