**合肥警方破獲AI偽造音視頻案**
近日，深圳市睿域科技有限公司針對網絡上流傳的一段涉嫌偽造的音視頻資料發布聲明。據悉，該音視頻中的音頻部分，經與合肥警方緊密配合調查，證實系由嫌疑人利用睿域科技自主研發的Reecho睿聲AI配音大模型平臺生成。
調查結果顯示，嫌疑人使用了盧某先前直播中的約30秒錄音作為克隆源，通過AI技術生成了偽造音頻。此事件引起了社會各界對AI技術應用的合法性與安全性的廣泛關注。
睿域科技在聲明中表示，公司已經迅速啟動內部審核機制，并將進一步加強用戶身份認證及音頻生成的安全管控，以確保其技術能在合法合規的框架內得到應用。
合肥市公安局高新分局也于昨日發布了相關警情通報。通報指出，2024年9月20日，警方接到三只羊公司報警，稱網絡上傳播的涉及盧某某的音視頻內容不實，嚴重侵犯了其合法權益。
經過縝密偵查，警方于9月22日晚成功抓獲犯罪嫌疑人王某某，并在其電腦、手機及制作AI音頻的網站上找到了偽造音視頻的確鑿證據。經專業機構檢驗鑒定，確認所涉網傳音視頻系王某某偽造。
調查顯示，王某某利用從互聯網上下載的音視頻資料，編造了盧某某酒后的言論腳本，隨后使用AI工具生成了假冒盧某某的音頻，并通過視頻軟件合成了偽造的音視頻。該偽造音視頻在網絡上迅速傳播，造成了惡劣的社會影響。目前，王某某已被警方依法采取刑事強制措施，案件正在進一步偵辦當中。
此案件不僅揭示了AI技術被濫用的風險，也警示了社會各界需加強對AI技術的監管和引導，確保其能夠在道德和法律的框架內健康發展。
#AI技術濫用# #音視頻偽造# #合肥警方# #睿域科技# #安全管控#
