韩国多名官员2日说，警方将投资91亿韩元（约合4500万元人民币）开发一个可以查出深度伪造文件和虚假信息的系统，以应对涉及人工智能生成图像和声音的犯罪案件激增的状况。

韩联社援引官员的话报道，警方计划开发一个使用多模态算法的系统，通过分析噪音和声音频率查出深度伪造视频和人工智能生成的声音，并可追踪到网络信息来源，以便能在早期阶段应对和阻止假新闻和错误信息的传播。开发工作预计2027年12月完成。

警方希望该系统有助于大幅缩短辨别深度伪造视频和音频片段所需的时间。

2024年前10个月，韩国警方逮捕了573名深度伪造信息相关犯罪的嫌疑人，案件数量达1094起，其中不少受害人未成年。

深度伪造指用人工智能技术制作看起来真实度很高的视频、图片或音频片段，这种技术可将色情影像中的人变成他人模样。