随着人工智能(AI)技术发展,中国近期出现多起利用AI传播假新闻或进行诈骗的案件。浙江绍兴警方星期二(7月4日)通报,破获一起利用ChatGPT技术制作虚假视频的案件。
据澎湃新闻报道,绍兴警方介绍,警方6月初在网上巡查时,发现有网民发布关于“上虞工业园区发生火灾”的视频,且在短时间内浏览量迅速攀升。警方介入核实后,确认视频为不实信息,随后锁定外省某科技公司有较大作案嫌疑,并抓获三名犯罪嫌疑人。
警方调查发现,该公司5月以来从网上非法收购一批视频账号,利用ChatGPT技术,根据中文自动搜索到网上相应视频,并且完成文字与视频的拼接。犯罪嫌疑人将虚假视频发布到网络博取流量,并通过流量算法返款盈利。截至目前,该团伙非法购买视频账号1500余个,发布未经核实视频3000个以上。
报道称,目前三名嫌疑人已因寻衅滋事罪被警方采取刑事强制措施,案件正在进一步侦办中。