欢迎您访问福建众创高电气设备有限公司网站

公司简介 联系我们 网站地图

欢迎来电咨询

15359273790

新闻资讯

全国服务热线

15359273790

技术过硬,据实报价

行业动态

当前位置: 众创高工业 > 新闻资讯 > 行业动态

警惕AI技术背后的隐蔽角落

2023-06-01 09:56 已有人浏览 作者

换脸、变声,移花接木,以假乱真……当前,AI技术正在以势不可挡的趋势,创造数字技术生活,为社会带来深刻影响和变革。

然而,在AI技术被广泛应用于各领域的背后,存在着隐蔽的黑暗角落。不法分子利用AI技术进行违法犯罪,对社会安全构成威胁。公安机关在对此类犯罪给予高度关注的同时也向公众发出预警。

从眼下已经出现的利用AI技术实施电信网络诈骗犯罪活动来看,其主要表现为下面几种形式:一是骗子用AI换脸技术,伪装成受害人的熟人、朋友,通过视频通话,进行信息确认,骗取受害人的信任;二是骗子通过骚扰电话录音等来提取声音,获取素材后,利用AI技术进行声音合成,然后用伪造的声音欺骗受害人;三是骗子利用AI技术分析公众发布在网络上的各类信息,根据所要实施的骗术对人群进行目标筛选,个性化定制诈骗脚本,从而实施精准诈骗。

但也有业内人士指出,目前的AI换脸技术若做到融进视频通话中,并达到不卡顿、肉眼难以识别的真实质感,在技术上并非易事。同时,AI换脸换声技术如果被用于诈骗,骗子还必须对被换脸人的外貌、声音、行为习惯、思维方式以及和受害人之间的关系等非常熟悉,否则很容易露出马脚。

当然,技术本身无好坏,关键在于如何利用。AI技术的应用必须符合国家的法律法规以及社会伦理规范。为规范AI技术的合法合规使用,今年1月开始施行的《互联网信息服务深度合成管理规定》,对人脸生成、替换、操控,合成人声、仿声等都有明确约束;今年4月,国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》,对AI伪造进行了全面规定。

我国各地公安机关出重拳、全链条严厉打击利用AI技术实施违法犯罪行为。同时,对社会公众来说,针对“变脸”“变声”诈骗,一定要提高防范意识,不轻易向他人提供人脸、指纹等个人生物信息,不在社交平台过度分享个人的动图、视频,一旦发现自己有被骗风险,及时报警求助。

归根结底,在使用AI技术时,要因势利导、趋利避害,坚守法律和道德的底线,使其更利于人类社会的进步发展。

与警惕AI技术背后的隐蔽角落相关的其他内容