近年来,随着AI技术的快速发展,越来越多的人在工作生活中开始享受到该技术所带来的全新体验,但伴随而来的是,利用或滥用AI技术从事违法犯罪的活动(以下简称AI犯罪)日益增多。
2024年以来,浙江省杭州市临平区借助“反诈智能AI宣防外呼系统”,自动识别、分析和预警潜在的诈骗风险,并以电话语音形式向市民发送提醒信息,不仅大幅提升工作效能,也切实提高了市民对诈骗风险的警觉性,降低了诈骗案件的发生率。
“尽管单边主义、贸易保护主义、逆全球化思潮不断有新的表现,但‘地球村’的世界决定了各国日益利益交融、命运与共,合作共赢是大势所趋。”
此外,全国公安机关去年依托“净网”专项行动组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获利用AI技术“换脸”进行诈骗犯罪案件79起,抓获犯罪嫌疑人515名,有效遏制了该类犯罪势头。
记者了解到,在依法打击AI犯罪的过程中,政法机关深挖这一违法犯罪的规律特点,坚持以打开路、打防并举、源头治理、综合施策,会同相关部门单位深入推进行业治理、综合治理,压实主体责任,强化行业监督,堵住监管漏洞,全力挤压相关违法犯罪活动空间,加速完善常态化治理机制,切实提高其违法成本。
2023年6月,原是北京一家互联网公司技术员的白某某,在境外的社交媒体上接触到了“一键去衣”的AI技术,便动起了歪心思。
“政法机关立足主责主业,发挥职能作用,全力打击治理AI犯罪,防范不法分子利用或滥用AI技术侵犯公民权利、危害公共安全,保证AI技术始终沿着正确的轨道向前发展。”首都师范大学政法学院法律系副教授崔俊杰对《法治日报》记者说。
据悉,该程序可对多款游戏的画面数据进行未授权获取,对游戏中处理的鼠标数据指令进行未授权修改,造成玩家在玩游戏时,不用操作就可以“自动瞄准”“自动开枪”,干扰了游戏的正常运行环境,属于破坏性程序。
自最高检去年11月发布《检察机关打击治理电信网络诈骗及其关联犯罪工作情况(2023年)》后,各地检察机关按照相关要求,加大对侵犯公民个人信息尤其是非法获取人脸、声纹等敏感信息、利用AI等前沿技术伪造人脸、声纹以及获取其他信息犯罪的打击力度。
七年过去,如今,上合组织峰会再次来到了阿斯塔纳。这个人口约占世界一半、经济总量约占全球四分之一的国际组织,将如何给当前变乱交织的世界传递团结之声,谋划幸福之道,备受瞩目。
上合组织成长于国际和地区面临诸多挑战的环境之中,2013年首次出席上合组织峰会时,习近平主席就表示:“对这些挑战,任何一个国家都难以独自应对。我们必须加强合作,联合自强。”
20多年来,上合组织以协调解决成员国安全问题为出发点,一路延伸至经济、文化等多领域合作。目前,上合组织拥有9个正式成员国,3个观察员国、14个对话伙伴,地理范围涵盖亚、欧、非三大洲,是当今世界幅员最广、人口最多的综合性区域组织。
“电诈犯罪团伙能够通过AI技术‘换脸’‘变声’,甚至是‘动态换脸’,增加了传统犯罪活动的危害性,还产生了新型的违法行为,如使用AI‘绘画’技术生成的绘画作品可能会对他人著作权造成侵权。”崔俊杰表示,当前AI技术已被不法分子使用于网络钓鱼、深度伪造、绕过身份检查、“越狱”式服务、人肉搜索和监视五个方面,进一步降低了犯罪的门槛。
据悉,为防范和打击“AI换脸”犯罪,全国公安机关联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖即时通信、网络直播、网络社交、电商平台、金融支付等重点App,及时发现人脸识别验证系统存在的风险隐患,通报运营主体升级安全保护措施和人脸识别算法,不给不法分子可乘之机。
六年前的上合组织青岛峰会上,习近平说,“当前,世界发展既充满希望,也面临挑战,我们的未来无比光明,但前方的道路不会平坦。我们要进一步弘扬‘上海精神’,破解时代难题,化解风险挑战。”
“一键去衣”究竟是怎样的一种技术?记者了解到,这项技术并不是真的“去衣”,而是在图片的基础上,通过AI自行运算使用相关的淫秽图像素材对图片进行重绘,和“AI换脸”“AI变声”一样,属于利用AI深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。
崔俊杰建议,要坚持以科学适度的治理方式和治理手段回应技术发展和社会变迁,针对AI犯罪特点,相关部门需及时推动相关法律的立改废释纂,以良法促善治,提高依法治理水平;加大全链条打击力度,强化各部门协同配合,加强大数据法律监督模型应用,善于从中发现重点监督线索和社会治理存在的难点问题,实现精准监督、有效监督,在确保行业良性健康发展的基础上实现精准治理。(本报记者 杜洋)2017年6月,在阿斯塔纳举行的上海合作组织成员国元首理事会第十七次会议上,习近平主席引用这句哈萨克斯坦谚语,强调上海合作组织成员国团结协作的重要性。
6月25日,江苏省张家港市人民检察院向市人民法院就一起敲诈勒索、诈骗案件提起公诉。据悉,犯罪嫌疑人所在的境内团伙通过虚拟定位、AI技术合成照片等方式,在交友软件上将自己包装成在外国的中国女留学生,随后以谈恋爱等名义,向在国外的留学生索取钱财。目前已查实该团伙敲诈勒索、诈骗50余人,涉案金额达100余万元。
上合组织国家山水相邻、利益交融。近年来,在共建“一带一路”赋能下,上合组织各成员国之间的贸易投资往来呈快速增长态势。
与此同时,各地通过多种形式的宣传教育,帮助群众更加清晰认识到AI技术被利用或滥用所带来的法律风险,增强了大家对AI犯罪的防范意识。
新浪体育nba4月12日,公安部公布10起打击整治网络谣言违法犯罪典型案例,其中4起典型案例涉及使用人工智能(以下简称AI)技术编造虚假信息;4月23日,北京互联网法院一审开庭宣判AI生成声音人格权侵权案……
“团结还是分裂?和平还是冲突?合作还是对抗?再次成为时代之问。我的回答是,各国人民对美好生活的向往就是我们的追求,和平、发展、合作、共赢的时代潮流不可阻挡。”
经审理查明:王某合通过制作出售“AI外挂”的方式牟利,2022年,其先后联系万某至、张某(另案处理)等人编写“AI外挂”程序。至案发,王某合非法获利共计629万余元。
“互信、互利、平等、协商、尊重多样文明、谋求共同发展的‘上海精神’已经成为上海合作组织赖以生存发展的根基,代表了当今国际关系发展方向。”
“随着AI技术的快速迭代,对其被不法分子利用或滥用进行防治提出了更高要求。如AI犯罪行为更为隐蔽和复杂,证据收集难度大。”崔俊杰说,因此,如何更好地防治AI犯罪,对内容生成平台、行业监管部门乃至政法机关等各方都提出了挑战。
十多年间,世界百年变局加速演进,局部冲突和动荡频发,全球性问题加剧。习近平在上合组织峰会上传递中国声音,提出中国主张,促进上合之“合”,不断为动荡变革的世界注入更多确定性和正能量。
呼啸而过的中欧班列上,“中国制造”产品经哈萨克斯坦,转往中亚、欧洲市场,哈萨克斯坦所产原料及产品被运抵中哈连云港物流合作基地,由此起航,进入广阔的太平洋。
今年4月,安徽省合肥市警方通过中央媒体在关于“AI软件成造谣工具”节目中揭秘谣言制作过程,让网民更直观地加深了对AI造谣的认识,起到了较好的宣传效果。
5月6日下午,江西省鹰潭市余江区人民法院公开宣判全国首例“AI游戏外挂”案,依法对被告人王某合以提供侵入、非法控制计算机信息系统程序、工具罪判处有期徒刑三年,缓刑五年。宣判后,王某合表示服从判决,不上诉。
2023年9月,最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》,明确对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形予以从重处罚。
白某某通过境外的网站发布广告,在某社交软件上贩卖深度伪造淫秽图片近7000张,获利一万多元。目前白某某已被提起公诉。
4月23日,全国首例AI生成声音人格权侵权案在北京互联网法院一审开庭宣判,法院认定被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权,构成侵权,赔偿原告各项损失25万元,并书面赔礼道歉。
在崔俊杰看来,AI技术标准化程度低、可定制性强、应用场景广泛,不法分子作案手法越发多样,导致AI犯罪不断衍生升级,如不及时进行打击治理,会给网络安全,甚至广大群众的生命财产安全带来严峻挑战。