为深化政法智能化建设，加强“智慧治理”“智慧法院”“智慧检务”“智慧警务”“智慧司法”等信息平台建设，深入实施大数据战略，实现科技创新成果同政法工作深度融合。法制日报社已连续举办了六届“政法智能化建设技术装备及成果展”。

　　作为装备展配套活动，法制日报社于去年3月继续举办了2023政法智能化建设创新案例及论文征集宣传活动，活动征集了“智慧治理”“智慧法院”“智慧检务”“智慧警务”“智慧司法”创新案例、方案、产品、论文，2023年6月25日结果揭晓发布。入选的各类创新案例、方案、产品、论文在2023年7月10日至11日举办的成果展上进行了集中展示，并已编辑整理成册——《2023政法智能化建设创新案例及论文汇编》。

　　该汇编分为智慧治理篇、智慧法院篇、智慧检务篇、智慧警务篇、智慧司法篇五个篇章，为政法信息化、智能化建设提供及时、准确、 实用的资讯信息与经验观点。

　　应广大读者要求，我们特开辟专栏，分别将部分创新案例、创新方案、创新产品、创新论文进行展示，敬请关注！

　　以下推出的是《智慧警务篇 | 创新论文之“新时代人工智能犯罪行为治理研究”》

　　新时代人工智能犯罪行为治理研究

　　张建权 李 杰 雷 宇

　　贵州省铜仁市公安局

　　随着时代的不断发展，人工智能应运而生，在多个行业领域被广泛使用，给人们带来了极大的便利，但也被犯罪分子加以利用，带来了犯罪全面“智能化”的危险。

　　人工智能技术主要包括机器视觉、自然语言处理、生物识别技术、深度学习等，其本质在于异常强大的数据图像识别、智能分析、深度学习能力。由于利用人工智能进行犯罪具有手段隐蔽、犯罪效率及收益高等优势，使得利用人工智能技术犯罪成为人工智能时代下为更值得“冒险”的领域。其中比较典型的有信息窃取、网络攻击入侵、网络电信诈骗犯罪、个人隐私犯罪等。随着机器学习不断由浅层走向深度，自然语言处理技术的不断升级，ChatGPT、text2speech、deepfake、wav2lip等技术的出现，更加深刻地改变了新形势下的犯罪方式。正确认识当前新时代人工智能犯罪行为，做好犯罪行为治理，是当前更为紧迫的现实任务。

　　一、人工智能时代下的犯罪行为。

　　（一）利用人工智能技术进行网络攻击入侵

　　随着互联网、物联网、5G技术的进一步发展，网络空间的联网设备数量越来越多，人工智能因其具备不断学习和不断进化的能力，能够不断提升网络攻击能力。不仅可以将参与网络攻击的任务通过人工智能技术实现自动化集群化，还可以智能分析被攻击对象的安全防护机制，针对薄弱点定制攻击从而提高攻击的成功率。利用人工智能开展的网络攻击方式包括但不限于：恶意软件逃逸、高级鱼叉式钓鱼攻击、破解验证码、对攻击目标的精准定位与打击、恶意软件和勒索软件自动编写等。ChatGPT技术的出现，使得实现网络攻击更为简单，通过ChatGPT的使用，网络攻击者无需任何恶意软件编写经验，只需要知道恶意软件，或者说任何程序，应该具有哪些功能就行了。ChatGPT会为你编写出能执行所需功能的代码。网络攻击者就可以利用代码形成自动化、智能化的网络攻击流程。

　　（二）利用人工智能技术进行信息窃取

　　人工智能技术也经常被用于对公民个人数据信息的获取。绍兴市公安局破获的全国首例利用人工智能技术侵犯公民个人信息案，就是利用对图片验证码通过人工智能技术自动识别，通过撞库软件非法获取公民的个人信息。此外，ChatGPT能够短时间生成可扒取、压缩、传输文件的程序；一些人工智能小模型也可以通过数据窃取技术从大模型中偷取数据，例如斯坦福大学发布的Alpaca模型，可通过多个种子任务，将其与ChatGPT等大模型平台互动过程得到的数据来构建自身训练所需的数据集。再如三星公司3名员工泄露企业机密材料的问题，当其员工与ChatGPT进行交互时录入了敏感数据，这些内容就被ChatGPT纳入自身数据的一部分，从而导致这部分数据泄露。

　　（三）利用人工智能技术进行电信网络诈骗

　　传统电信网络诈骗普遍使用“广撒网”式手段进行诈骗，信息群发，电话群打、方法简单但效率不高。人工智能技术发展起来后，犯罪分子为提高效益，开始使用人工智能技术进行诈骗，通过获取的大量个人信息，为被诈骗人员量身定做诈骗流程、剧本，大大增强了诈骗成功率。2020年，湖南省岳阳市公安局破获了一起网络诈骗案。该团伙利用“AI智能语音机器人”对非法获取的大批量手机号码进行拨打并智能筛选人员，将有炒股行为的受害人拉入虚假的炒股微信群，从而实施诈骗行为。同时，犯罪分子也与时俱进，开始利用AI换语音、AI换脸等人工智能技术升级诈骗手段，提升诈骗能力和逃避打击能力。犯罪分子先攻击窃取海量个人信息，精准筛选出易受骗人群，使用ChatGPT定制个人诈骗方案，deepfake进行图片和视频换脸，ChatGPT实时对话问答，text2speech进行在线配音，wav2lip实现语音口型同步，AI绘图、AI制作视频来实现一整套人工智能诈骗流程，诈骗方式极为精准，诈骗信息极为逼真，普通人群往往难以分辨真假，容易上当受骗。国外网络安全平台GBHackers就揭露了一起犯罪分子利用ChatGPT实施网络诈骗的行为：犯罪分子利用ChatGPT生成完整的诈骗方案和剧本，同时用ChatGPT打造虚拟美女形象，让受害者以为自己坠入爱河，从而被实施诈骗。

　　（四）利用人工智能技术进行传统犯罪

　　利用人工智能技术进行传统犯罪是指犯罪分子通过网络入侵的手段对人工智能的各个系统进行修改、删除、伪造数据，从而让人工智能非正常运行，最终实施犯罪。例如，通过网络入侵汽车的智能系统，修改、删除、破坏各种运行指令，导致汽车在行驶过程中因车辆无法控制进而发生撞车、翻车等事故；或者结合人脸识别应用，控制汽车在行驶中发现特定人员时，自动撞向该人，造成人员伤亡。再如：远程侵入家庭、企业的智能系统，控制智能门锁开门实施入室盗窃等犯罪行为，甚至控制相应智能设备实现自动纵火等等。又如，通过deepfake,AI绘图进行淫秽图片、视频的制作，实现针对个人谣言的散布，或者利用deepfake,AI绘图、ChatGPT制作淫秽图片、视频、文字牟利。

　　二、人工智能时代下的犯罪治理思考

　　（一）强化技术行为监管，提升人工智能管理能力。

　　随着人工智能的发展，更多的犯罪行为不断涌现，促使对人工智能进行监管。我国相关部门联合发布的《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》中对与人工智能相关的深度合成类算法进行了规定，今年4月11日，国家互联网信息办公室又公布《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智能全方位监管，用于防范人工智能犯罪。但是，还需要进一步提升网络安全、数据安全、反诈领域法律适用性，充分发挥公安机关等监管部门在保障网络安全、数据安全及维护社会稳定等方面的作用，推动相关法律在ChatGPT等人工智能领域的延伸适用，进一步从用户、服务提供方、算法提供方、平台承载方等多个维度进行监管，所有行为数据应当提供给公安机关实施监管。

　　（二）强化人工智能技术应用，提升公安机关犯罪行为治理能力。

　　传统的犯罪侦查、治理模式，已经无法应对人工智能背景下犯罪的技术与数量的双重升级，利用人工智能技术打击犯罪、打击利用人工智能技术实施犯罪行为，成为数智时代公安机关的必选项，要通过人工智能技术的应用，实现新时期新型犯罪行为的治理。

　　1.强化预警。

　　通过对人工智能技术运用来进行犯罪空间、犯意表示和高危犯罪人群的智慧筛查，实现某个时空范围内可能发生的某类犯罪的提前预测，尤其是要强化对网络电信诈骗类案件的预测，及时发出预警，从而使公安机关可以提前处置，实现精确防控。

　　2.强化打击。

　　同样是通过人工智能技术应用，对案发后涉及的人员进行背景分析、轨迹研判，行为分析，研判出各类案件的可能作案人员，公安机关即可直接实施进一步侦查行为。

　　3.强化协同。

　　银行、电信运营商、互联网公司、人工智能技术研发公司等部门与企业应当积极配合公安机关，建立信息共享平台，形成以公安机关为核心的“多位一体”协同治理模式。

　　（三）强化网络安全防御体系建设，提升人工智能犯罪行为防御能力。

　　人工智能技术与网络攻击行为的深度结合，产生了新型安全威胁，给国家安全带来了极为严峻的挑战。加强人工智能在网络安全防御体系中的应用，用技术对抗技术，势在必行。要大力推进人工智能技术与网络安全防御体系深度融合，能够对最新的安全漏洞、网络攻击行为、网络攻击方式、最新的安全技术、流程和知识的深度学习，自主进化升级网络安全防御体系，从而提升关键信息基础设施安全保障、网络安全态势感知、网络安全防御、网络溯源打击的能力水平。比如在执行警卫任务时，网络安全防御体系就要能够自动识别任务，主动断开警卫车辆智能系统与网络的连接，防止警卫车辆被远程入侵，避免车辆被控制以致发生安全事故。

　　责任编辑：晓莉