服务热线:021-33933521

关闭
首页 > 新闻动态 > 行业资讯 > 人工智能被广泛应用于刑事侦查的同时也要警惕人工智能被用于犯罪(二)

热门视频


诚明融鑫十周年庆典


风雨十年路 砥砺新征程

人工智能被广泛应用于刑事侦查的同时也要警惕人工智能被用于犯罪(二)

2023-03-03 15:40 出处:部分转载自:人民法院报


        在(一)中,我们重点认识了人工智能背景下的犯罪现状,本文我们将主要探讨和认知人工智能在应对犯罪中的现状以及在未来如何更好地将人工智能应用于防治以及打击犯罪。

▲ 图源 Pixabay

宏观层面而言,人工智能已经被逐步运用于犯罪预警、侦查、防控方面。人工智能犯罪预警机制作为大数据技术的产儿,在对社会各类信息、犯罪模型分析的基础上,可以做出预测性分析和自主布置防控措施的机制。例如,近年来,刑事司法领域主动与大数据、人工智能领域协作,开展了一系列国家重点研发计划,如“犯罪嫌疑人特征精确刻画与精准识别”“职务犯罪智能评估、预防”等一系列以人工智能犯罪风险评估为主题的跨学科科研项目,其效果也被实证数据所肯定。域外的相关做法亦值得我们借鉴,美国普利策奖得主ProPublica调研了佛罗里达州布劳沃德县的重新犯罪风险评估情况,通过人工智能对多种数据进行量化分析,将被逮捕的1万余人的风险评估结论与实际发生的重新犯罪率进行比较,结果准确。

        针对具体犯罪的防治,理论研究与实务已经逐步开展。例如,实证研究表明,充分运用人工智能进行数据分析,认为运用数据挖掘模型是探索有效防控贷款诈骗风险的重要路径。通过客户受教育程度、工作年限、家庭收入、债务收入比率、信用卡负债、其他债务和风险分类等变量,对于贷款诈骗罪的发生有着较为合理的解释,也有助于防范风险。又如,医疗技术领域,运用人工智能完成诸多辅助工作,可以减少医生的过失进而防范医疗事故犯罪。武汉同济医院在2016年就上线试用了AI-DR辅助诊断技术,5个月的时间,使用AI-DR共诊断X线片8093张。在测试实际病人X线片的过程中,AI-DR160例病例中发现了2例医生诊断中遗漏的病灶。

        人工智能对于犯罪的防治已经从具体个罪的理论模型走向实践。例如,对于拐卖儿童犯罪的打击,人工智能系统可以对拐卖犯罪所有的数据快速做出整合,对拐卖儿童犯罪模式和犯罪规律进行提炼,可以较为准确地锁定哪些人是潜在的拐卖犯罪高危人群。同时,智能系统可以通过社会网络智能化分析,将拐卖犯罪嫌疑人复杂的人际关系变为形象的网络图形,使得侦查人员迅速获取整个拐卖团伙交易链。又如,近年来,经济犯罪愈发智能化、职业化、信息化,经侦工作中的重点是“资金流”,当前人工智能技术在对经济犯罪案件涉案资金查控方面的应用主要体现在经侦云系统、违法资金查控平台以及包括可视化数据分析在内的软件和硬件设备。部分地方的经侦部门多利用中国银联警银协助“JASS”系统,查询银联转账(跨境、跨行转账);利用可视化数据分析系列软件用于研判分析涉众型、犯罪人员关系复杂、资金交易来往频繁的传销和非法集资等案件。


        进入人工智能时代,如何在人工智能的初级阶段完善相关的立法及制度,以期进一步防范利用人工智能所实施的犯罪,发挥人工智能在犯罪防治中的意义,需要进行更加规范化的思考。

        首先,对于犯罪的治理,应该从事后回应式打击向犯罪预防、预警、预测的治理模式转变。传统的犯罪侦查、治理模式,无法应对人工智能背景下犯罪的技术与数量的双重升级。应建立好的智能系统、营造好的网络环境、数据保护措施等,解决人工智能被用来犯罪的问题。而我国目前尚没有对人工智能产品的研发、流通、使用等制定出较为全面的管理制度,技术规范的介入应当始于人工智能技术生产应用之前,严格控制研发后投入使用的人工智能产品类型。同时,完善过程的跟踪监管,避免产生算法、功能上的改变,防止数据被盗用的风险,加强事后的危害处置。例如,随着自动驾驶技术的推广,技术本身存在的缺陷亦会导致交通事故等,因此,如何在合适的时机,推广何种自动驾驶技术,对于自动驾驶过程中所可能出现的责任各方应如何承担,都是需要进一步防范的。对于犯罪的具体治理策略,也应从简单的经验主义模式转向更为精准的数据、科学的量化分析等模式。早期的经验主义的犯罪治理观,更多的是通过司法人员的经验,而人工智能有助于我们用更为科学、量化的数据研判犯罪的形成、发展、变化趋势,可以更为精准地提供策略。这也需要相关部门和单位精准认识数据,合理的规范数据的范围。


        其次,通过制度、规范权衡人工智能在具体场景中运用的利与弊。例如,自动驾驶技术整体上对于防范交通事故具有积极意义,但自动驾驶系统的风险降至何种程度才可以推向市场、不同智能等级背景下的驾驶人员对事故承担责任的大小、自动驾驶中遇到突发情况如何选择优先保护的利益,均需要通过制度、立法予以规范。又如,“人工智能”应受伦理道德标准的约束。再如,对于过度依赖人工智能所造成的问题,亦值得警醒。

▲ 图源 Pixabay

最后,刑法理论亦应积极回应人工智能对犯罪的变革。例如,人工智能辅助系统,包括自动驾驶、医疗辅助等,在一定程度上承担了人的义务,此种背景下人的过失责任如何认定,需要对过失犯罪理论赋予新的内容。又如,在鼓励科技创新的同时,如何从制度、立法层面容忍其可能存在的风险,亦是需要解决的问题。人工智能在整体上减少医疗事故、交通事故的同时,亦可能会因为使用人工智能而诱发新的事故,在对人的责任从宽处理的同时,对被害人的救助也需要进行制度、立法上的完善。