智能时代与智慧司法的挑战-中国知识产权杂志 知识产权 商标 版权 专利

蒋志培
知识产权司法保护网(知产法网)
主编 中国人民大学法学博士
关注企业
企业logo
智能时代与智慧司法的挑战
2018/11/1 19:02:07
  
一、智能时代趋势下未来司法的特点
 
  近年来,人工智能产业迅猛发展,引起各国政府、企业以致全社会的高度重视。美国、欧盟各国、日本、韩国纷纷出台人工智能国家战略,抢占战略制高点。2017年7月8日,国务院发布了《关于印发新一代人工智能发展规划的通知》,指出人工智能的迅速发展将深刻改变人类社会生活、改变世界,并提出要抢抓人工智能发展的重大战略机遇,构筑我国人工智能发展的先发优势,加快建设创新型国家和世界科技强国。在2014年、2016年召开的两院院士大会上,习近平总书记的讲话中都谈到了人工智能的迅猛发展,强调“我们不仅要把我国机器人水平提高上去,而且要尽可能多地占领市场”。【1】
 
  智能时代到来的趋势越发明显。在基础研究方面,深度学习、人机交互系统、人脑研究等人工智能基础研究不断推进。应用方面,人工智能在交通、医疗、制造业、社交、环保等领域应用不断深化,包括无人驾驶、智慧医疗、智能制造、语音识别与互动、机器人等众多方面。以无人驾驶为例,Google(谷歌)及Tesla(特斯拉)等公司开发的无人驾驶汽车已累计行驶了数亿公里,技术日益成熟。智能机器人应用范围不断扩大,从智能制造、医疗到物流、智能家居服务等领域,应用日臻成熟。【2】
 
  在法律行业,人工智能的影响也在逐步加大。法律人在很大程度上就是与数据和信息打交道,而这正是人工智能所擅长的。现在,一些公司利用自然语言处理和信息检索技术,发明了让计算机阅读和分析法律文献的软件,可以替代大量人工。位于硅谷的Blackstone Discovery(黑石发现)公司发明了一种法律文件自然语言处理软件,使得律师效率可提高五百倍,而打官司的成本可下降99%,【3】这意味着未来将有相当多的律师会失去工作职位或原有工作方式。实际上,这种情况在美国已经发生,新毕业的法学院学生找到正式工作的时间比以前已经长了很多。
 
  在新一轮科技革命中,大数据、人工智能对人类社会影响的深度和广度是空前的,甚至可能将人类历史推入一个崭新的时代。当前,人工智能等新技术与法律领域的融合发展已成为不可阻挡的时代潮流。司法的发展如何融入新一轮科技革命、时代潮流?这将是一个全新的课题。
 
  本文认为,智能时代的司法将会体现出如下特征:
 
  第一,智能化。司法智能化这一特点将贯穿于分案、审理、庭审、判决等全部流程之中。随之而来的是司法效率将大大提高,有助于解决、减轻当下案多人少、案件积压的难题。
 
  例如在分案环节,当前贵州省遵义市各基层法院已经建立了以大数据分析平台为基础的智能分案系统,根据案件的难易程度自动进行繁简分流,简单案件分配给简易庭审理,复杂案件分配给合议庭处理。据当地法官称,传统案件繁简分流由立案庭法官进行,单个案件需要耗时十分钟,而借助系统只需五秒。同时,机器的识别准确率达到了98%以上,比人工分案的准确率要高。【4】
 
  在庭审环节,将不再需要书记员手工打字。凭借智能语音识别系统,可以实时将现场语音转化为文字,存储在电子笔录里。即使是地方方言,系统也能够识别。律师、法官不管说得多快,系统都会瞬间记录,庭审时间将大大缩短。
 
  在审理、判决环节,人工智能系统可以帮助法官阅读、分析案卷,为法官提供帮助,将法官从事务性、琐碎性、巨量性、基础性工作中解放出来。人工智能甚至可以根据法官输入系统的信息,帮助法官自动生成裁判文书。
 
  第二,精细化。在智能时代,司法案件的证据标准、赔偿额度、量刑将经过精细化的计算而得出,从而克服法官的主观疏忽、遗忘或遗漏等人类主观难以避免的问题。
 
  通过建立智能辅助办案系统,能够对办案人员收集的证据进行自动校验和审查,一旦出现瑕疵,办案系统就会自动提示并阻断该证据通过审核,除非办案人员做出说明或者继续补正。首先从源头上就杜绝了违法证据和瑕疵证据进入该系统;其次,办案系统可以将证据内容进行矛盾性和逻辑性比对和判断,以验证证据链是否完整、闭合、符合逻辑以及证据之间有无矛盾。智能辅助办案系统还将依托大数据、云计算等技术,智能匹配数据库中全国相似的案例,给法官推送案情统计分析,为承办法官提供量刑等裁判参考。【5】
 
  第三,在线化。未来的法院,很可能利用人工智能算法,在云端处理法律大数据。事实上,英国已经在推进民事法院系统改革,并提出了全新的在线法院方案。2016年7月,英国发布《民事法院结构改革最终报告》,将在线法院作为其中的核心工程,该方案承载着复兴英国司法的梦想。英国在线法院建设秉持三大理念:第一,便利当事人,当事人不需要聘请律师就可以方便地完成诉讼,因为有各种智能化的工具给案件分流,给当事人提供帮助;第二,秉持全新的建制,单独制定在线法院诉讼规则;第三,按照分阶段、分步骤的操作理念以及先行先试、逐步推行的试点方案进行。在线化的另一个方向是在线争议解决机制(ODR)。在电子商务网站等互联网平台上,有发挥调解员作用的ODR系统,大量在线纠纷以这样的方式得到了处理,美国eBay网站采用的ODR系统每年可以解决几百万个交易纠纷【6】。
 
二、智慧司法的运行现状与局限
 
  自2015年7月最高人民法院正式提出“智慧法院”的概念以来,司法系统就依托大数据、人工智能、云计算等先进的互联网技术而愈加信息化、智能化。目前,很多法院已经在尝试利用人工智能技术来解决审判任务难题,来提高审判的效率和质量。
 
  北京市海淀区人民法院建设微信立案服务平台,当事人不用到法院、不用递交纸质材料,就可以实现全流程自主立案7。北京知识产权法院在探索和试行知识产权案例指导制度的过程中,为确保裁判统一,研发了“出释入典”案例服务平台。目前,北京知识产权法院“出释入典”平台一期已经完成并投入试运行,具备案例评审、发布、检索、智能推送和关联知识资源智能提供等功能。利用大数据等技术,该平台可以提供专题专项案例分析。比如,根据需求,可以整理得出某地区侵犯音乐作品著作权案件中,每首歌曲的平均赔偿标准。根据最新的消息,目前该平台已在互联网端部署并公开试运行,已做好正式上线并服务于全国知识产权审判和相关公众的各项准备,下一步可以实现在法院内网的部署,并与法院内网办公办案系统对接,为法官提供文书生成、先例智推和大数据分析等服务。【8】
 
  广州市中级人民法院对历史上300多万件同类案件进行大数据分析,形成了“智审辅助量刑裁决系统”。这个系统对影响盗窃案判决的20多种情形、每种情形所占权重都会进行分析,当法官输入一个案件要素后,系统会在传统推送相似案例的基础上自动进行比对和运算,并对量刑幅度给出图形分析和数据参照。数据显示,2016年,广州市中级人民法院一审案件服判息诉率达到84.6%,改判、发回重审率,信访投诉率,再审启动率都出现了下降的趋势。【9】
 
  2017年2月起,上海市高级人民法院的研发团队运用大数据技术对上海原有3万余份刑事法律文书、9012件典型案例、1695万条司法信息资源进行比对、分析,通过人工智能的深度学习,针对梳理出的司法实践中取证环节的易发、多发、常见问题,制定了证据标准、证据规则,并把这些标准镶嵌进数据化的办案程序中,推出了“上海刑事案件智能辅助办案系统”。针对目前公检法三方证据标准不统一的痼疾,上海刑事案件智能辅助办案系统内置了证据标准指引功能,系统会及时告诉办案人员某一类案件应当查证哪些事实、应当收集哪些证据。当没有按照标准指引完成证据录入时,下一阶段的工作就难以展开。在这个系统的倒逼之下,侦查人员从接收案件开始就必须按照规定来收集固定证据,确保侦查移送起诉的案件符合法律规定的标准和程序。此外,系统还具有证据校验、审查判断等功能,及时发现、提示证据中的瑕疵和证据之间的矛盾,防止“一步错、步步错、错到底”的现象发生。【10】
 
  2016年底,贵阳市委政法委在贵阳市花溪区试点开发政法大数据办案系统,要求公检法三家应用该系统进行案件流转,实现“一把尺子”办案。“贵阳政法大数据办案系统”分为公安业务部分、检察院业务部分、法院业务部分三个模块,每个模块都设定了完整的责任流转条件,如果没有完成该环节应该具备的条件,则该案件无法流转到下一个环节,平台也会自动推送给具体办案人员,限期补充完善通过上述流程的设定。政法大数据办案系统经过贵阳市花溪区5个月的试运行,共办理刑事案件320起387人,同类案件的办案时间同比缩短30%,因证据不足退回补充侦查率同比下降25.7%,因证据不足不批准逮捕率同比下降28.8%。【11】
 
  上述各类司法智能化实践,让我们看到了人工智能与司法实践深度融合的广阔前景。应该相信,未来人工智能在司法实践中的应用会更加广泛、更加深入,可以为法院破解案多人少压力大、办案人员水平参差不齐、标准不一的矛盾,会对提高审判质效发挥更大作用。如果我们把握好机遇,在法院整体素质提高的同时,中国司法很可能实现跨越式发展。然而,从目前的现状来看,也应当充分估计到各类智能司法发展的局限性。
 
  第一,人工智能的最大局限,就是它只能定位于一个辅助工具,具体的审判查明认定和裁判结果还要依赖办案人员的心证。有法官曾打过一个比方,一个医生有了一个聪明的机器帮手,可以帮他给病人拍X光片、分析判断片子的数据、生成解读报告,但最终开药与否、如何治疗,还是医生说了算。司法领域充满了价值判断,技术对客观事实是否存在的判断可以很清楚,也具有实现抓取信息的能力,但是司法裁判中的价值判断问题,如危害程度的综合判断,始终要靠人的社会经验来进行。因此,法官的依法内心确信和自由裁量对法官和当事人而言均是重要的,唯有此,才能确保法官秉持正义之剑将有温度的公正裁决推送于当事人面前。
 
  第二,当前我国智慧司法的数据量不足,不足以引发大数据的质变效应。大数据是人工智能技术的基础,算法的威力必须依靠大数据才能显现。2005年,在美国国家标准与技术研究所主持的测评会上,之前在机器翻译领域从来没有技术积累、不为人所知的谷歌公司,以巨大的优势打败了全世界所有机器翻译研究团队,一跃成为机器翻译领域的领头羊。而谷歌公司的翻译软件只利用了很简单的算法就实现了这一成果。其奥秘在于,谷歌用了比其他研究所多几千倍甚至上万倍的数据。在过去,不同研究所之间能使用的数据通常只相差两三倍,对结果的影响并不大,但是,当谷歌使用了上万倍的数据时,量变的积累导致了质变的发生,【12】这就是大数据的神奇之处。而目前,我国法院已投入使用的人工智能辅助系统,其平台内的案件量还有待提升,有的只有几万个案件的数据,有的只限于当地的案件,这极大地限制了系统的计算能力,还不能达到量变引起质变的效果。
 
  第三,作为数据来源的正处于改革中的司法实践和诉讼审判制度,本身仍存在着“非专业干扰”,可能对智能技术开发构成根本性的局限。其自身的粗糙、弊端、缺陷、好恶、潜规则和形式化等都可能会把智能司法机器人“教坏”,或者沦为时髦的“自娱自乐”,或者滑向政绩买单平台大赚其钱的“各得其所”。记得18年前,一个因被刑讯逼供而被控故意杀人罪的无辜者,在面对最后的审判环节,求生的欲望使他向主持审判的审判长高声申辩:“我没有杀人!我受到了严刑逼供!”审判长火了:“你说没有杀人,你拿出证据来!”即使被告当庭拿出被刑讯的血衣,仍被判处死刑(二审改判死缓)。可见,理念、制度等数据来源上的非专业干扰,可能是致命的,虽然这将得到根本改善,但或许它也将伴随司法智能改革的全过程。
 
三、发展智慧司法带来的挑战与应对
 
  国务院《关于印发新一代人工智能发展规划的通知》提到,人工智能发展的不确定性带来了新挑战。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。发展智慧司法,必须注意以下几个问题:
 
  第一,针对我国现在司法数据缺失、开放性差的问题,应加大数据开放、数据流通。应当意识到,智能时代的数据相当于工业时代的石油、天然气,大数据是人工智能的能源与基础,必须重视数据在开展智慧司法过程中的作用。首先,目前的司法大数据还不具有同步性,没有充分的数据支持,因而不具有全面性,不是全样本公布。相当数量的数据缺失以及数据本身的缺陷没有得到充分解释,中国法院的大数据实质是“大量的数据”,或者是在取得所需要的大数据过程中。其次,司法审判的大数据运用,需要全面、充分的数据,而且更重要的是数据不能够成为一个个孤岛,而是要互联互通。之前提到的上海模式、贵州模式等是区域性的,各法院之间的联通存在困难,这种困难会造成数据收集的不全面及数据分析的缺陷。【13】
 
  只有数据开放,才能将法院的数据资源转化为推动发展的现实能力。这就要打破各个法院、数据来源之间的“信息孤岛”,不仅要做到接口数据格式的统一化、标准化,而且也要给各个法院之间数据打通预留相应的空间、留出共享通道。正如国家信息中心信息化研究部副主任单志广在解读《促进大数据发展行动纲要》时所言,“解决政府对大数据的开放和共享,是中国真正释放政府掌握的80%的数据资源的重要切入点。”
 
  第二,法院的人工智能系统要防止算法歧视问题。由于算法模型的设计都是编程人员的主观选择和判断,所使用的数据有可能是不相关、不准确或者歧视性的,这就可能导致自动化决策的结果会影响个人权益,或者对某些群体造成歧视。确保算法及其决策可以有效接受中立第三方或者监管机构的审查,实现算法决策的透明性和公平性,是国际社会的一个主要共识。美国联邦贸易委员会(简称FTC)在2016年1月发布的《大数据:包容性工具抑或排斥性工具?》(Big Data: aTool for Inclusion or Exclusion?)中,特别关注大数据中的歧视和偏见问题。对于当事人、律师,一方面需要确保公平法律得到有效执行,另一方面要防止大数据分析中采取歧视等不公平行为。对于法院,应当考察数据集是否具有代表性,所使用的数据模型是否会导致偏见,基于大数据进行预测的准确性如何,以及对大数据的依赖是否会导致道德或者公平性问题。
 
  此前,在Statev.Loomis一案中,据了解,法院曾在判案时,参考了COMPAS(一种基于证据衡量罪犯未来犯罪可能性,并为矫治署提供决策支持的软件)做出的犯罪人Loomis再犯罪可能性的评估结果。Loomis认为,一方面COMPAS不当地使用了性别作为评估依据,且评估结果的非准确性使其不能作为判案依据;另一方面法院据此判案有程序违法之嫌,不符合个案处理的原则。
 
  对此,美国威斯康辛州最高法院提出三个观点:(1)如果使用得当,巡回法庭在判刑时考虑COMPAS风险评估并不违反被告的正当程序权利,而且将性别作为参考因素提高了风险评估的准确性;(2)巡回法庭在这种情况下使用COMPAS风险评估不是滥用自由裁量权;(3)巡回法庭在软件中写入过去认罪协议书中的指控时没有滥用自由裁量权。最终,法院一致裁决驳回了该诉讼请求。
 
  2017年6月,美国最高法院拒绝提审该案,间接承认了法官在定罪量刑中可以参考智能化软件提供的预测结果。虽然如此,非盈利机构ProPublica对COMPAS的实证研究发现,COMPAS的犯罪风险评估算法系统,系统性地歧视了黑人,黑人被该系统错误地评估为高犯罪风险,概率是白人的两倍,而白人则被错误地评估为低犯罪风险。该案带给我们的启示是:预测算法只能是一种辅助法官行使自由裁量权的工具,而无法直接作为判案依据,实践中要严谨使用以避免不正当的程序违法行为,尤其是在面对可能涉及歧视的算法规则时。【14】
 
  第三,法院利用人工智能辅助办案时,应防止“法定证据主义”死灰复燃。2017年7月,在全国司法体制改革推进会上,时任中共中央政治局委员、中央政法委书记孟建柱强调,在智能辅助系统基础工作过程中,一定要、一定要、一定要防止法定证据主义。历史上法定证据制度把证据的证明力事先规定好,司法者只能机械套用,排斥司法者的主观判断。“我们好不容易才将法定证据制度扔到历史的垃圾堆中,千万不能因为人工智能把它的亡魂给招回来了。”【15】
 
  在此处,本文想再提一下1999年2月云南民警杜培武的冤案,被控故意杀人罪的无辜者——与侦查、公诉和法官同为政法干警的杜培武,坦然地坐在昆明中院测谎仪前,一根根导线接到其身体各部采集数据,当被问及“你杀人了吗?”,杜培武回答是“没有”,但测谎仪的结论却是“说谎”;庭审当庭控方出席11名刑侦技术人员支持公诉,终于使无辜者杜培武被判处死刑(二审改判死缓)。一起系统性枉法冤案终于酿成。
 
  因此,人工智能只能定位于辅助办案,不论证据规格也好、证据标准指引也罢,都是为了给机器人提供数据。根据数据,机器人进行录入证据、输出文书,对证据归纳、梳理、归类、自动检索关联案例等。而具体的结论判断,还要依赖办案人员的心证。
 
  如果机器做到这样的智能辅助,则必将获得巨大成功,大大解放“办案的生产力”。千万不能把制定出来的证据标准指引作为硬性指标,认为“达到规定的证据数量,就一定能定案,达不到规定的证据数量就不能定案”,这会发生大错,需要特别注意并避免。
 
  智能时代呼唤着更公正、进步、文明、精细的司法制度和理念,如果我们的理念滞迟、愚蠢、坚持有罪推定,制度执行不能克服野蛮的刑讯逼供,偏颇的“巨大数据”也可能会使人工智能癫狂。
 
四、结语
 
  回顾历史,在任何一次技术革命中,它的受益者都是积极接纳它、发展它的人,而拒绝它、不肯发展它的人,在很长一段时间都将会陷入迷茫。因此,尽管目前已经有比尔·盖茨、艾隆·马斯克等有识之士公开提出,要警惕发展人工智能过程中的危险性,但是,艾隆·马斯克的特斯拉公司却是全世界使用机器人数量最多的公司之一,而比尔·盖茨的微软公司也投入了大量资金研发人工智能技术。因此,我们一方面应当对未来怀有未雨绸缪的意识,另一方面要积极拥抱、发展新技术,保证未来的中国司法真正让人民群众在每一个案件中感受到公平正义。
 
  本文( 简版)在知产法网登载后,笔者于2017年底有幸聆听了周强院长关于最高法院开展智慧法院建设的战略构想和骄人进展情况,深受鼓舞,由衷钦佩。我们有理由相信,在智能化时代,我国司法一定会取得更深刻、扎实和快速地发展。
 
 
 
1 http://news.xinhuanet.com/comments/2017-03/07/c_1120579808.html.
 
2 蔡雄山,《人工智能与法律问题初探》.
 
3 吴军, 《智能时代》.
 
4 中国经济网,《司法进入"人工智能时代" 破解"案多人少"难题》.
 
5 潘庸鲁,《人工智能介入司法领域的价值与定位》.
 
6 曹建峰,《从律师到法律机器人,法律行业未来二十年的机遇和挑战》.
 
7 http://bj.jjj.qq.com/a/20171225/020325.html.
 
8 杨静, (北京知识产权法院研究室主任) 《用大数据与人工智能监督司法》.
 
9 同4.
 
10 同4.
 
11 解放日报,《司法改革催生的新事物:人工智能与司法实践的深度融合》.
 
12 同3.
 
13 http://www.sohu.com/a/203960855_652400.
 
14 同2.
 
15 http://www.sohu.com/a/162445753_650721.
 

近期,有报道称某公司员工在上班期间逛淘宝,下班时竟被告知扣款,起因竟是公司在计算机上边安装了监控。对于职场被实时监控,你怎么看?

不好说,要看到了哪种程度
同意,可以实时看到员工的工作情况及心理状况
不同意,这样做无疑是侵犯了隐私权