摘要：司法要积极推进与人工智能的深度融合，让法治插上科技的翅膀。上海法学界和法律界在这方面进行了积极的探索和实践，上海刑事案件智能辅助办案系统开创了人工智能在司法领域的深度应用。人工智能的发展也要有法治保障。要加强人工智能法治研究和治理，构建人工智能法治体系，培养人工智能法治复合型人才。
【关键词】人工智能；正义；app应用
【中国图书馆分类号】D63【文献标识码】A
人工智能已经成为国家战略。谁拥有人工智能，谁就有未来。2017年以来，美国、中国、英国、德国、法国、日本、韩国、俄罗斯、欧盟等国家和组织都将推动“人工智能”发展作为国家战略。随着人工智能时代的到来，法人将如何面对？人工智能时代，法人的责任是什么？
我认为至少有两点：一是“AI法治”；第二，“AI法治”。这是两个不同的概念：AI法治——积极拥抱新技术，抓住机遇，积极推动AI与法治深度融合，将法治插上科技的翅膀，更好地维护社会公平正义；AI法治——积极推进人工智能法治体系建设，打造人工智能法治生态，运用法治思维和方法，引领、规范、促进和保障人工智能安全、可靠、可控、健康、可持续发展，让AI更好地造福人类。在这方面，上海法学界和法律界积极探索和实践，努力打造“上海人工智能法治高地”。
一、上海智能辅助办案系统——AI司法的成功实践
上海刑事案件智能辅助办案系统是人工智能与司法深度融合的标杆，开创了人工智能在司法领域的深度应用，实现了人工智能在刑事司法应用中的0-1的突破。
(一)中央政法委确定运用高新技术进行诉讼制度改革的思路
2017年1月，中央政法委作出研究开发“以审判为中心推进诉讼制度改革软件”的重大决策。中央政法委之所以做出这一重要决定，有着深刻的历史背景。一、依法纠正冤假错案的背景。党的十八大以来，在全面推进依法治国的大背景下，人民法院纠正了胡格吉勒模式、聂树斌案等46起重大刑事冤假错案(截至2019年2月28日)，极大提振了全社会对司法公正的信心。二是以审判为中心推进诉讼制度改革的背景。如何从根本上防止冤假错案的发生？党的十八届四中全会作出了“推进以审判为中心的诉讼制度改革”的重要决策。习近平总书记在党的十八届四中全会上的讲话中强调：“推进以审判为中心的诉讼制度改革，目的是鼓励侦查人员树立办案必须经得起法律检验的理念，确保侦查起诉的事实证据经得起法律检验，确保审判在查明事实、认定证据、保障上诉权、作出公正判决等方面发挥决定性作用。这一改革有利于促使办案人员增强责任感，通过法院审判的程序公正实现案件裁判的实体公正，有效防止虚假错案的发生。”三是人工智能等新技术提供了巨大的历史机遇和强大的科技支撑。如何使以审判为中心的诉讼制度改革真正有效
2017年2月6日，中央政法委将“开发推进以审判为中心的诉讼制度改革软件”的任务交给上海，简称“206工程”和“206制度”。上海高院承担软件研发，推进以审判为中心的诉讼制度改革。在上海高院领导的市委政法委的领导下，全市各政法部门与中国科大讯飞公司密切协调配合。经过三年的努力，“上海市智能辅助办案系统”研制成功。
2018年12月，“206体系”3.0版(26项功能、102项证据标准指引)上线运行，在全市全面应用。在上海，刑事案件在立案、侦查、逮捕、审查、起诉、审判、判决等“206系统”办理，效果良好。2019年1月，“206系统”向4.0版本迈进。
(二)“206体系”的主要特征
1.系统定位：智能辅助办案
我们依据刑事诉讼相关法律法规，遵循和把握司法规律及其特点、人工智能发展规律和当前特点，科学定位“206系统”为“智能辅助办案系统”(不能理解为机器办案系统)。该系统起到“智能助理办案”的作用，即每个法官、检察官、侦查员配备一名“AI法官助理”“AI检察官助理”“AI侦查员助理”。
为什么会这样定位？首先，司法的规律和司法的特殊属性决定了人工智能只能辅助办案。司法有其独特的规律和属性，如公正、公开和个人经验，尤其是司法活动的个人经验，决定了办案人员是办案的主体，人工智能只能辅助办案人员办案。第二，目前人工智能的发展特点决定了人工智能只能辅助办案。目前人工智能的发展还处于初级阶段，具有一定的局限性。具体到司法领域的应用，机器无法像法官、检察官和调查人员那样思考和判断。因此，人工智能只能辅助法官、检察官和侦查人员办案，绝不能理解为“机器办案”。第三，是促进人机合作、提升智能助力司法的正确路径。准确遵循司法规律和特点，准确把握现阶段人工智能的发展特点(人机协同、跨界融合是当前AI的主要特点)，并紧密结合，善用这一科技武器，使其更好地服务于司法。
p>2.“206系统”技术应用
实现司法现代化是一项复杂的系统工程，既要坚持以正确的方向、以先进的理念为指引，又必须要以现代科技为动力和支撑。“206系统”运用光学字符识别、自然语言处理、智能语音识别、要素提取、机器学习等人工智能新技术，为办案人员收集、固定证据提供指引，并实现对证据的判断、校验、把关、监督等功能。可以概括为：一是让机器学会识别证据。机器自动对证据类型进行识别，并自动归类到相应卷宗目录。二是让机器学会理解证据。基于机器对大量标注证据的学习和积累，机器能够自动对证据内容进行理解，抽取与查证事项相关的内容，提示证据中存在的瑕疵和证据之间的矛盾，及时提示给办案人员，由办案人员决定是否补正或者作出说明。三是让机器学会分析证据。比如在笔录问答聚类系统中，对于言词类证据自动进行语义分析，并对相似问答进行聚类。
3.“206系统”功能设计
“206系统”设计有26项主功能，88项子功能。
4.创六项知识产权，实现0-1的突破
三年来，“206系统”研发团队集中700余人（其中法检公专业骨干400余人，科大讯飞技术人员300余人）日夜奋战，先后攻克证据标准及规则指引、证据校验、网络、庭审、电子卷宗等5大类技术难关，突破了OCR手写体检出、案情要素自动抽取、证据审查校验、公检法网络联通等4类技术瓶颈，解决了900多个技术及应用具体问题，获得国家6项知识产权，实现了0-1的突破。
（三）“206系统”主要功能及其作用
1.证据标准、证据规则指引功能（世界首创），为办案人员收集、固定证据提供统一的指引
按照《刑法》《刑事诉讼法》刑事诉讼制度的相关规定、原则、要求，坚持完整性与阶段性相统一的原则，制定出刑事案件证据标准、证据规则指引（目前常涉罪名102个，覆盖了90%以上的刑事案件总量），共设置校验点（对案件事实的关键内容进行校验）项，并嵌入办案系统，为办案人员收集、固定证据提供统一、适用的标准化、规范化、数据化、清单式办案指引。这一创新丰富完善了刑事诉讼理论体系和刑事证据体系，为刑事诉讼制度改革作出了历史性的贡献。
2.证据校验、提示、把关、监督功能（世界首创），有效防范冤假错案
运用光学字符识别、自然语言处理、要素提取、机器学习等人工智能新技术，适时、精准、全面、科学地对证据进行校验、提示、把关、监督，及时发现证据中存在的瑕疵和证据之间的矛盾，及时提示给办案人员，由办案人员决定是否补正或者作出说明，防止“起点错、跟着错、错到底”的情况发生，有效保证公正司法。
3.智能辅助庭审功能（世界首创），让正义以看得见方式实现
“推进以审判为中心的诉讼制度改革”的另一个重要内容，是保证庭审在“查明事实、证据认定、保护诉权、公正裁判”中的决定性作用，使“案件事实查明在法庭”“证据认定在法庭”的庭审实质化的要求真正落地见效。智能辅助庭审功能综合运用了多项人工智能技术，在庭审时可以做到庭审进行到哪里，文字就记录到哪里；庭审进展到哪个阶段，系统就同步抓取证据材料展示到哪里。“206系统”的智能辅助庭审功能按照证据裁判的要求，从梳理证据、校验证据、展示证据、审查证据四个方面突出庭审重点，使庭审实质化真正落地见效。
4.统一网络运行平台（世界首创），实现办案流程再造
“206系统”真正实现了公检法办理刑事案件网上运行、互联互通、安全传输、数据共享，整个刑事诉讼活动全程可视、全程可控、全程留痕、全程监督，防止司法任意性。打破政法各单位的信息壁垒，实现刑事诉讼办案的工作流程再造，更好地体现了“分工负责、互相配合、互相制约”的刑事诉讼原则。
5.多项功能集成应用，节约司法资源、成本，提升了办案质效
如法律文书自动生成、电子卷宗移送（一键传输）、辅助庭审、类案推送等多项功能的结合应用，推动了长期困扰司法公正和效率难题的解决（迟到的公正不是公正），大大地提高了办案质量和效率，成为办案人员离不开的智能助手。
（四）“206系统”的延伸
“206系统”运用人工智能人机协同、跨界融合的特点，不断发展和延伸，推进与司法的深度融合。
1．延伸至司法行政系统
“206工程”已将系统功能拓展至减刑、假释等环节，实现了刑罚执行、回归社会的刑事案件全流程覆盖。
2．延伸至民事、行政审判领域
上海高院于2017年8月将“206系统”延伸至民事、行政审判领域。自2017年12月1日起，上海民商事辅助办案系统上线试运行。经过两年多的努力，“民事、行政206系统”已完成20个案由的办案要件指引的制定工作；完成了证据审查判断、争议焦点预归纳等19项功能研发工作。截止至2019年8月底，办理案件件。
3．部分省、市推广应用
2018年初，中央政法委作出在全国部分省、市试行推广应用的部署。2019年5月，中共中央办公厅印发《关于政法领域全面深化改革的实施意见》（中办发[2019]32号）明确要求，“完善并逐步推广刑事案件智能辅助办案系统，探索把刑事案件基本证据标准嵌入数据化办案程序中，深化以审判为中心的刑事诉讼制度改革。”截至目前，“206系统”已经在安徽、山西、云南、新疆生产建设兵团、贵州等省市试点应用，取得良好成效。2019世界人工智能大会法治论坛期间，来自美国、英国、荷兰等地的大法官及专家学者专程到上海高院调研206系统。
二、构建人工智能法治体系，推动人工智能全球治理，让AI更好造福人类
法治是最好的治理方式，法治环境是最重要的发展环境。人工智能的发展同样需要有法治作保障。如何应对人工智能发展带来的风险挑战？
（一）构建人工智能法治体系，保障人工智能健康发展
人工智能法治是一个新概念、新理念，人工智能法学是一门新学科、新领域。构建人工智能法治体系包括立法、执法、司法、守法等方面，其研究内容涵盖人工智能法治的基础理论、体制机制、规范体系、法律体系以及前沿问题等诸多方面。加强人工智能法治研究，构建人工智能法治体系，营造人工智能法治生态，将人工智能发展应用纳入法治轨道，运用法治思维和法治方法，引领、规范、促进、保障人工智能安全、可靠、可控、可持续发展，趋利避害，使人工智能更好地造福人类，是人工智能发展的必然。我国《新一代人工智能发展规划》中提出：“到2025年初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”，最大限度地防范风险。
(二)凝聚战略共识，加强人工智能法治研究和治理
人工智能的发展应遵循和把握人工智能发展的规律和特征，坚持面向全球、面向未来、面向和平，坚持以人为本、向善安全、创新发展、共享成果、可靠可控、规范有序的原则和理念，积极构建人工智能未来法治体系，将人工智能发展纳入法治的轨道，运用法治思维和法治方法，引领、规范、促进、保障人工智能健康持续发展，更好造福人类。
1.构建人工智能法治体系，推动引领人工智能法学研究，用法治促进规范、保障人工智能发展
人工智能法治是人工智能健康、安全发展的必然要求。人工智能法学是一门新学科、新领域。人工智能时代的来临，法律人如何面对？针对人工智能可能带来的风险与挑战，推进人工智能法治研究的跨学科融合，加强人工智能法治的研究与实践，致力推动、引领人工智能法学研究，是法律人新的重要职责之一。
2.防范和应对人工智能风险与挑战，应纳入人工智能国家战略同步推进
人工智能是引领新一轮科技革命和产业变革的颠覆性技术，在为人类创造巨大福祉的同时，也会催生各类全新的安全风险。在物联网、人工智能、大数据互相作用的情况下，人工智能之间形成了一个网络结构，而智慧网络结构使得各种因素的作用变得更加复杂，更加难以预测。在深度学习的情况下，对人工智能的控制与治理成为了一个非常突出的问题。治理风险分成三个层次的风险。一为传统的风险，即新一代信息技术的全面深度应用而引发的隐私保护丧失；二为在以自主和深度学习为基础的机器学习之下，出现了人机之间的竞争；三为哲学或者伦理学层面的反思。例如，目前部分社会人士对人工智能技术使用过程中个人隐私与数据安全问题存在争议。针对人工智能可能带来的风险、挑战及应对研究，我认为，应树立忧患意识、风险意识、危机意识，未雨绸缪、超前布局、超前研究，并纳入人工智能国家战略，与人工智能的发展同步推进。
3.人工智能法治体系建设及治理，需要形成国际共识，全球共同努力
要在福祉、安全、共享、和平、法治等原则的基础上进行细化，达成国际共识。要以原则为基础，形成人工智能治理的国际公约。要在国际公约的基础上，成立执行机构，通过国际公约和国际组织强有力的执行，转化为国内的规则。中国应该尽快明确与法律相关的人工智能研发的原则、政策、伦理标准、指导方针等，统一规格和形式并加强国际对话，赢得国际话语权。中国国务院2017年颁发的《新一代人工智能发展规划》提出了人工智能发展的中国式制度安排以及九条主要原则，与国际社会已经形成的基本共识是相洽的；但在不同价值取向发生冲突时，怎样决定取舍的元规则和优先顺序还有待进一步明确。需要尽快明确人工智能研发与法律相关的原则、政策、伦理、标准、指导方针等。
4.加强人工智能法治的顶层规划设计，建立国际领先的标准体系
中国人工智能法治应用是在国家信息化战略的顶层设计下展开的，顶层设计的功能在于统筹规划，协调人工智能法治应用的全盘发展，保证系统间的互联互通，形成整体视野。在制定和落实顶层设计的同时，应当注重寻求重点问题的突破，对重点难点问题要攻坚克难、及时总结经验，形成具有中国特色的人工智能法治标准体系。
5.深化法律和技术的融合，跨越学科鸿沟
法治是人工智能的一个独特应用场景，法治的特性决定了人工智能法治应用并非通用技术在法治场景中的平移运用。人工智能法治体系需要法律人和技术人秉持开放协作的原则进行深度融合。为了保证人工智能法治应用的持续健康发展，需要在更为广泛的意义上，推动法治运行多主体、多要素的协调互动，鼓励法律与技术跨学科、跨领域的交流合作，重视探索法学教育和人才培养的新方案。
6.建立人工智能发展的评估研究体制机制，保证安全、可靠、可控
要建立行之有效的人工智能发展评估研究体制、机制。针对人工智能发展在公民隐私权、信息权、知情权以及知识产权保护、未成年人保护等方面可能带来的风险与挑战，认真评估人工智能发展可能引发的法律、安全、伦理和社会治理等方面问题，提前布局不断升级的智能化的法律问题前瞻性研究，确保人工智能安全、可靠、可控发展。
网友评论
当前共有18条评论