作者|曹建峰 腾讯研讨院高档研讨员
方龄曼 腾讯研讨院法令研讨中心助理研讨员
欧盟活跃推进以人为本的人工智能道德与办理
数字技能的开展和浸透加快了社会与经济的转型革新，人工智能（AI）作为其间的中心驱动力为社会开展发明了更多或许。一般来说，AI是指依据必定信息内容的投入完结自主学习、决议计划和履行的算法或许机器，其开展是树立在计算机处理才能进步、算法改善以及数据的指数级增加的基础上。从机器翻译到图像辨认再到艺术作品的组成创造，AI的各式运用开端走进咱们的日常日子。当今，AI技能被广泛运用于不同职业范畴（如教育、金融、修建和交通等），并用于供给不同服务（如主动驾驶、AI医疗确诊等），深入革新着人类社会。与此一起，AI的开展也对法令、道德、社会等提出应战，带来了假新闻、算法成见、隐私侵略、数据维护、网络安全等问题。在此布景下，人工智能道德与办理日益受到重视，从政府到职业再到学术界，全球掀起了一股探究拟定人工智能道德准则的热潮。而欧盟从2015年起就在活跃探究人工智能道德与办理举动，虽然在AI技能的开展上没能先下手为强，AI办理方面却走在了世界前沿。
早在2015年1月，欧盟议会法令事务委员会（JURI）就决议树立专门研讨机器人和人工智能开展相关法令问题的作业小组。2016年5月，JURI发布《就机器人民事法令规矩向欧盟委员会提出立法主张的陈述草案》（Draft Report with Recommendations to the Commission on Civil LawRules on Robotics），呼吁欧盟委员会评价人工智能的影响，并在2017年1月正式就机器人民事立法提出了广泛的主张，提出拟定「机器人宪章」。[1]2017年5月，欧洲经济与社会委员会（EESC）发布了一份关于AI的定见，指出AI给道德、安全、隐私等11个范畴带来的机会和应战，主张拟定AI道德规范，树立AI监控和认证的规范体系。[2]同年10月，欧洲理事会指出欧盟应具有应对人工智能新趋势的紧迫感，保证高水平的数据维护、数字权力和相关道德规范的拟定，并约请欧盟委员会在2018年头提出应对人工智能新趋势的办法。[3]为处理人工智能开展和运用引发的道德问题，欧盟已将AI道德与办理确立为未来立法作业的要点内容。
2018年4月25日，欧盟委员会发布方针文件《欧盟人工智能》（Artificial Intelligent for Europe），欧盟人工智能战略缓不济急。该战略提出以人为本的AI开展途径，旨在进步欧盟科研水平缓工业才能，应对人工智能和机器人带来的技能、道德、法令等方面的应战，让人工智能更好地服务于欧洲社会和经济的开展。欧盟人工智能战略包含三大支柱：其一、进步技能和工业才能，促进人工智能技能广泛浸透到各行各业；其二、活跃应对社会经济革新，让教育和练习体系跟上年代开展的脚步，亲近监测劳动力商场的改变，为过渡期劳动者供给支撑，培育多元化、跨学科人才；其三、树立恰当的道德和法令结构，说明产品规矩的适用，起草并拟定人工智能道德攻略（AI ethics guidelines）。[4]同年6月，欧盟委员会录用52名来自学术界、工业界和民间社会的代表，一起组成人工智能高档专家小组（High-Level Expert Group on AI，简称AI HELP），以支撑欧洲人工智能战略的履行。
2019年1月，欧盟议会部属的工业、研讨与动力委员会发布陈述，呼吁欧盟议会针对人工智能和机器人拟定全方位的欧盟工业方针，其间触及网络安全、人工智能和机器人的法令结构、道德、办理等。[5]2019年4月，欧盟先后发布了两份重要文件——《可信AI道德攻略》（Ethics Guidelines for Trustworthy AI，简称「道德攻略」）[6]和《算法职责与通明办理结构》（A governance framework for algorithmic accountability andtransparency，简称「办理结构」）[7]，系欧盟人工智能战略提出的「树立恰当的道德和法令结构」要求的详细履行，为后需相关规矩的拟定供给参阅，代表欧盟推进AI办理的最新尽力。
人工智能道德结构建构：可信AI的道德攻略
为平衡技能立异和人权保证，人工智能道德结构的构建必不可少。道德结构为人工智能的规划、研制、出产和运用供给准则辅导和基本要求，保证其运转契合法令、安全和道德等规范。《道德攻略》由AI HELP起草发布，并不具有强制束缚力，而欧盟鼓舞各利益攸关方活跃履行《道德攻略》，促进AI道德规范构成世界一致。全体而言，除了拟定泛欧盟的道德准则，欧盟期望人工智能的道德办理能够在不同的层次得到保证。例如，成员国能够树立人工智能道德监测和监督安排，鼓舞企业在开展人工智能的时分树立道德委员会并拟定道德攻略以便引导、束缚其AI研制者及其研制运用活动。这意味着人工智能的道德办理不能停留在笼统准则的层面，而是需求融入不同主体、不同层次的实践活动中，成为有生命的机制。
依据《道德攻略》，可信AI有必要具有但不限于三个特征：（1）合法性，即可信AI应尊重人的基本权力，契合现有法令的规则；（2）契合道德，即可信AI应保证恪守道德准则和价值观，契合「道德意图」；（3）稳健性，即从技能或是社会开展的视点看，AI体系应是稳健牢靠的，由于AI体系即便契合道德意图，假如缺少牢靠技能的支撑，其在无意中仍旧或许给人类形成损伤。详细而言，可信AI的道德结构包含以下三个层次：
（一）可信AI的根基
在世界人权法、欧盟宪章和相关公约规则的基本权力中，可作为AI开展要求的首要包含：人格尊严、人身自由、民主、正义和法令、相等无轻视和团结一致、公民合法权力等。许多公共、私家安排从基本权力中罗致创意，为人工智能体系拟定道德结构。例如，欧洲科学和新技能道德小组（EGE）依据欧盟宪章和相关规则中的价值观，提出了9项基本准则。《道德攻略》在学习绝大部分已有准则的基础上，进一步概括总结出契合社会开展要求的4项道德准则，并将其作为可信AI的根基，为AI的开发、布置和运用供给辅导。
这些准则包含：（1）尊重人类自主性准则。与AI交互的人类有必要具有充沛且有用的自我决议的才能，AI体系应当遵从以人为本的理念，用于服务人类、增强人类的认知并进步人类的技能。（2）防止危害准则。AI体系不能给人类带来负面影响，AI体系及其运转环境有必要是安全的，AI技能有必要是稳健且应保证不被歹意运用。（3）公正准则。AI体系的开发、布置和运用既要坚持本质公正又要保证程序公正，应保证利益和本钱的相等分配、个人及集体免受轻视和成见。此外，受AI及其运营者所做的决议影响的个别均有提出异议并寻求救助的权力。（4）可解说准则。AI体系的功用和意图有必要保证揭露通明，AI决议计划进程在或许的规模内需求向受决议计划成果直接或直接影响的人解说。
（二）可信AI的完结
在AI道德准则的辅导下，《道德攻略》提出AI体系的开发、布置和运用应满意的7项要害要求。详细而言，在《道德攻略》中4项道德准则作为顶层的道德价值将对可信AI的研制与运用发挥最基本的辅导效果，但7项要害要求则是能够落地的道德要求。这意味着人工智能道德是一个从微观的顶层价值到中观的道德要求再到微观的技能完结的办理进程。
1、人类的能动性和监督
首要，AI应当有助于人类行使基本权力。因技能才能规模所限AI存在危害基本权力或许性时，在AI体系开发前应当完结基本权力影响评价，并且应当经过树立外部反应机制了解AI体系对基本权力的或许影响。其次，AI应当支撑个别依据方针作出更正确的决议，个别自主性不该当受AI主动决议计划体系的影响。终究，树立恰当的监督机制，例如「human-in-the-loop」（即在AI体系的每个决议计划周期都可人为干涉），「human-on-the-loop」（即在AI体系规划周期进行人工干涉），以及和「human-in-command」（监督AI的全体活动及影响并决议是否运用）。
2、技能稳健性和安全
一方面，要保证AI体系是精确、牢靠且可被重复试验的，进步AI体系决议计划的精确率，完善评价机制，及时削减体系过错猜测带来的意外危险。另一方面，严厉维护AI体系，防止缝隙、黑客歹意进犯；开发和测验安全办法，最大极限地削减意外成果和过错，在体系出现问题时有可履行的后备计划。
3、隐私和数据办理
在AI体系整个生命周期内有必要严厉维护用户隐私和数据，保证收集到的信息不被不合法运用。在除掉数据中过错、不精确和有成见的成分的一起有必要保证数据的完整性，记载AI数据处理的全流程。加强数据拜访协议的办理，严厉操控数据拜访和活动的条件。
4、通明性
应保证AI决议计划的数据集、进程和成果的可追溯性，保证AI的决议计划成果可被人类了解和追寻。当AI体系决议计划成果对个别发作严峻影响时，应就AI体系的决议计划进程进行恰当且及时的解说。进步用户关于AI体系的全体了解，让其了解与AI体系之间的交互活动，照实奉告AI体系的精确度和局限性。
5、多样性、非轻视和公正
防止AI体系对弱势和边际集体形成成见和轻视，应以用户为中心并答应任何人运用AI产品或承受服务。遵从通用规划准则和相关的可访性规范，满意最广泛的用户需求。一起，应当促多样性，答应相关利益相关者参加到AI整个生命周期。
6、社会和环境福祉
鼓舞AI体系担负起促进可持续开展和维护生态环境的职责，运用AI体系研讨、处理全球重视问题。抱负情况下，AI体系应该谋福于今世和子孙。因而AI体系的开发、运用和布置应当充沛考虑其对环境、社会乃至民主政治的影响。
7、问责制
其一，应树立问责机制，履行AI体系开发、布置和运用全进程的职责主体。其二，树立AI体系的审计机制，完结对算法、数据和规划进程评价。其三，辨认、记载并最小化AI体系对个人的潜在负面影响，当AI体系发作不公正成果时，及时采用恰当的补救办法。
值得注意的是，不同的准则和要求由于触及到不同利益和价值观，互相间或许存在本质上的严峻联系，因而决议计划者需求依据实际情况作出权衡，一起坚持对所做挑选的持续性记载、评价和沟通。此外，《道德攻略》还提出了一些技能和非技能的办法来保证AI的开发、布置和运用满意以上要求，如研讨开发可解说的AI技能（Explainable AI，简称XAI）、练习监控模型、构建AI监督法令结构、树立健全相关职业准则、技能规范和认证规范、教育进步大众道德认识等。
（三）可信的AI的评价
《道德攻略》在前述7项要害要求的基础上，还列出了一份可信AI的评价清单。评价清单首要适用于与人类发作交互活动的AI体系，旨在为详细履行7项要害要求供给辅导，协助公司或安排内不同层级如办理层、法务部分、研制部分、质量操控部分、HR、收购、日常运营等一起保证可信AI的完结。《道德攻略》指出，该清单的罗列评价事项并不总是翔实无遗，可信AI的构建需求不断完善AI要求并寻求处理问题的新计划，各利益攸关方应活跃参加，保证AI体系在全生命周期内安全、稳健、合法且契合道德地运转，并终究谋福于人类。
可见，在欧盟看来，人工智能道德是一项体系性的工程，需求道德规范和技能计划之间的耦合。其他国家和世界社会的人工智能道德构建或许大都还停留在笼统价值的提取和一致构建阶段，但欧盟现已更进一步，开端探究树立自上而下的人工智能道德办理结构。
人工智能算法办理的方针主张：
算法职责与通明办理结构
《办理结构》是由欧洲议会未来与科学和技能小组（STOA）发布的一份关于算法通明和职责办理的体系性研讨陈述。陈述在引证一系列实际事例的基础上，说明不公正算法发作的原因及其或许导致的成果，以及在特定布景下完结算法公正所存在的阻止。在此基础上，陈述提出将算法通明和职责办理作为处理算法公正问题的东西，完结算法公正是算法办理的意图，一起着重「负职责研讨和立异」（RRI）办法在促进完结算法公正中的效果和含义。RRI的中心是在利益相关者的参加下，完结容纳和负职责的立异。
该陈述在剖析算法体系为社会、技能和监管带来的应战的基础上，为算法通明度和问责制的办理提出体系的的方针主张。陈述从技能办理的高层次视角动身，详细论说各类型的办理挑选，终究回忆现有文献中对算法体系办理的详细主张。在广泛检查和剖析现有算法体系办理主张的基础上，陈述提出了4个不同层面的方针主张。
（一）进步大众的算法素质
完结算法问责的条件是算法通明，算法通明并非指让大众了解算法的各个技能特征。陈述指出，对算法功用的广泛了解对完结算法问责几乎没有用果，而简略、规范化且触及或许影响大众决议计划或许进步大众对算法体系的全体了解的信息内容的发表才更为有用。此外，查询性新闻报导和揭密关于揭露算法的不妥用处，完结算法通明和问责也发挥着重要效果。例如，纽约时报从前报导Uber公司经过必定算法技能来符号和逃避城市的监管安排（此音讯由Uber前职工泄漏），此报导当即引发了媒体和社会的广泛重视，监管部分也对该公司采用查询举动。除了发挥监督效果，新闻报导致力于用简略易懂的言语进步社会大众对算法的了解，新闻查询还可影响广泛的社会对话和争辩，引发新的学术研讨。例如，非盈利安排ProPublica的一篇关于一些美国法院运用的违法危险评价算法体系COMPAS中「机器成见」的陈述即引发了一系列关于算法公正的研讨。
依据此，《办理结构》提出几点关于进步大众算法认识的方针主张：（1）教育大众了解关于算法挑选、决议计划的中心概念；（2）规范化算法的强制发表内容；（3）为进行「算法问责」的新闻报导供给技能支撑；（4）出于公共利益考虑答应揭秘人在违背服务条款或许侵略常识产权情况下免于追究职责。
（二）公共部分树立算法问责机制
当今，越来越多公共部分开端运用算法体系以进步工作功率、支撑杂乱的工作流程并辅佐方针拟定活动。若算法存在缺点，则或许对社会中弱势集体形成不可估量的影响，因而公共部分分外需求树立完善的算法通明和问责机制。其间一个能够考虑的办理机制是，学习数据维护法上的数据维护影响评价（DPIA）机制，树立算法影响评价（Algorithmic impactassessments，即AIA）机制。此机制能够让方针拟定者了解算法体系的运用场景，评价算法预期用处并提出相关主张，协助树立算法问责机制。依据《办理结构》，AIA的流程首要包含：发布公共部分对「算法体系」的界说，揭露发表算法的意图、规模、预期用处、相关方针或实践，履行和发布算法体系的自我评价，大众参加，发布算法评价成果，定时更新AIA等。
（三）完善监管机制和法令职责准则
一方面，关于各界广泛呼吁但存在巨大争议的算法通明，欧盟从人工智能技能本身的特征动身提出了较为中肯的主张。算法通明不是对算法的每一个过程、算法的技能原理和完结细节进行解说，简略揭露算法体系的源代码也不能供给有用的通明度，反倒或许要挟数据隐私或影响技能安全运用。更进一步，考虑到AI的技能特征，了解AI体系全体是反常困难的，对了解AI作出的某个特定决议计划也收效甚微。所以，关于现代AI体系，经过解说某个成果怎么得出而完结通明将面临巨大的技能应战，也会极大约束AI的运用；相反，在AI体系的行为和决议计划上完结有用通明将更可取，也能供给明显的效益。例如，考虑到人工智能的技能特征，GDPR并没有要求对特定主动化决议计划进行解说，而仅要求供给关于内涵逻辑的有含义的信息，并解说主动化决议计划的重要性和料想的成果。
另一方面，在人工智能算法监管方面，欧盟以为，关于大大都私营部分而言，其资源是有限的，且其算法决议计划成果对社会大众的影响相对有限，所以不该施加算法影响评价等强监管。假如一味要求私营部分采用AIA，成果便是其担负的财政和行政本钱与算法所带来的危险将不成比例，这将阻止私营部分的技能立异和技能采用。因而，关于低危险的算法体系能够以法令职责去规制，答应私营部分以更严厉的侵权职责交换算法更低的通明度及AIA要求。依据《办理结构》，能够分层次树立相应的监管机制：关于或许引发严峻或是不可逆成果的算法决议计划体系能够考虑施加AIA要求；关于仅具有一般影响的算法体系，则可要求体系操作者承当较为严厉的侵权职责，一起能够减轻其评价认证算法体系、保证体系契合最佳规范的职责。一起可考虑树立专门的算法监管安排，其职责包含进行算法危险评价，查询涉嫌侵权人的算法体系的运用情况，为其他监管安排供给关于算法体系的主张，与规范拟定安排、职业和民间社会和谐确认相关规范和最佳实践等。
（四）加强算法办理的世界合作
算法体系的办理和运转还需求跨境对话和协作。一国对算法通明度和问责制的监管干涉很或许被解说为维护主义或视为获取外国商业秘要的不妥行为。因而，《办理结构》主张，应当树立一个永久性的全球算法办理论坛（AGF），吸纳与算法技能相关的多方利益攸关者参加世界对话，沟通方针及专业常识，评论和和谐算法办理的最佳实践。
欧盟人工智能道德与办理的启示
在曩昔二十多年的互联网开展中，欧盟落后于美国和我国，法令方针方面的差异是其间的首要因素之一。正如笔者在《论互联网立异与监管之联系——依据美欧日韩比照的视角》一文中的观念，欧盟在渠道职责、隐私维护、网络版权等方面的准则规则都比美国更早和更严厉，没有给互联网立异供给适合的法令准则土壤。现在，步入智能年代，无处不在的数据和算法正在催生一种新式的人工智能驱动的经济和社会方法，欧盟在人工智能范畴仍然落后于美国等国家。上一年收效的《一般数据维护法令》（GDPR）对人工智能开展运用的影响尤甚，许多研讨都标明GDPR阻止了人工智能、数字经济等新技能、新事物在欧盟的开展，给企业经营增加了过重的担负和不确认性。[8]
回到人工智能范畴，欧盟期望经过战略、工业方针、道德结构、办理机制、法令结构等准则构建来研制、运用、布置嵌入了道德价值的人工智能，以此引领世界舞台。在这方面，欧盟的确有其一起的优势。但这样的优势能否终究转化为欧盟在人工智能范畴的世界竞争力，却值得沉思。全体而言，欧盟的人工智能道德与办理探究，带给咱们三点启示。
（一）探究道德办理的技能途径
明显，面临人工智能未来开展的道德与社会影响，需求让道德成为人工智能研讨与开展的底子组成部分，加强人工智能道德研讨和道德办理机制的构建。就当时而言，人工智能道德办理的完结，更多需求依托职业和技能的力气，而非诉诸立法和监管。由于技能和商业形式快速迭代，成文的立法和监管很难跟上技能开展脚步，或许带来拔苗助长或许意想不到的效果，而规范、职业自律、道德结构、最佳实践、技能攻略等更具弹性的办理方法将越来越重要，尤其是在技能开展前期。更进一步，正如在隐私和数据维护方面，经由规划的隐私（privacy by design，简称PbD）理念在曩昔十几年取得了强壮的生命力，使得经过技能和规划维护个人隐私成为数据维护机制中不可或缺的组成部分，加密、匿名化、差分隐私等技能机制发挥着重要的效果。这样的理念也能够移植到人工智能范畴，所以欧盟提出了「经由规划的道德」（ethics by design或许ethical by design，简称EbD）。未来需求经过规范、技能攻略、规划准则等方法来赋予「经由规划的道德」理念以生命力，从而将道德价值和要求转化为人工智能产品和服务规划中的构成要素，将价值植入技能。
（二）采用多利益相关方协同办理的形式
当时，人工智能与经济、社会以与众不同的速度整合和彼此构建，其高度的专业化、技能化和杂乱性使得圈外人很难对其间的危险和不确认性有精确的判别和认知。因而，一方面需求经过多利益相关方协同参加的方法，让监管安排、决议计划者、学术界、职业、社会公共安排、专家、从业者、大众等都能参加到新技能办理中来，防止决议计划者和从业者脱节。另一方面需求经过科技道德教育宣扬增进科研人员和社会大众在道德上的自觉，使其不仅仅考虑狭窄的经济利益，并且对技能开展运用的潜在影响及其防备进行反思和预警性考虑（precautionary thinking），才有或许经过广泛社会参加和跨学科研讨的方法来完结对前沿技能的杰出办理。所以，欧盟以为关于人工智能的道德办理，需求不同主体在不同层次的保证办法，因而需求政府、职业、大众等主体在各自的层级树立保证办法。
（三）加强人工智能道德与办理方面的世界合作
人工智能的开展与数据活动、数据经济、数字经济、网络安全等亲近相关，并且人工智能的研制运用具有跨国界、世界分工等特征，需求在道德与办理方面加强世界协作和和谐。例如，2019年5月22日，OECD成员国同意了人工智能准则即《负职责地办理可信赖的AI的准则》，该道德准则总共有五项，包含容纳性增加、可持续开展和福祉，以人为本的价值和公正，通明性和可解说，稳健性和安全牢靠，以及职责。[9]2019年6月9日，G20同意了以人为本的AI准则，首要内容来源于OECD人工智能准则。这是首个由各国政府签署的AI准则，有望成为往后的世界规范，旨在在以人为本的开展理念之下，以兼具实用性和灵敏性的规范和灵敏灵敏的办理方法推进人工智能开展，一起促进AI常识的同享和可信AI的构建。[10]可见，以人为本的人工智能开展理念正在取得世界社会的一致，需求在此理念的引领下，加深世界对话和沟通，在世界层面完结相和谐的一起人工智能道德与办理结构，促进可信的、契合道德道德的人工智能的研制与运用，防备人工智能开展运用或许带来的世界危险和其他危险，保证科技向善和人工智能谋福人类。
参阅文献：
[1]http://munication-artificial-intelligence-europe
[5]https://www.europarl.europa.eu/doceo/document/A-8-2019-0019_EN.html#title2
[6]https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
[7]http://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2019)624262
[8]https://itif.org/publications/2019/06/17/what-evidence-shows-about-impact-gdpr-after-one-year
[9] https://www.oecd.org/going-digital/ai/principles/
[10]https://g20trade-digital.go.jp/dl/Ministerial_Statement_on_Trade_and_Digital_Economy.pdf
--END--
我美观吗？
