学术活动
专家在线探讨“开源精神与共享伦理” ——第七届全国赛博伦理学研讨会召开

2021年-01月-04日

  2020年12月19日至20日,第七届全国赛博伦理学研讨会以线上线下互动方式召开。会议由中国伦理学会科技伦理专业委员会、中国自然辩证法研究会科学技术与工程伦理专业委员会、国家社科基金重大项目“大数据环境下信息价值开发的伦理约束机制研究”、大连理工大学大数据与人工智能伦理法律与社会研究中心、大连理工大学科技伦理与科技管理研究中心、湖南师范大学人工智能道德决策研究所、中国人民大学伦理学与道德建设研究中心科技伦理研究所、大连理工大学人文与社会科学学部等单位共同主办。来自中国社科院、复旦大学、浙江大学、上海交通大学、华中科技大学、中国科技大学、南开大学、中南大学、华南理工大学、大连理工大学、上海大学、湖南师范大学、上海师范大学和香港中文大学(深圳)等高校230多位专家学者参加会议,围绕“开源精神与共享伦理”主题做专题学术报告,就开源精神、开源社区伦理、信息时代精神、数据共享、数字鸿沟、算法公正、人工智能伦理、人机关系等问题展开讨论。

  一、开源精神、开放科学与信息时代精神

  自由软件运动和开放源代码运动是开放科学、开放数据和开放文化的先驱,与会专家就其伦理精神的内涵及其作为时代精神的可能性、开源社区伦理的合理性和认识论基础、开放科学运动的当代意义等进行了深入探讨。

  中国社会科学院段伟文研究员认为,开源精神促成了开放科学的兴起,开放科学运动旨在消除学术交流,研究数据以及协议和协议的访问障碍,在人工智能时代推进开放科学运动具有重要意义。如今,学科知识数据已经到了“TOO BIG TO KNOW”的状态,所产生的庞大的科学数据和知识已经大到无法形成理论。人工智能技术是一个推进开放科学的一个机遇,我们应通过人工智能更全面的了解科学研究已经取得的成果,找到更多发现的线索;利用人工智能处理信息爆炸带来的认知溢出问题,使得个人科学家认知跟上其领域发展的速度;通过数据共享和软件工具,实现科学研究和知识生产方式的革命。推进开放科学的运动就是要追求有益、公正与普惠的有意义的科学,以寻求创造性的公共品为宗旨,提倡人人为科学,科学为人人的精神。

  大连理工大学李伦教授认为,开源精神和共享伦理将理想与现实深度结合,从软件领域拓展到技术、科学和文化领域,衍生出开放数据、开放科学、开放硬件和开放文化,迎来了信息时代。他以自由软件运动的影响为例,追问信息时代精神,回答卡斯特之问:如果说资本主义(工业主义)的精神是新教伦理,那么信息时代(信息主义)的精神是什么?他认为,信息时代精神并非海曼诠释的黑客伦理、安德森理论隐含的创客伦理,也非布鲁克斯的数据主义,而是一种超越物伦理的信息伦理,即以自由、开放和共享为内核的共享伦理。他通过分析自由软件运动、开放源代码运动与科学伦理精神的关系,指出自由软件精神和开源精神源于科学伦理精神,其许可证机制反哺现代科学,导致开放科学的诞生,也促成了开放文化的生成,展示了共享伦理成为信息时代精神的可能性和现实性。

  湖南师范大学孙保学博士认为,开放和共享是信息时代的重要伦理精神,开放获取和自由软件运动都是这种伦理精神的时代展现。他通过科学史的考察发现,科学和技术始终秉持开放和共享,而且科学的公有性蕴含着开放性。如今,社会的深度协作要求从开放科学到技术共享的升级,科学技术的一体化强化了开放和共享。共享伦理至少包括开放姿态、人人参与和普惠受益三个基本要素。

  南开大学林建武副教授探讨了开源社区伦理的合理性问题,认为软件开发中的“开源”在道德上是合理的,可以得到辩护,开源软件及其所建立的开源社区可以避免“公地悲剧”。在开源软件中,开发者对他人开发之软件的改进并非是不道德的“搭便车行为”。在开源软件中,开发者分有了一种特殊的“财产权”观念,这个观念让开源活动可以得到道德上的辩护。开源软件和开源社区的建立意味着更加自由的软件开发活动,自由之精神乃是开源社区的核心价值,也是软件开发最应当追求的品质。

  浙江大学白惠仁研究员认为,开放获取的理念已经从科学共同体的开放科学运动扩展到了更为广阔的公众的知识共享,从而形成了实践对理论的倒逼。在开放获取运动中,知识共享究竟需要怎样的认识论基础以及这种社会认知形态如何保证公正的知识分布的问题是我们需要在认识论和伦理学层面回应的核心问题之一。在认识论假设方面,传统的知识论的个体主义路线和以理性进行概念化的理论框架显然已经难以适应知识共享这种社会集体认知活动。取而代之的是以“知识传递”为基础的证词认识论和以“公共知识”为基础的公共知识系统假设。在此基础上,知识共享实践在个体层面的知识传递中可能产生证词非正义和解释非正义两种伦理困难;而在集体层面上需要构建一个理想的社会认知结构以保证公正的知识的社会分布。

  二、共享伦理、隐私权与知情同意

  大数据为经济社会发展注入了强大的动力,同时也对隐私权的保护以及对传统的知情同意等措施等提出了挑战,与会专家以医疗大数据、健康码等为例,探讨了共享伦理与隐私保护等问题。

  复旦大学教授王国豫探讨了生物医学大数据共享的困境与出路问题,认为生物医学大数据共享是构建人类卫生健康共同体的科学基础。根据国家涉及人的生物信息保护的有关法律法规,涉及个人的生物医学数据共享需要取得个人的知情同意。然而,传统的知情同意模式存在内在关系预设,这一模式及其内在关系预设都是建立在个人自主价值之上的。大数据技术将人置于不同的群组进行分析,群组中的某人做出的某种选择和决定会影响到整个群组,使得知情同意的主体发生了重构,对现有的知情同意模式构成了挑战。现有的几种知情同意的扩展模式,比如一揽子知情同意和分层同意也具有很大的局限性。鉴于现代技术行为主体的集体性特点,在生物医学大数据共享中,有必要在一定条件下将集体主体纳入考量的范畴,在尊重个人隐私和个人自主权的同时,兼顾群体隐私和群体主体权益,而这只有通过制度伦理才能实现。

  华中科技大学教授雷瑞鹏以疫情期间在杭州最先开始推行的健康码为例,探讨了将数据驱动技术应用于疫情防控作为一种新的公共卫生举措引发的伦理问题。她认为,健康码通过对个体健康和人员接触状况的实时追踪,有助于针对疫情迅速采取公共卫生措施。健康码在使用过程中,主要收集姓名、性别、手机号码、身份证号码和公共交通等个人信息,可以帮助我们在疫情期间高效地达到早发现、早隔离、早切断的公共卫生防控目的,在伦理学上可以得到辩护。公共卫生部门为了疫情防控的需要搜集个人信息是伦理上可允许的,但是要保护个人隐私并不能用于其它用途。西方国家对我国的误解,一方面是将个人自由绝对化,另一方面是混淆了实质伦理和程序伦理问题。在疫情暴发和公共卫生危机情境下,每个个体既可能是被感染者,也可能是传播者,我们必须在个人自由和群体健康之间进行权衡。

  中南大学刘星副教授探讨了临床研究数据共享问题,认为在大数据时代通过大数据挖掘得出的数据可以更好地促进临床诊断和治疗决策,从而改善医疗保健。大数据分析在医疗科学范式变革中起关键性作用,可以探究疾病的原因和相关性、优化诊疗过程和标准、促进转化医学发展以及实现个体化医疗。随着学习型医疗系统,数据共享设施建设和全球大型研究网络的发展,应当从数据中生产知识,成为医疗大数据时代知识生产的真理。收集数据需要遵循一定的规范,匿名化和知情同意是其中重要的层面。然而,匿名化会产生数据分析后的利益回赠矛盾,并不一定完全有利于医学的研究,也可能影响相关健康记录的收集和分配。因此,在个体权利保护的基础之上,应适当改变对数据共享的认知,根据当前的医学研究建立一种动态知情同意的模式——动态同意,可以使参与者参与到一个连续的同意过程,让参与者在何时同意有一定程度的决策自由。

  华南理工大学闫坤如教授分析了大数据的共享-隐私悖论,认为大数据正在引起人类社会结构变化,改变人类思维模式,进而引发科学研究的革命,包括方法论和认识论方面的革命,随之而来的是数据使用中的数据共享困境。数据从一种资源成为一种资本再到成为一种资产,这使之在经济、政治和国际竞争等方面均产生不同的困境。在科学研究以及其他社会生产和政治活动中,数据共享有利于避免数据孤岛,但数据共享过程中引发了大数据的共享-隐私悖论,其表现在社会数据共享与个人隐私保护的悖论、隐私态度与隐私行为的悖论以及共享意向与共享行动悖论。而产生这些悖论的原因包括:数据产生者与所有者、使用者的分离;数据产生者与接受者并存;隐私内容的改变;共享壁垒的存在等。

  中国科技大学张贵红副教授认为,共享行为无处不在,而不同的共享行为存在着不同的伦理问题,实物的共享属于“闲置-需求”,而信息的共享属于“价值增值”。共享伦理问题的来源包括:传统伦理问题在当下的新表现、数字技术发展带来的新问题、社会规范和道德规范的变化等。共享伦理的核心概念包括:价值、权利和责任,以及与之相关的道德规范和共享形式。对于信息的共享,则需要明确其所有权,知识共享的伦理基础在于责任,其伦理问题主要集中在私人领域的隐私风险和利益分配。对于数据的共享,则更多牵涉到责任方面的问题,数据的使用和挖掘都具有潜在的伦理风险,在数据共享之前,应该明确其各个阶段不同的伦理规范。

  三、数字鸿沟、算法偏见与社会公正

  人工智能在整体上造福人类的同时,也引发了数字鸿沟和算法偏见等问题,与会专家就社会排斥、性别平等、可信算法等提出了自己的看法。

  上海大学教授孙伟平对智能时代社会排斥和无用阶层进行了伦理反思,认为人工智能时代的到来正在深刻改变社会和个人,而当整个社会被信息化、智能化改造之后,当智能系统承担越来越多的劳动任务,“谁才是合格的劳动者?”就成了不容回避的问题。数字鸿沟、结构性失业潮等现实问题的出现,容易产生卡斯特所说的“社会排斥"之类“信息化资本主义黑洞”。“数字穷人”处于全球化的经济或社会体系之外,没有“剥削的价值”,成了这个世界上的“无用阶层”。他们的劳动机会日益减少,劳动权力被剥夺,这对人的基本人权和自由全面发展构成了现实威胁,并成为一种新的社会不稳定因素。因此,我们必须顺应时代潮流,进行观念变革,从国家和社会的角度出发做好顶层设计,从个人角度有针对性地将自己提升成为“时代新人”,打造人机协同、人机一体化的新型人机文明。

  国际新经济研究院数字经济研究中心、香港中文大学(深圳)高等金融研究院客座教授郑磊认为,人工智能技术应用引发了技术性失业、就业“两极化”、收入不平等问题,造成贫富差距和社会阶层扩大等问题。劳动力市场充分就业应是衡量科技创新应用的关键考量。智能机器在某些方面比人的能力更强,效率更高,并不能作为取代人的劳动的充分条件。在人工智能技术的应用方面,需要比较人工智能带来的收益和对社会造成的成本或损失,有必要对人工智能技术应用进行外部干预,原则是首先从市场经济角度设计干预措施。对于总福利不明显或影响不确定的技术,应慎重处理,同时,在技术伦理方面设定不可触碰的底线,必要时可通过法律强制手段禁止某类人工智能技术的应用。

  湖南师范大学余露副教授探讨了基于身份认同的算法对于跨越数字鸿沟的意义,认为大数据和人工智能技术的不断发展,在使得社会生活及其管理日趋智能化的同时,也造就了数字鸿沟,使得新技术给每个个体带来的利益呈现极大的差异,加深了社会不平等的状况。现有试图弥合“数字鸿沟”的研究多强调给个体赋能,但这一进路将个体仅仅视作抽象的“数据或技术使用者”,遭遇了无视差异的“普遍主义进路”的困境,因而收效甚微。她认为,只有当算法设计者采用“差异进路”,敏感于诸身份认同,方能夯实赋能的框架背景,使赋能落在实处。

  湖南理工学院金春枝博士从赛博女性主义的视角探讨了性别平等问题,认为赛博女性主义脱胎于传统女性主义和技术女性主义,同时在诸多方面超越了二者。传统女性主义包括技术女性主义在内的分析模式都属于性别二元论,而赛博女性主义突破了性别二元论的分析模式,认为男性和女性不是对立的双方,而是可以相互融合、相互转化的,可以通过模糊性别边界的方式实现性别平等。赛博女性主义突破性别二元论的价值体现在对自我的重新建构,进而推动文化多元,并促进女性价值的多元化发展,实现人工智能技术的性别平等。

  上海交通大学闫宏秀教授探讨了智能化背景下算法信任问题,认为算法信任隶属于传统意义上的人与技术之间的信任关系,是技术信任的一种,但算法与数据、智能的合力将这种技术信任推向了前所未有的境界。在数据被作为一种新型的生产要素的当下,作为数据核心动力之一的算法因其不透明性、偏见等技术不确定性问题所引发的算法风险构成了对算法信任的挑战,我们需要从算法信任的缘起及其所蕴含风险的解析中找寻出路,有效的算法信任应当是算法自身的技术的鲁棒性与人类理性的契合。

  上海师范大学苏令银副教授以欧盟视角为例,探讨了人工智能的算法歧视及其法律规制,认为使用算法决策和其他类型的人工智能进行预测会得到我们想要的结果,但在预测的时候可能会威胁人权,如不受歧视的权利。当前国际上针对歧视性算法决策的法律保护存在两种主要形式:非歧视法和数据保护法。适度执行非歧视法和数据保护法有助于保护公众免于算法歧视。然而,这两种法律形式在应用于人工智能时都存在严重的局限性,通过一项立法对算法进行监管的作用十分有限,改进现行法律规则的实施需要额外的具体规则,尤其是针对特定行业的规则,例如在安全生产、消费者保护、环境等方面制定不同法规,此外,也需要加强对算法决策的监管。

  上海交通大学杜严勇教授认为,随着人工智能的快速发展,基于伦理原则的软治理应该在人工智能的社会治理中发挥重要作用,使人工智能伦理从原则落实到行动。现有的人工智能伦理原则从内容上看大部分伦理原则都是趋同的;就伦理原则的内涵而言,对同样的伦理原则不同制定主体所阐释的内涵存在明显差异;从制定主体的角度看,以发达国家及其企业为主;从伦理原则实施保障的角度看,许多机构仅仅是提出伦理原则而缺乏保障伦理原则贯彻实施的具体措施。推动伦理原则从思想到具体行动的实现,需要各类主体的积极参与和通力合作。伦理学家需要将伦理原则转化成为具有可操作性的具体步骤;科技工作者要进行伦理设计,即通过工程设计来保护人的权利和价值;学术团体要对伦理原则进行细化和具体化;企业要主动承担社会责任;政府管理部门要加强监管与协调。

  四、人工智能的能动性与责任问题

  人工智能的伦理主体地位、机器的道德能动性等问题是人工智能伦理的重要问题,与会专家从能动性和人机联合责任体等方面对此展开了热烈讨论。

  大连理工大学郭菁副教授从责任鸿沟问题入手,探讨了基于人机联合行动体的责任归因问题,认为解决问题的关键不在于责任归因的控制条件,而在于行动体的变化。通过区分行动事件的可控制性和行动原因的可控制性,可以判定行动原因的可控制性是责任归因的充分必要条件。在具有关系性、交互性和动态性的人机联合行动中,行动的原因既非仅出自于人,也非仅出自于机器,而是出于人机联合行动体。因此需要按照人机联合行动的特征,建构超越实体形式、区域分布、动态生成中的人机联合责任体。

  湖南师范大学文贤庆副教授认为,谈论人工智能伦理最重要的一个方面就在于能够定位人工智能的伦理主体地位。如果不能赋予人工智能以伦理主体的地位,人工智能的伦理问题就只能是人类社会伦理问题的场景应用,这将无益于推进人工智能及其伦理问题的发现与解决。为了深入研究人工智能及其伦理问题,可以考虑人工智能作为能动者并进而发展一种责任伦理的可能性。从广义上看,可以把能动者看作是一个可以对环境做出适应性调节行为的自发系统,对能动者自发产生的行为进行后果上的归责,从而建立起一种责任伦理。人工智能便可以被赋予能动者的地位,进而也就可以发展出一种有关人工智能的责任伦理。

  湖南师范大学王淑庆博士通过分析机器伦理的两个关键概念,探讨如何从前范式迈向范式的路径。他认为,机器伦理是人工智能的一个新兴领域,但目前还处于发展的前范式阶段。不同于计算机伦理和机器人伦理,机器伦理的目标是让机器拥有道德能动性或把道德能力嵌入到机器中去。机器伦理难以从前范式阶段迈向范式阶段的原因固然有诸多理论上的挑战,但另一个重要原因在于学界对其基本的核心概念未达成共识。他考察了机器伦理三十年的基本概念演化史,分析其中两个最关键的概念,即人工道德能动性和道德可计算模型,认为澄清与深入研究这两个关键概念是机器伦理从前范式迈向范式的必由之路。

  五、人类增强技术与人-技术关系

  人工智能和人类增强技术提出了涉及自身的诸多哲学伦理学问题,也关涉人-技术等根本问题,与会专家从记忆伦理和现象学等视角深入探讨了这些问题。

  复旦大学杨庆峰教授从记忆研究的角度,讨论了人类增强技术的相关哲学伦理学问题。在他看来,目前很难找到增强技术的精确定义,但是人类增强技术的讨论可以从一个人类自身的规定出发,如果人类存在是有缺陷性的,那么对人类增强的形而上学规定就是追求人自身的完善、完美。目前存在主要的伦理分析会掩盖了一些根据性的问题。比如人类追求更高、更强和更完美会造成两个问题:一是容易造成迷失,二是容易产生理性的傲慢。以理性的傲慢为例,如何克服傲慢,回到谦逊美德是一个可能性选择,但是谦逊能否彻底克服傲慢的一系列缺陷是值得商榷的。而记忆可以作为抵抗反思傲慢的武器是克服理性傲慢的一个有效途径,记忆研究对于人类增强具有先验价值和经验价值需要得到更深入的挖掘。

  湖南师范大学李波博士从数据伦理到“物”伦理的进路,认为从大数据到人工智能,物联网到区块链技术,皆以大数据为主要驱动力,以数字、物理和生物系统之间的表征与互动为根本特征,建构人、物与世界的新型视域。从物的数字化到关系和行为的数据化再到“视域”构成的数据化;人通过数据与物打交道方式从“产生”到“对象化”再到“订造”,这揭示出数据化对物的深度“限定”。物将以数据化的方式被揭示、被构成,这种可数据化、订制化将构成物之为物的本质规定性,进而将人造物沦为“持存物”。随着新兴数据科技日益渗透到社会和生活世界的方方面面,它们已悄然先行参与构成人对自身领会的境遇,这进一步导致人本身也沦为“持存物或订造物”的危险。鉴于此,大数据伦理不仅要关注数据自身运作带来的经验层面的伦理问题,也应当关注数据化对物的“订制化”、“去生活世界化”等问题;数据性遮蔽物的独特性、境遇性和神秘幽暗性等问题。

  大连理工大学陈高华教授通过海德格尔对于ethos(伦理)词源分析指出,在技术成为统治力量的时代,技术可以说是我们时代的伦理,是人成其本质的敞开之所。正是在这个意义上,寻求人与技术的自由关系构成了海德格尔追问技术的要旨所在。在海德格尔看来,现代技术的本质是集置(Gestell),它是存在历史发展的一个阶段,其基础则是发端于笛卡尔的主体性形而上学,因此,集置实际上就是对象化。对象化有两个层面的表现,在观念层面即表象性思维,在实践层面则是制造性活动,它们都是摆置的不同活动,种种摆置无所不在的聚集,就是集置。陈高华教授通过现代技术与古代技艺在四个方面的区分,进一步把集置的危险明确为“计算性思维成为唯一的思维方式”,从而引出海德格尔针对这一危险所持的态度,即“泰然任之”(Gelassenheit),一种对技术既说“是”又说“不”的态度。为了达到这样一种态度,他提到了三种可能的方式:关联系思维的出场、模仿之学的回归以及techne艺术维度的恢复。

  大连理工大学王前教授在大会总结中指出,第七届全国赛博伦理学研讨会选择了一个具有重大理论意义和发展前景的主题,开源精神和共享伦理衍生出了一种新的社会存在形态,在这样的时代背景下,开这样一个研讨会具有重要意义。研讨会的顺利举行展示了丰硕的思想成果,产生了很大的影响,特别是提出了许多新思想、新观点、新方向。通过此次研讨会展现的思想成果,赛博伦理学的研究从研究领域来讲更为广泛,从思想层次来讲更为深入,更加具有前瞻性和现实意义。全国赛博伦理学研讨会系列会议已成为国内大数据与人工智能伦理研讨的重要平台,系列会议适应时代需求,不断推出新的主题,展示科技哲学伦理学研究的新动向。全国赛博伦理学研讨会系列会议已有了多年的积淀,应该乘势而上,推出更有学术价值、更有现实意义的成果,在国内外产生更加重大的影响。
 

  (执笔:大连理工大学科技伦理与科技管理研究中心 凌昀、徐艳洁、宋强、许自强)