大数据视域下的数据伦理与消费者保护

 

作者：沈 浩

 

编者按：金融科技与大数据的深度融合发展提升了金融机构的服务精准度和效率，为人们提供了更加灵活、便利、定制化的金融产品和服务，但同时也衍生出复杂多样的金融科技伦理与监管问题。面对严重依赖大数据的金融科技，如何才能确保数据的正当收集和使用，特别是做好金融消费者的保护。本文从宏观层面分析数据伦理和大数据的发展、问题及应用，梳理国内外规制数据伦理的实践和主要共识，并提出相关政策建议。 

 

通俗来讲，数据伦理是道德范畴与社会规范，定义了我们将做什么和不做什么，通过数据伦理能够帮助我们确定相关的责任，促使行为向善。在大数据与人工智能蓬勃发展的当下，数据伦理与消费者保护的相关理论与研究受到了广泛关注，其面临的问题与挑战也越发引起大家的关心和讨论。为了厘清大数据视域下的数据伦理与消费者保护的相关问题和挑战，本文从数据伦理的发展及应用视角，分析和探讨大数据伦理下消费者保护所面临的问题、大数据算法的效用、国内外建立数据伦理规制的实践、数据伦理建设的主要共识等内容，并针对加强数据伦理与消费者保护方面给出了切实可行的建议。 

 

大数据时代数据伦理的发展 

 

作为伦理学的一个新分支，数据伦理学属于道德哲学，聚焦于研究和评估涉及数据、智能算法及其相关联的应用，以制定和支持道德上良好的解决方案（例如正确的行为或正确的价值观），属于应用伦理学中较为重要的部分。随着大数据和人工智能技术的普及和发展，数据伦理受到了不同行业，特别是金融和银行业的广泛关注和讨论。然而，在企业的发展和生产经营中，汇集的用户个人基础信息、行为信息、消费数据信息、关联关系信息，以及分析与加工后的潜在信息的相关规则与制度都较为模糊，缺乏具体的边界。在对用户提供服务的同时，伴随着潜在的数据伦理道德危机，缺乏隐私数据保护、消费者权益保护的法律法规及监管措施和政策。因此，人们逐渐认识到，法律和数据伦理道德有时并不是可以兼容并包的，智能化的技术和伦理道德的水平都能够影响和评价社会发展的文明程度。社会呼吁企业在经营获利的同时，也要完善其大数据技术之上的数据伦理规范和应用标准，并履行其应有的企业道德和社会责任。 

 

事实上，数据和信任是并行且相关联的，获得数据最大价值的核心方法就是将数据提供给最需要的人。因此，需要推动采用数据伦理原则，加强公众信任和消解阻碍数据收集、共享和使用的力量，在道德准则、行业框架和政府法律法规之间取得更好的平衡。针对数据使用对不同群体的影响的研究表明，数据伦理问题涉及更广泛的主题及非常实际的社会问题，通过践行数据伦理有助于减轻无意中融入系统、政策和服务的负面影响和偏见，从而创造更公平的社会。 

 

大数据伦理下消费者保护面临的问题 

 

消费者进行相关活动时产生的数据归属问题有待明确。消费者产生的海量消费及行为数据到底属于服务提供的企业还是消费者本身；提供服务的相关企业和个人能够获取和存储用户的哪种数据；是否能够对数据脱敏加工后进行交易等等，这一系列问题归根结底都属于大数据的加工利用及交易范畴的问题，进一步说明了需要厘清消费者全过程数据的归属与责权，并引发了大数据伦理的问题。有些企业或服务提供商利用大数据算法的黑盒特性，无视法律和社会道德，借助智能算法及大数据杀熟等潜在手段，从不同特性的用户身上攫取经济利益。 

 

相关消费数据缺乏透明性，虚假数据泛滥。部分运营企业借助平台和系统的隐蔽性，采用虚假的数据信息引导消费者进行消费，其中，较典型的包括企业通过人工智能手段对数据进行填充和伪造等行为制造误导消费者的假象，如水军刷单、生成虚假评价、刷排行榜等虚假手段对消费者进行欺骗和诱导。 

 

相关法律法规有待完善，消费者疲于维权。尽管我国已制定了消费者隐私保护与数据保护的法律法规，但有些企业仍存在未经授权非法采集或通过黑市及网络交易平台销售消费者个人隐私数据的行为，且该行为较为隐蔽，即使消费者感知到相关行为后，由于法律法规的完善程度不足，消费者仍难以对自身进行有力保护。同时，在企业追逐利润的前提下，大数据算法等智能技术已经成为企业侵犯消费者权益的背后帮凶。另外，行业内自律与治理不足，导致整个行业缺乏有效监管，难以发挥行业自身的监管力量。由于大数据与人工智能算法的隐蔽性，即使消费者具有维权意识，仍存在取证难、溯源难、判定难等问题，耗费了消费者大量时间和财力，严重影响了消费者的生活。 

 

大数据算法效用的双面性带来的问题。当前，随着大数据和人工智能技术的快速发展，智能算法有效落地并得到应用。大数据算法已经成为企业，特别是互联网相关企业维挽用户的强有力的工具和技术手段。通过大数据智能算法，企业能够有效地提升管理效率和水平，为使用者提供多样化、便利化和智能化的产品和服务。从技术层面讲，大数据算法对于社会经济的发展作出了一定贡献。从消费者层面讲，大数据算法应用包括套餐服务、智能推荐、交叉销售、增量销售、动态评价、信用评级及搜索算法等，给消费者带来了较大的便利性和实用性。然而，大数据与人工智能是一把“双刃剑”，技术的普及与落地应用在为人们日常生活及科技的发展带来了极大便利的同时，也暴露了大数据算法的伦理问题，给构建和谐社会与网络治理带来了巨大的挑战。为管理大数据和人工智能带来的风险和收益，我们需要超越人工智能决策的公平性和准确性。在技术层面，如过于追求数据和建模，就会产生削弱人类判断、形成算法偏见、加深社会分歧等各种不良后果。在企业层面，为了追逐利益，企业利用大数据算法的不透明性，对消费者实施不同方面的违法、违规行为，典型的如大数据“杀熟”。企业通过挖掘不同时空区域、不同画像，以及不同兴趣与偏好的用户信息进行区别定价，并结合复杂的促销规则和算法混淆价格和优惠，具有极其隐蔽的特性，给消费者的取证、维权带来极大困难，部分算法黑箱还具有性别和种族歧视。因此，算法歧视与大数据杀熟已经严重阻碍了社会的公平有序竞争，不利于市场经济的良性发展。在消费者层面，大数据算法是看不见、摸不着的“黑盒子”，不法企业实施其违法行为时，消费者难以及时发现且举证困难，严重侵犯了用户的知情权和公平选择权，加深了企业和消费者之间的鸿沟。为了评估算法的风险和收益，我们需要研究其对人们生活的影响。 

 

国内外建立数据伦理规制的实践 

 

国外数据伦理与隐私保护实践 

 

国外在数据伦理与隐私保护方面的法制建设起步较早，相关的法律法规、行业伦理规范和实践标准较为完善，给全球的数据伦理与隐私保护制度的建设起到了引领与示范作用。典型的如欧盟设立了欧洲数据保护专员公署，美国成立了“大数据、伦理与社会理事会”等机构来保障和监督消费者与用户各项信息的安全。2018年5月和11月，欧盟分别发布了《通用数据保护条例》和《伦理与数据保护指引》，成为重要的用户隐私保护法律，为数据伦理与数据保护提供了直接的指引，给出了具体的方向，引起了广泛的关注。此外，欧盟的相关管理机构已将数据理论的相关工作作为机构的日常工作。2019年4月，欧盟发布了《可信人工智能伦理指南》，特别强调了针对人工智能相关的伦理及用户的隐私保护。

 

近年来，国外尝试通过“零方数据”，也就是通过寻求许可方式来收集更准确、相关和即时的，并与消费者兴趣更匹配的数据方式。在算法上通过隐私技术、联邦计算等模型算法，实现“可用不可见”的数据建模，在一定程度上形成了数据保护和数据私有，与此同时，企业也在不断尝试借助区块链技术实现隐私保护。 

 

我国数据伦理与隐私保护实践 

 

在我国，因人工智能、大数据、合成生物学等新兴技术的快速兴起带来的很多不确定的伦理风险，也引起了我国对新兴技术的科技伦理治理的日益重视并陆续出台了相应的管理措施。2019年7月通过的《国家科技伦理委员会组建方案》和2020年5月通过的《中华人民共和国民法典》都对个人及相关的数据信息与应用方面作出了相应规定。2020年6月，《中华人民共和国数据安全法（草案）》提交全国人大常委会第一次审议。2020年10月，十九届五中全会提出健全科技伦理体系。此外，针对算法偏见和歧视，我国于2022年3月实施了国家网办等多个部门联合发布的《互联网信息服务算法推荐管理规定》。 

 

数据伦理建设的主要共识 

 

当前，发达国家的数据理论及消费者保护的相关法律和政策相对完善和健全，而且数据伦理方向的探索也在不断更新和完善。国内外相关政策与法规大多集中于消费者用户的个人隐私保护及数据保护，在数据伦理建设层面更加重视消费者隐私，并积极制定引导数据“向善”的管理与隐私保护的法律法规及道德规范。另外，相关的数据保护和数据伦理的行业标准、落地的实践标准等也提出得较早，并受到越来越多的企业和消费者的关注。通过梳理目前数据理论与消防者保护的相关政策，可总结出如下几点共识。 

 

数据管理及大数据算法应是无偏、向善、公平的。数据的运营主体或相关企业对数据的包括采集、处理、加工、算法训练等环节的全生命周期必须遵守数据的管理，不仅如此，大数据算法应遵循无偏、向善、公平的原则，不能因潜在的利益而忽视甚至完全违背该原则。不但要防范消费者大数据信息的不正当交易、未经授权的信息共享，而且要注意数据使用中的算法歧视、算法偏见及大数据杀熟等影响消费者感知与体验的问题。 

 

数据管理和大数据算法应该明确其目标及边界。大数据的智能分析与挖掘算法能够创造潜在的价值和效益，而进行大数据运营的企业及个人因集聚了海量数据，进而拥有了相关的非法的和操纵作恶的潜在能力和基础。因此，需要防范大数据运营企业的行业霸权和垄断。另外，需要防止数据运营主体无限制地获取消费者和用户的数据，要树立明确的目标及数据量的上下限，并需要防止企业对用户大数据，尤其是隐私数据的随意使用。推荐的做法是，对任何可能包括职业、性别、性取向、残疾、身体体验、体型、种族、宗教或与企业使命无关的任何事情都“零兴趣”。 

 

数据管理和大数据算法应保障算法可靠稳定。面对海量的用户和积累的海量数据，大数据运营主体需要保障大数据分析与处理技术的可靠性，保障算法的安全且不保留后门，流程与思路清晰合理，算法实现稳定准确，以保障数据的可靠性、完整性及不可否认性等，防止数据受到威胁和篡改。 

 

数据管理及大数据算法主体应了解并知情。需要保护并尊重用户和消费者对数据的所享有的相关权利，特别是针对用户的数据及用户行为信息。消费者作为其主体，需要明确数据的相关使用与处理策略，尤其是涉及用户隐私的相关策略，并给予用户对于相关隐私协议和策略的选择权利，且用户应具备更改和停止的权利。 

 

涉及用户的相关大数据应受到合理的保护，并考虑大众的公共权益。需要构建符合当前环境及政策的大数据保护机制，保障数据的完整信息，施行数据保护优先原则，而不是利益优先，当与法律法规及相关数据理论道德规定相冲突时，应当销毁或者冻结相关数据。此外，各大数据运营主体应考虑大众的公共权益，要杜绝危害国家和社会的现象，并重视相关公益数据的隐私保护，遵守相关公共权益的规范和守则。 

 

加强数据伦理与消费者保护建议 

 

近年来，随着“互联网+”政策的不断推行，以数据为运营主体的相关行业和个人推动了我国的经济与技术发展。然而，在大数据和人工智能的驱动下，也随之产生了一些负面的问题和影响，包括对涉及用户隐私的数据的无限制采集、大数据算法的歧视和偏见、大数据杀熟，以及智能化的非法营销方法等。当前，相关监管政策与法规的发展速度跟不上技术的发展速度，消费者的隐私和权益保护受到了严峻挑战。因此，在“互联网+大数据”时代，加强数据伦理建设、构建消费者保护屏障具有重要的现实意义。

 

推进消费者保护的立法工作落地，促使消费者权益保护有章可循、有法可依。明确大数据及相关算法的作用范围和使用机制，构建与时俱进的消费者及用户数据的归属、数据获取等相关规章制度与法律法规，厘清相关权利、义务的范围与责任。吸取国外先进的数据伦理建设经验，制定官方的权威数据伦理标准规范、准则及规定，设置专业的数据伦理管理机构，并由其负责对大数据算法歧视、大数据杀熟等违法违规行为的管理与处置，强化对大数据伦理及算法应用落地监管。简化和完善维权和追责制度，强化和落实消费者权益的法律法规，对大数据算法歧视等问题进行严厉打击。 

 

强化数据伦理及消费者保护的多维度监督，构建并健全可落地的消费者保护监管体系。数据伦理建设需要国家管理机构、行业监管机构、行业自律性团体、第三方数据服务商、大数据企业从业者、消费者等多维度、多元共治的数据治理体制机制，全力保障消费者的数据合法权益。大数据从业的主体机构和企业应该确保大数据算法的公正可信、可取证、透明和可追溯。并保证发生争议和纠纷时，及时向相关的监管部门和机构，以及公正的第三方机构提供相关的算法源程序、原理与涉及数据的说明，保障大数据算法的合理性、合法性和可追溯性。 

 

普及大数据隐私保护教育，增强消费者保护和数据伦理意识。以消费者数据与隐私保护为抓手，通过网络宣传、大众研讨、线下推广等方法，推进消费者数据伦理与隐私保护的普及教育，激发消费者自身对隐私保护、大数据伦理的关注和敏感性，强化其数据伦理的意识，积极参加大数据主体相关的数据处理、算法推荐及应用等全流程的监管，构建行业及社会对数据伦理、消费者数据保护协同共治的意识和氛围。 

 

推动大数据主体机构完善敏感数据的全周期保护制度。对于从事大数据运营的相关企业和个人，要构建正确的数据伦理观和消费者保护观，并遵守从业道德，不逾越底线和红线；在数据加工、消费者隐私保护、数据治理及数据管理等方面，要通过制定完善的大数据管理规章制度来平衡企业利益、数据伦理和消费者保护，并根据国内外最新的趋势和发展，及时对相关的制度进行更新和完善，以保障制度符合相关形势。 

 

（作者系中国传媒大学新闻学院教授、博士生导师，媒体与融合国家重点实验室大数据中心首席科学家） 

 

责任编辑：魏敏倩