12月22日 ， 由南方都市报个人信息保护研究中心举办的“2020啄木鸟数据治理论坛”在北京召开 。 在圆桌论坛环节 ， 来自学界和企业的嘉宾围绕“从大数据杀熟到人脸识别滥用 ， 数据治理新挑战”的主题展开讨论 。
文章图片
圆桌讨论 。 摄影 张海清 。
谈人脸识别：线下应用挑战传统的个人信息保护方式
今年11月 ， 南方都市报刊发关于售楼处人脸识别的调查报道 ， 引发社会关注 。 采访人员调查发现 ， 售楼处人脸识别的主要用途是判断购房者由哪个销售人员介绍 ， 进而确定成交后的佣金应该发给谁 。 同一套房屋 ， 购房者从不同渠道购入 ， 差价在几万元到几十万元不等 。 “货比三家”本是人之常情 ， 但企业用上人脸识别之后 ， 就等于将购房者“一拍定终身” 。
这一案例 ， 反映了人脸识别应用的哪些问题？在22日的论坛上 ， 与会专家就此进行了探讨 。
中国信息通信研究院安全研究所数据安全研究部研究员葛鑫表示 ， 从个人信息保护的角度看 ， 售楼处人脸识别的曝光就如同“撕开了一道口子” ， 让人们意识到大量线下场景也在利用数字技术收集个人信息 。 而在此之前 ， 监管部门和民众的关注重点是App等线上应用 。
依据相关法律法规和国家标准的要求 ， 网络运营者收集使用个人信息之前 ， 应该告知信息主体 ， 并征得其同意 。 但葛鑫指出 ， 在个人信息处理的各个环节和阶段 ， 线上和线下应用都存在明显差异 。 以告知同意为例 ， 在线上 ， 应用方可以通过提供隐私政策等方式 ， 把告知同意“做到极致”；但转到线下以后 ， 应用方缺乏相应的告知渠道 ， 告知同意往往难以实现 。
“当人脸识别进入线下场景的时候 ， 我们传统的思考数据安全的逻辑 ， 可能都要进行调整 。 ”葛鑫说 。 她认为 ， 线下人脸识别的应用方并不是传统意义上的“个人信息控制者” 。 很多应用方其实采购的是第三方的技术和设备 ， 应用方本身没有能力来完成数据安全的保障 。 如何推动这些应用方落实数据安全保障的义务 ， 应该是之后需要重点考虑的问题 。
瑞莱智慧公司CEO田天认为 ， 购房者因为人脸识别而遭遇买房差价 ， 其实与“大数据杀熟”类似 。 事实上 ， 包括人脸识别在内 ， 各种类型的人工智能应用都需要解决算法不完善导致的算法歧视问题 。 目前 ， 国内已经有一些厂商尝试展开算法公平性检测 。 “对待不同的人群和使用者 ， 算法是不是一视同仁？这是我们需要从技术方面解决的问题 。 ”田天说 。
中国社会科学院大学竞争法研究中心执行主任、副教授韩伟认为 ， 规范人脸识别应用 ， 还需要强有力的法律规制 。 但在规制的同时 ， 也需要考虑在一些商业场景下 ， 技术带来的福利改善、效率提升作用 。
小米集团安全与隐私委员会副主席、法务部数据合规总监朱玲凤介绍了她对于国内外人脸识别规制方法的观察与思考 。 她认为 ， 要平衡技术发展与个人信息保护 ， 监管部门应该更加重视人脸识别应用的安全性和稳定性 。
“现在各种类型的厂商都在应用人脸识别 ， 有的应用甚至可以被一张静态照片破解 。 提高技术应用的门槛 ， 要求它们达到一定标准才能上市 ， 可以有效解决一部分的滥用问题 。 ”朱玲凤说 。
谈数据治理：社会各界须协同构建沟通与治理新机制
从大数据杀熟到人脸识别滥用 ， 如何应对数据治理新挑战？
中国人民大学法学院副教授、未来法治研究院研究员郭锐表示 ， 传统的消费者保护法和民法规则已不适应新技术的监管需求 ， 社会各方需要寻找全新的管制方式 。 而受到新技术影响的每一个人 ， 都应该进行“有意义的参与” 。 他特别谈到 ， 新技术的滥用可能伤害到社会中的每一个人 ， 但是更容易伤害的是弱势群体 。 在这种情况下 ， 社会各界需要构建合适的沟通与治理机制 ， 实现对弱势群体的保护 。
葛鑫认为 ， 在社会协同治理的推进过程中 ， 企业和监管部门是比较重要的参与主体 。 企业固然要追求商业利润 ， 但也应该考虑到商业模式对公众、社会和国家的可能影响 ， 承担相应的社会责任 。 对于企业而言 ， 这也是长久的发展之道 。 而监管部门 ， 也需要在审慎包容监管的基础上 ， 调整监管方式和思路 ， 更快速地回应新现象、新问题 。
“不管是人脸信息还是其他个人信息 ， 用户本身是非常关键的参与方 。 但眼下的情况是 ， 用户作为数据的生产者和所有者并没有直接获取收益 ， 反而成了受害者 ， 这是矛盾的事情 。 ”田天指出 ， 要解决大数据杀熟等问题 ， 企业可以考虑重新调节技术应用中的收益分配方式 ， 让用户也能够通过技术应用获得收益 ， 从而实现“多方共赢” 。
朱玲凤认为 ， 具体到个人信息保护而言 ， 个人信息合规工作和企业的商业发展其实是可以实现结合的 ， 用户隐私的完整性和业务功能的完整性可以同时存在 。 “我们不要做零和游戏 ， 要做正和游戏 。 时刻记住以用户为中心 ， 企业提供的服务是给用户的 ， 用户说好才是好的 。 ”她说 。
韩伟关注到政府和消费者层面 。 他认为对市场监管而言 ， 科技赋能很重要 。 依靠技术更好地主动监管 ， 而非仅仅依靠投诉 。 对消费者来说 ， 要强化其隐私保护意识 ， 比如借助比价工具等智能助理去主动或者有意对抗大数据杀熟 。 “但这前提是我们要在乎隐私 ， 南都举办这样的活动本身也是在培养消费者隐私素养 。 ”
韩伟注意到 ， 随着数字经济的发展 ， 竞争规则、数据规则和消费者保护规则存在竞合趋势 ， 大数据杀熟就是其中典型代表 。
在生活中 ， 不少人反映常遇到一些在线商旅OTA平台及入驻平台的商家利用大数据识别用户的偏好特征及行为习惯 ， 进而实施价格歧视 。
根据反垄断法规定 ， 禁止具有市场支配地位的经营者没有正当理由 ， 对条件相同的交易相对人在交易价格等交易条件上实行差别待遇 。 不久前 ， 市场监管总局发布的《关于平台经济领域的反垄断指南（征求意见稿）》也回应了“大数据杀熟”的热点问题 。
指南对何为“差别待遇”作了进一步说明 ， 称可以考虑的因素包括“基于大数据和算法 ， 根据交易相对人的支付能力、消费偏好、使用习惯等 ， 实行差异性交易价格或者交易条件”等 。
那么大数据杀熟如何通过反垄断法来规制？韩伟提出疑问——“我们需要考虑这种行为是否产生排除、限制竞争效果 ， 还是只需考虑’杀熟’是针对消费者的一种剥削性价格歧视？”
在他看来 ， 用反垄断法来规制杀熟行为 ， 相对来说是更麻烦的事情 。 通过消费者保护规则以及数据规则可能更为高效 ， 比如关注消费者保护规则的完善与落实 ， 以及个人信息保护法出台后的有力实施 。
【朱玲凤|专家热议大数据杀熟与人脸识别滥用：新挑战须协同应对】采写：南都采访人员冯群星 李玲 蒋琳
推荐阅读
- 可持续性|人工智能将重塑健康管理，业内专家认为可持续性是最大挑战
- 数字货币|是继续欣欣向荣还是泡沫破灭? 专家给出加密货币2022年五大预测
- the|美国日增新冠确诊病例超44万 专家：美疫情已转向新阶段
- 第一医院|三明启动“云查房” 让基层百姓“零距离”共享专家医疗服务
- 团队|年终策划 | 航天专家史青：为火箭“体检”给火星车装“耳朵”
- 时代|元宇宙时代数字安全怎么保护？专家解读
- 研讨会|国内外专家学者共议智慧城市发展趋势
- 手机|折叠屏手机为啥火了，值不值得买？ 专家：目前主打礼品市场
- 空难|失联7年，专家称马航MH370终于被发现？此生，终于等到你了
- 传播|废水中检测出奥密克戎毒株！专家提醒