智库对话 | 人工智能和数字经济治理中最重要的问题是什么？

在2018新经济智库大会的数字经济新治理分论坛上，众多业内大咖和研究机构一起热烈讨论了该领域的相关难点问题。

人工智能和数字经济治理中最重要的问题是什么？专家最关注和最担心的是什么？人工智能的算法有无好坏之分？规则如何快速系统地响应数字经济治理的发展？

让我们一起聆听各位专家怎么说。

对话嘉宾

主持人：胡延平 DCCI互联网数据中心创始人、未来智库首席专家

嘉宾：

刘金瑞中国法学会法治研究所副研究员
江溯北京大学法律人工智能实验室/研究中心副主任
韩伟中国社会科学院大学法学院讲师
蒋洁南京信息工程大学公共管理学院副教授

以下是与会学者共同发起的关于《人工智能时代的治理创新》主题的高端对话。

人工智能和数字经济治理中最重要的问题是什么？

主持人：在这么喧嚣和热点纷呈的环境里，关于人工智能和数字经济治理有好多问题，哪一个问题在你看来是还没有引起大家注意，但是特别重要的一个问题？请四位对话嘉宾各抒己见。

蒋洁：有很多人认为人工智能发展会引起就业问题，实则不然，比如说人工智能也会提供新的就业机会等。更重要的是，我认为人工智能发展的未来是人机共存。

韩伟：我认为迈向人工智能值得关注的就是竞争与创新的平衡。

江溯：我觉得目前可能最大的，但是并没有去认真考虑的一个问题是关于数据公开和隐私权保护怎么来平衡。

刘金瑞：这个问题一定要从AI发展阶段来看，第一个是AI作为人的辅助和增强的工具，第二就是AI作为我们和人类共生共存的阶段，第三是人工智能会超越人类的阶段。

在我看来我们法律学者观察问题的时候往往只侧重人工智能本身的法律问题，而忽略了人工智能技术应用引起的社会问题，而其中的核心问题我觉得是数据的规则和数据利用的问题，因为没有数据就没有算法，没有算法就没有AI。

主持人：2018年、2019年、2020年，在这Ai已经来临的三年里面，我们作为业者，认为哪个问题是我们目前感觉最紧迫的，需要法律业界、互联网业界和政府部门等大家一起去面对的？

刘金瑞：就是数据的规则和建立问题，数据包括权属，包括数据和隐私的关系。习总书记讲到尽快对数据进行确权。在法律学者来研究这个问题的时候，我们都进入了一个误区，就是局限于有形物质社会的物的概念，我们把数据看作一个物，不是你的就是我的，这是我坚决要澄清的问题。

胡延平：先要数据确权建立规则。如果一上来就把这些东西固化了，可能会影响创新；如果一味地保护用户的隐私可能影响新业态业务的发展，但是不去保护的话又不行。

江溯：从我们目前的角度来看，为了鼓励竞争，鼓励产业发展，还是要更多地强调数据公开，数据分享。

胡延平：但边界在哪里？

江溯：要看领域，不能一刀切。不同的公司，或者不同的场景不太一样。对于不同的行业、不同的场景，应该说要有不同的考虑，也就是说我们的规则并不是一个整齐划一的规则，肯定要根据不同的场景来设计规则。

我的总体看法是目前整个行业发展是欣欣向荣的，而且从政府的规制态度来看，应该更多地鼓励这个行业的发展，更多地鼓励数字经济，更多地鼓励人工智能的发展。

韩伟：在算法中的权重跟数据的关系有多少？当然关于隐私问题，国际上目前有一个很新奇的发展方向，就是在竞争方面只考虑隐私问题，所以我想这个问题应该值得关注。

人工智能方面的关注和担心

主持人：在人工智能方面，现在我们中国，有哪几个机构做得比较好？

韩伟：这是一个比较有意思的现象，就是目前研究这个问题最热闹的是欧洲，但大家可能觉得欧洲那么差怎么这么热闹，我觉得跟我们国内数字经济这么发达，对这个问题的关注度不匹配。

蒋洁：我认为中国最需要关心的，是如何用应用去反哺技术发展。因为大家都只看到中国的人工智能应用现在发展的很好，但是事实上我们在人工智能的底层技术上，落后于美国很多年。刚刚有老师提到了欧盟，实际上欧盟已经受到了他们之前过度保护数据隐私之害。

中国的网络安全法为什么模糊，因为只有模糊才有利于中国的企业继续发展下去，但是随着时间的推移，整个全球数据的自由流动是没有办法停止的，中国在这之前必须要解决推动技术发展的问题。

假设谷歌真的进来了，百度是很难获得发展空间的。我们如果现在不能用各种制度，比如说税制，包括各方面的制度解决这个问题的话，那么我们将来在技术上发展不过美国，那么我们以后就一定会受它制约。

主持人：还是一个创新和发展的体制化问题。国内大家都在传说个人信息保护法，那是网络安全法之后更重要的东西。

蒋洁：我认为它是有问题的，因为我们之所以规定地模糊化就是为了给我们的企业发展机会，但是限制竞争比如说美国的企业，我们知道这个一出台之后苹果立即把所有的数据库都存到云上数据中，就是为了解决他们的数据问题。

所以我很喜欢阿里做的eWTP，因为它作为企业，在很多国家有很大的影响，所以他可以通过企业推进自由贸易。

主持人：刚才各位说到个人信息保护法。你们作为个人用户，你们也有自己的数据问题、隐私问题和平台之间的关系问题，以及你们对人工智能的或者是希望，或者是担心。你们希望的治理给你们带来的是什么，以及这些技术的发展，然后尤其是AI，你们更多是信心多一些，还是担心多一些？

刘金瑞：我是有信心的，而且我是积极拥抱技术的，我相信法律会解决这些问题。

胡延平：你说法律万能论？

刘金瑞：也不是法律万能论，但是我想呼吁，个人信息保护法往往抄欧洲的模式，我坚决反对照搬欧洲的模式，欧洲的模式本身逻辑和我们生活不符。

江溯：总体上还是比较乐观的，但是我刚才讲到从目前国家的政策来讲，还是鼓励发展，但是彻底地放弃对信息的保护这也是非常危险的，要努力地保持平衡。

韩伟：我是应该说有一点点担心。目前国际上从去年开始讨论算法问题，现在由于对个人进行画像，这种情况下还是会有担心。

蒋洁：为什么说就业普惠，因为同类认同，所以一定有一部分工作会留下来。

规则如何快速系统地响应数字经济治理的发展

主持人：到2017、2018年的时候，关于数字经济治理或平台治理，跟前几年发生了特别大的变化。之前我们一些网络犯罪、假货、不正当竞争的一些问题，到了2017、2018年的时候，是涉及平台与国家关系的问题，类似于像区块链、人工智能。

新问题来得又多、又大、又快，然后我们很多方面的状况，都不够用了，不仅仅说是用20世纪的法律治理21世纪的业态的问题，而是21世纪新的东西让我们现在目前很多都还处在一个反应不过来的一个状况，怎么能够快速地有系统性地响应？

江溯：目前的很多规则包括法律规则，没有办法适应现在的很多现象，怎么样改变这种状况，需要企业界、学界、政府特别是立法机关共同来合作，让我们的企业界告诉我们真实的问题在哪里，因为我们现在的问题是很多时候我们的立法者、执法者他根本就不知道问题在哪里，也不知道为什么现在的问题解决不了。

主持人：还有一个问题是他们明明不知道还非要假装知道。

江溯：所以大家要坐在一起先搞清楚问题在哪里，然后大家来共同地商讨这个解决的规则。

韩伟：这几年国际上对于这种新的现象在倡导一个概念叫市场研究，但是这个研究不是我们平时所认识的一个普通概念，而是把它作为一个严格的执法替代，就是尽量的多做一些交流，包括企业的交流，尽量多了解商业模式、商业生态，包括AI的问题其实尽量有一些共通的概念体现出来，大家在一块。别到时候我们在一块聊的其实不是一件事情。

主持人：怎么才能成为一件事情？

韩伟：可能更多的还是尽量冷静的去观察，包括多沟通，包括像欧盟会有一些，比如说智能电商，年年搞，搞过很严肃的市场研究，但是他不一定会得出一个执法的结论。

比如说欧盟通过调研，最后得出结论就是对于大量算法的适用，这个对执法部门怎么去更好的理解商业做算法的思路，后续法律的规则套用，都是有很多的好处的。

蒋洁：两个部分，一个部分是它密切地关系到国家安全。比如说数字货币，政府很担心，但是那个我们真的没有办法。

另外一部分，比如说隐私保护，由于中国特殊的发展历程，阿里、腾讯这样企业的数据隐私保护的规则是优于政府规则的，而且他们更希望政府规则更优一点，这样才好方便他们对外进行一定的跨境数据流通，所以政府可以多听一点企业的意见，当然同时也要考虑中小企业，公共利益和国家利益。

关于人工智能的算法好坏问题

主持人：很多人把人工智能理解成为算法，未来是一个算法世界等等，但是大家也有担心，但如果算法偏了呢？

刘金瑞：算法是否好坏取决于数据，所以说你训练的数据是怎么样的。只要数据质量能够保证，算法是没有问题的。

江溯：在美国社会里面种族歧视非常严重，所以往往会针对黑人作出不利的判决，再拿这样的数据训练机器的时候，当机器辅助法官来作出判断的时候，它一定是一个不公正的判决。

怎么样避免这个问题，就是要保证数据的合理性或者公平性。

从技术的角度上来看，它是可以保证算法的透明性，前提是数据本身比较好。比如我们现在讲司法大数据，我们最高法院公布了大量的裁判文书，但是又不是全部的裁判文书，在这种情况下要根据这些裁判文书预测一个特定的案情，它的结果是什么样的，或者量刑的结果是什么样的，这个时候就会产生问题。因为他在公布结果的时候会有选择性，而选择的标准没有公开，过程没有公开，所以在这种情况下这个算法可能会存在一些问题。

韩伟：我们跟踪最新的包括国际上的数据跟算法的关系，包括深度学习的带头人提出来一个理论，包括最近我们发现两个巨头在争论到底深度学习会不会死掉，还是要基于算法本身的一个演化，到底对数据的依赖度有多高。

蒋洁：当前的问题是我们只有近期数据，在输入的时候因为标注会有标注提示，所以其实一定会有歧视，这样情况之下世界的通行做法是它只能做辅助，真正做裁决的还是人。

主持人：AI科技及整个数字经济有两个关键词，一面是集权，另外一面叫普惠。科技会让一些力量更强大，甚至一定程度上会让集权的力量更强大。而我们从其他很多角度看到数据、智能等等相关科技，都在促进这种普惠的力量，一种去中心化的、分布式的力量，这两种趋势是同时存在的。那从你们从法律、从业界的角度，怎么去看待这两面？

刘金瑞：现在普惠与否在于制度设计是否合理，在我们国家好多平台责任，大家都讲平台责任，从来没有人公开提平台权利。

国家现在没有这个AI的能力，实际上是企业在实施。但是这种情况下我们的立法就把这种责任转嫁给平台，平台有能力是可以承担这个责任，但是我想呼吁的是政府要让企业做这个事应该赋予一定的权利给它，再就是政府的数据要开放给企业。

我作为一个研究者，一是想就这方面的法律规则进行呼吁，另外是想提议大家区分隐私权和个人权益保护。

韩伟：最近国际有一些概念，叫算法即消费者，我作为一个消费者，希望AI能够打破整个市场结构的力量不平衡，尽量能够通过一些比较便捷的智能性的终端，包括科技算法的开源。

蒋洁：我前面写过一篇文章，一面是精英强权，一面就是普惠社会，随着时间的推移，精英强权必然会实现。比如乔布斯可以通过基因药物多活好几年。

假设我们如果希望长期地生活下去，有人说我们人类可以恒存的，而且教育资源也会越来越不平衡，法律上来讲只能是完善社会保障法，更好地完善税收制度，保障那些底层人民，因为我自己也是底层人民。

各位智库专家的独特洞察分享

主持人：最后大家讲一下，前面所有问题里头都没有涉及到，但是你们特别想跟大家分享的一些洞察。

刘金瑞：要区分个人信息的观念，个人信息并不天然就属于你自己的。个人信息从产生的那一刻开始就是共同属于平台和个人的。

江溯：我是研究刑法的，所以希望我们今后能够更多地运用人工智能技术来实现更好地预防犯罪，让我们的生活更安全。

韩伟：最后我想讲两句话，繁荣源自竞争，创新源自竞争。

蒋洁：人工智能的发展以后会不会影响就业？实际上短期来看它不会影响，这是因为人工智能会创造更多就业机会。但不意味着大家自己或者你的孩子都要去学计算机专业，因为我们自己发现什么样的工作不会消失？同类认同的工作是不会彻底消失的。