“AI监管比较像一把双刃剑，我们既要鼓励新科技产生，但又要防范和监督它。但绝对不能像欧洲这样对它五花大绑，完全没有生长的空间。”

我们的艺术家们曾无数次地设想过，当机器人可以自己思考，自己生成代码，甚至统治地球时会是什么样。但让所有人始料未及的是，这一天的到来，竟然是猝不及防的。

身穿深蓝色西服，头发有点微乱，眼神里透出一股技术男特有的单纯和执着，昨天晚上（美国时间16日上午10点）ChatGPT之父、OpenAI创始人兼CEO山姆·奥特曼在美国国会参加了自去年年底OpenAI的聊天机器人ChatGPT席卷全球以来的首次听证会。

OpenAI创始人兼CEO山姆·奥特曼

而同一时间，银柿财经也邀请了浙江大学人工智能研究所所长、求是特聘教授吴飞跟我们一起聊了聊，究竟要对AI进行怎样的管控。

山姆·奥特曼：人工智能是一种工具，而不是“生物”

聊天机器人工具ChatGPT成功开发后，再次引发了一场全球关于人工智能的军备竞赛。而这也引发了立法者对该技术带来的风险的担忧。

为说明技术带来的潜在风险，参议院隐私和技术小组主席理查德•布卢门撒尔在周二的听证会开始时，播放了一段虚拟录音。这段录音来自ChatGPT撰写的评论，但声音却是Blumenthal的真实声音。布卢门撒尔表示：“这些非常逼真的虚假信息，将会任意传播，这将是非常恐怖的。”

OpenAI首席执行官山姆•奥特曼在周二的讲话中表示，人工智能可能会被用来操纵选民和可能产生虚假信息，这是“我最担心的领域”之一，尤其因为“明年美国将面临选举。”

奥特曼周二表示，美国政府应为开发人工智能系统的公司建立许可证制度，这种“许可和测试相结合的要求”可以应用于“人工智能模型的开发和发布”。

技术专家认为，尽管建立许可制度有助于集中监管AI，并防止其滥用，但如果AI发展得太快，这一制度可能会排挤较小的参与者或者失去相关性。

据悉，OpenAI的一名员工最近提议成立一个美国AI许可机构，名字叫人工智能安全和基础设施安全办公室（简称OASIS）。奥特曼并未在他的证词中对OASIS发表评论，不过他提议建立一个足够灵活的治理机制，以适应新的技术发展。

IBM副总裁兼首席隐私和信任官克里斯蒂娜•蒙哥马利警告不要创造一个“快速行动，打破现状”的新时代，因为这是脸书等硅谷巨头们长期以来的口头禅。蒙哥马利告诉立法者：“人工智能时代不可能是另一个‘快速行动、打破现状’的时代。”她说，“但我们也不必对创新踩刹车。”

奥特曼和蒙哥马利也表示，尽管人工智能可能会消除一些工作岗位，但会创造新的工作岗位。奥特曼告诉布卢门撒尔：“总体上，我对未来充满乐观。”

奥特曼发表上述言论的前一天，他与60多名众议院议员共进晚餐。据与会人士称，奥特曼展示了ChatGPT的各种用途，“非常有趣”，他形容议员们被这场活动“吸引住了”。该人士补充道，大多数与会者普遍承认，对人工智能的监管是必要的。奥特曼在晚宴上强调，人工智能是一种工具，而不是“生物”，人工智能“可以帮助完成任务，而不是工作”。

在今年的采访中，奥特曼表示，自己很注意人工智能带来的风险，甚至对这项技术“有点害怕”，他和他的公司承诺以负责任的态度向前迈进。

埃隆·马斯克与数十位技术领袖、教授和研究人员曾一起签署了一封信，呼吁像OpenAI这样的人工智能实验室停止训练最强大的人工智能系统至少六个月，理由是“对社会和人类的巨大风险”。奥特曼表示，他同意这封信的部分内容，但“我认为这封信不是解决问题的最佳方式。”

吴飞：对人工智能必须要监管，但又不能五花大绑

关于ChatGPT的未来，加强监管一定是趋势。吴飞教授在与银柿财经的对话中也表示，“我们一定是要监管的，要监管它不能说谎话。”

为了更好地理解ChatGPT等聊天机器人，所带来的挑战时，吴飞教授首先解释ChatGPT了究竟如何生成它的自然语言的。

“它是一个语言合成模型，通过大数据，能从一个词自然关联到另外一个词，有一点像单词接龙。它更多的是一个存在的互联网信息的合成。所以它的语言生成的逻辑就是，存在即合理。”

但现实社会中，大量的信息并不是存在即合理的。吴飞教授说，最怕的就是你今后可能生活在一个充斥错误信息的网络中。

“互联网上充斥大量错误的数据和信息，但如果ChatGPT读了错误的信息后，然后输出我们，我们信以为真，然后把错误的信息再次发布到网上，然后ChatGPT根据这些信息再次输出，这样就会形成一种信息错误链，让你一直生活在各种谣言当中。”

怎么监管呢？

近日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则，并提出了严格监管ChatGPT等AI工具的新思路。欧洲通过的这一法案草案，在吴飞教授看来，可能过于严格，会损害到新生物的产生，也有可能会让欧洲落后于新一轮的科技变革中。

吴飞教授说起另一个案例：1865年英国颁布了一个《道路机车法》，法律规定，机动车需配备一名“红旗手”，换句话说，就是在其步行于车辆前方60码（约55米）处的地方，手持一面醒目的红旗以提前警示前方行人和马车。这项法律的颁布的直接原因，是马车夫等对汽车的抗议，但这导致了汽车并不如马车便利，这也直接导致英国错失汽车大国的机会。

“AI监管比较像一把双刃剑，我们既要鼓励新科技产生，但又要防范和监督它。但绝对不能像欧洲这样对它五花大绑，完全没有生长的空间。”

吴飞教授建议要从技术、立法和道德上，三个层面对人工智能进行监管。“我们从技术层面做一些制约，同时也要积极立法，要对违法的平台，开发团队或者开发者予以相应处罚。同时也是要在人伦道德上，对AI进行监管，比如我们不能把AI用于武器，更不能把准确度只有60%的AI用于武器系统等等。”

今年4月国家网信办已经就《生成式人工智能服务管理办法》下发公开征求意见的通知。吴飞教授看来，这一做法说明，中国政府已对此很重视，也在快速行动了，是高瞻远瞩的，有利于人工智能在国内健康发展和推进的。