专访｜美国公共政策专家：人类和公民利益才是“科技监管”大讨论的核心

美国西弗吉尼亚大学公共管理与公共政策教授法拉赫（Paolo Farah）。澎湃新闻记者 赵昀 图

“这是利用（社交平台的）匿名性，对技术的滥用。这是完全的刑事犯罪行为。”

韩国总统尹锡悦对近期爆发的韩国数字性犯罪做出了上述表态。

根据韩国警方的数据，韩国在线深伪性犯罪数量激增。今年前7个月，韩国共报告了297起类似案件，在2021年案件总数的基础上约翻了一番。2023年韩国共有180起此类案件。

科技快速发展，利弊共存，其中一个全球性难题就是监管，韩国近期的数字性犯罪案件，就是其中一个例子。

但监管如何在科技发展和社会之间保持平衡，同样是一个难题。历经三年的多轮审议后，今年8月1日，欧盟《人工智能法案》正式生效。该法案是全球首部全面监管人工智能的法规，标志着欧盟在规范人工智能应用方面迈出重要一步。但亚马逊、Meta等公司却认为该法案不利于科技创新。

作为公共政策和法律方面的专家，美国西弗吉尼亚大学公共管理与公共政策教授法拉赫（Paolo Farah）在近期参与“中国式现代化与世界未来”明德战略对话活动期间，就科技监管的话题接受了澎湃新闻（www.thepaper.cn）专访。

法拉赫表示，或许监管难以在科技和社会中保持平衡，但不能什么都不做。至少，各方能够基于现有的经验，制定本国的科技监管政策。

科技发展，要监管还是要创新？

澎湃新闻：您近期正在做公共政策、技术和法律方面的研究。在科技快速发展的背景下，从公共政策的角度，怎么看待保持市场活力、科技公司创新的问题？

法拉赫：我在这方面所做的工作，特别关注技术的概念化、技术是否对各国社会总体有益等情况。

重要的是评估这些公司是否以一种透明的方式推广技术。我不是在谈论开放获取或提供技术，而是（科技发展）对社会和技术带来积极的影响，这是社会发展的基础。比如，我能够到上海来，这就是技术发展和交流的结果。

自从互联网时代开始以来，人们有了很多便于交流的机会。但现在，有一种看法和更多的理解是，技术确实对社会产生了良好的影响，但也可能对社会带来挑战和风险。想一想对人工智能（AI）的批评，AI可以是非常积极的，也可以是对所有人都有问题的。

当我们发现自己面临着开放市场的挑战，让科技公司保持创新，继续投资于创新，这可以为人类带来很多机会和改善。

但另一方面是，当某些科技发展完成时，可能会给人类带来问题。这个时候人类会变得高度脆弱，在这种情况下该怎么应对？难道我们不应该在技术先进、科技公司已经富有之前进行干预和监管？所以有一种观点认为，监管和政策每次都是在技术发展后才得以出台，会出现法律和政策试图赶上已经实施的技术的情况。

那么我们在技术发展前是不是应该做一些什么？（欧盟的）《人工智能法案》就是朝这个方向发展的，试图在科技公司发展前预测可能会出现的问题。我们这样做，是因为我们实际上在保护我们想要控制的社会中的人权和价值观。在我们被私营部门公司和市场、自由贸易、自由投资和自由技术的市场目标支配之前，思考我们想要拥有什么样的社会。

所以这是一个非常复杂的话题和讨论，因为一旦朝不同方向发展，可能会对投资、信任、技术等产生重要影响。

比如Meta和亚马逊这类美国科技公司认为监管有害创新。但从监管的角度，不太可能考虑科技公司的这一层想法或者这些想法能不能实现。

当我们看其他地方的法规，考虑一下保密性和透明度的监管、数据和信息的传输。比如在新的AI法规上，（欧盟的）《通用数据保护条例》和AI监管之间的交叉点是什么？我在问我自己，这些（法规）对行业和技术是积极的还是消极的，但至少对社会是积极的，因为（法规）控制着（技术）。我试图在这些领域研究技术对社会的影响，人类和公民是这场讨论的中心。

澎湃新闻：您刚才提到了风险，也提到有时监管晚于创新。但另一方面，您是否认为，监管会影响科技创新？

法拉赫：我确实这么认为，这种影响可以是积极的，也可以是消极的。正如我所说，监管是否过于严格、会否就此限制技术创新的可能性，这才是我们要问的核心问题。所以，（监管）规则是要尽可能平衡的，但有时这会很复杂。

在（科技）行业中，这些公司实际上更喜欢没有监管。这些公司试图尽可能快地发展，避免法律法规在公司发展完善之前出现。因此，我认为监管会对发展、技术和创新产业带来负面影响。

但什么都不做也不是好的。现在，这种类型的技术已经发展到了一定程度，可以影响社会，并将把社会带向一个方向，我觉得我们对此需要加以小心控制。

在某种程度上，科技为公司提供了投资和创新的可能性，但同时，（公司）要负责任、透明，预估潜在的负面风险。比如，因为欧盟的《人工智能法案》和《通用数据保护条例》，一些科技公司遭到了批评。

我们需要观察和了解，是否会出现所谓的（让欧洲在全球科技竞争中保持影响力的）布鲁塞尔效应。因为欧洲市场太有趣、太重要，不能完全把它排除在外，行业也可以对此感兴趣。

但我意识到，（行业里）必须做些什么，保持对美国市场的兴趣。但做什么呢？在这种情况下，来自行业和其他国家的阻力可能会迫使你改变和重新审视，我对此不太确定。这是会发生的，但我们必须观察。

总的来说，欧盟出台的法规，已经做出了一定的改变和决定，这肯定会影响行业进行投资或决定在某些行业进行投资的方式。

对我来说，最重要的是，技术发展的方式，是否考虑到我们仍是一个由人类、公民组成的社会。因此，如果这项技术会对人们产生负面影响，那么我认为监管应该介入，甚至在技术被创造出来之前就需要进行监管，并努力与行业保持开放的沟通渠道。但这并不意味着允许（行业）游说并试图（把发展）引入另一个方向。

不过，试着收集信息，一些小的变化可以为行业继续发展和创新带来重要的、巨大的变化。这是一个非常复杂的平衡。

美国西弗吉尼亚大学公共管理与公共政策教授法拉赫（Paolo Farah）在上海，接受澎湃新闻记者的专访。澎湃新闻记者 赵昀 图

互相借鉴经验，制定更完善的政策

澎湃新闻：在类似的政策制定方面，比如欧盟还有《数字服务法案》，而其他国家也在解决类似技术带来的问题。您认为不同国家在制定本国政策时，能否参考其他国家/组织已有的政策？

法拉赫：我相信是这样的。例如，（不仅限于科技监管），总的来说，中国在了解美国、欧盟经验的情况下，根据中国的背景，独立制定了一些法规和政策。这可能基于竞争，或者与欧盟、美国的同行进行了多年合作交流，但这不意味着中国完全复制了他们所做的。

所以我认为，科技方面欧盟的监管可以是一个例子，其他国家可以参照（现有法规）。这是在全球法律和政策层面开展工作的一个很好方式，比如欧盟在一个领域做得比较好，可以把它作为一个榜样。这意味着（其他国家）可以从这个经验中了解，为什么（欧盟）做了某些决定，以一种特定的方式制定政策。

这样的“交换”对欧盟来说是非常积极的，因为在科技监管层面，同时还会有中国、美国等国家。基于类似的监管政策，比如能有利于美国公司在其他国家进行交易、贸易等。

对我来说，我认为政策和法规是一体的。从某种意义上说，有时政策是第一位的，法规是第二位的，但有时，法规先出台，政策解释并证明其所做的。当我们谈论法律和政策时，国家之间需要有很多对话和交流，理解差异，同时在特定方面密切合作。

根据特定的法规工作，并尝试基于对全球大环境的考量，以为国家做出最佳选择的方式，制定新的法规和政策。这就是中国多年来一直在做的事情。在此之前，中国在某些领域一直走在前列。

聊天机器人“并不完美”

澎湃新闻：接下去的问题与社交平台有关。您是否注意到，美国两党都通过社交平台，正在试图争取选票的情况？

法拉赫：我认为在奥巴马当选美国总统时，其竞选活动就已经广泛使用了广播和社交平台，之后是特朗普的当选。最近几年，不仅竞选活动中会用到社交平台，竞选活动外有组织和团体也在使用这些平台，试图支持某一派。

我相信这在过去也发生过，但我不认为会像现在这样产生如此大的影响。以剑桥分析公司为例，8700万脸书用户数据被不当泄露给这个政治咨询公司，以方便其制定策略在2016年总统大选时使特朗普获胜。（脸书的首席执行官）扎克伯格还前往国会山就此听证。

所以我认为，在美国的政治环境中，这些问题必须得到讨论和明确解决，因为它可以使选举结果发生重要变化，即竞选活动之外的参与类型。

澎湃新闻：近期（社交平台）“X”的聊天机器人Grok，在美国总统拜登退选后发布了关于多个州投票截止日期的虚假信息。多个州已经要求“X”整改，从公共政策的角度，您怎么看待？

法拉赫：这至少表明，聊天机器人或者AI在这一点上并不完美。很多其他的例子也证明了这一点：这是以一种试图让用户高兴的方式回复，更倾向于用户想要的信息，但这可能是不正确的信息。如果想要传播一些（正确的）信息，就需要进行再次确认。

比如，我们需要更多方面的信息，以确信某一个问题，排除其不可能发展的方向。就像我们参加本次会议，我们互相之间需要听到各种声音，才能不漏重点地进行研究、取得平衡。总的来说，基于这些理念，聊天机器人、AI可以是额外的帮助。

正如我现在所看到的，科技还在继续发展，但我们可以选择结束它。

比如在未来，书籍可能不再存在。网上的一切就是信息，现在的聊天机器人，也是对书本的“攻击”，这种“攻击”无法被控制，因为书本可能被认为代表过去。

我担心的是，这可能是一种趋势，比如人们再也无法接触到过去出版的书籍，并说这些书籍现在可以在网上找到。的确是这样，但是你确定在线版本会和原始版本完全一样吗？会不会有几页的部分被省略了？

我只是说，如果我们最终完全信任聊天机器人等，我们可能会出现（类似书本）这样的情况。我认为的风险是，一些强大的公司或者行业等，可能可以决定某些历史事件或者情况。

美国西弗吉尼亚大学公共管理与公共政策教授法拉赫（Paolo Farah）在上海，接受澎湃新闻记者的专访。澎湃新闻记者 赵昀 图