美国时间 5 月 16 日，参议院审议 AI 监管议题的听证会上，气氛一派祥和。
这是以 ChatGPT 为代表的生成式 AI 科技爆炸性进步后，美国国会举办的第一场听证会，可能奠定未来美国如何监管生成式AI的基调，因此尤其引人关注。
而引人关注的另一点，是因为提供 ChatGPT 的 OpenAI CEO 山姆·奥特曼（Sam Altman），正是听证会的三位证人之一。另两位则是长期对 AI 技术持质疑态度的纽约大学荣休教授加里·马库斯（Gary Marcus）和 IBM 的首席隐私和信任官克里斯蒂娜·蒙哥马利（Christina Montgomery）。
欧美互联网大佬参加的国会举行的听证会，一向以剑拔弩张的紧张氛围，和不懂科技还一定要管科技的国会议员闻名。然而这场听证会，氛围却出乎预料的轻松。
不少议员在发言中表示自己试用过 Open AI 的产品，并据此提问。对 AI 已经产生的问题和未来的风险，也更多地表现出一种沟通，而非问责的态度，与此前扎克伯格、周受资的待遇形成了鲜明对比。部分原因或许来自奥特曼在听证会前已经与参议员们进行了多次私下沟通，且对 AI 监管表现出非常积极的态度。
听证会内容横跨了生成式 AI 带来的诸多影响，包括不实信息问题、信息操纵人心问题、失业问题、隐私问题、版权问题、垄断问题等。
对此，三位证人对参议员们的担忧都表示了不同程度的认同，并认可政府应该对 AI 行业进行监管。
「此次听证会是历史性的。我不记得之前在任何情况下，有大企业和私营组织代表来参加听证会，请求我们去监管他们。」已经当选参议员二十几年的迪克·德宾（Dick Durbin）在听证会中感叹道。
Coinbase：美国对加密货币的监管方法是 \"脱节的\"，但它在监管方面处于有利地位:金色财经报道，Coinbase表示，尽管美国对加密货币的监管方法是 \"脱节的\"，但它仍处于强有力的监管地位，Coinbase表示，在美国对数字资产的监管审查越来越严格的情况下，它已做好准备取得成功，这家美国加密货币巨头利用其部分季度收益报告将自己与其他在监管和执法审查日益严格的情况下倒闭或倒闭的公司进行了对比超过商业惯例。(TheBlock)[2023/2/22 12:20:58]
多方共识下，问题进一步成为，对生成式 AI 的监管，究竟要怎么管。
无法承受像管社媒
一样慢管 AI 的后果
虽然听证会以 AI 监管为主要内容，但「社交媒体」一词却不断出现，在不到三小时的会议中，出现了 32 次之多。
参议员们仿佛在对社交媒体管控「失败」反思，并想在 AI 领域重新来过。「我们无法承担像我们曾经管控社交媒体一样慢地去管控生成式 AI 的后果，因为其影响，不管正面的还是负面的，都会远远超出社交媒体带来的影响。」参议员克里斯·库恩斯（Chris Coons）表示。
会议虽然讨论了多个 AI 相关的问题，但议员们最关注的，还是生成式AI 发布不实消息和操纵人心的问题，而对于尚未到来的通用人工智能的监管则几乎没有探讨。
整场听证会以主席理查德·布卢门撒尔（Richard Blumenthal）的一段以 AI 生成的虚拟录音开场，AI 以相当接近布卢门撒尔的说话方式模拟了一段他可能发表的意见，布卢门撒尔也对 AI 的能力表示认可，但很快他的落点落到了本场听证会的中心——不实信息。如果 AI 提供的信息是与他本人立场相反的呢？听众是不是也会觉得这是他本人的立场？
Coinbase首席政策官：美国对加密货币的监管不确定性会伤害处在下一个大事件风口的新兴项目和创始人:金色财经报道，Coinbase首席政策官Faryar Shirzad在社交媒体上称，Coinbase在向美国商务部的评论信中发送了关于制定一个关于数字资产技术竞争力的框架。即：引领加密货币是美国全球科技领先和竞争力的核心。Shirzad表示，加密货币不再是简单的购买和出售比特币，用例正在迅速发展。不幸的是，美国目前在这方面以及其他一些全球领先指标上都落后了。
加密货币提出了新的问题和需求，世界各国政府欧盟、英国、澳大利亚、巴西、新加坡等正在推进制定可行的监管框架。 那么美国能做什么呢？建立监管明确性。监管的不确定性不仅会阻碍像Coinbase这样的中心化交易所提供许多资产、服务和产品，还会伤害处于下一个大事件风口浪尖的新兴项目和创始人。美国还可以通过支持针对非法活动的解决方案、在国内培养人才以及保护通向Web3的入口来保持竞争力。[2022/7/6 1:55:41]
参议员乔什·霍利（Josh Hawley）引用了一篇 4 月的学术论文，提出 AI 可以通过建模，成功预测出公众对于一件尚未发生的事情的反应。那是不是意味着如果利用 AI，去做一些策略调整，能成功操纵民意？
对此，奥特曼的回应是，这也是他最担心的事情之一，「一对一的，互动式的不实信息（传播）。」他认为需要监管、公司努力和公众教育结合才能解决。
其中一个可能有效的解决方案是，公众永远应当知道自己在和 AI 说话，而不能出现以为自己在和人类对话，实际上在和 AI 对话的情况。
但他总体对人类的适应能力表示乐观。「在 Photoshop 出来的时候，其中有一段时间人们都很容易被 Photoshop 编辑过的照片。然而很快，人们有了照片可能是被 Photoshop 编辑过的意识。」
委内瑞拉用户因Infura响应美国对俄制裁，无法使用MetaMask:金色财经报道，委内瑞拉的MetaMask用户因以太坊节点托管商Infura的系统错误而无法访问MetaMask钱包，此次事件起因在于Infura为响应美国对俄罗斯及乌克兰部分地区的制裁，而对Infura的API配置进行了更改，但却产生了错误，致使委内瑞拉用户无法通过MetaMask访问以太坊节点。此前，Infura的发言人表示，作为一家美国公司，Infura密切关注美国的对外制裁计划，并严格调整其政策以遵守美国法律。目前，受到影响的地区包括伊朗、朝鲜、古巴、叙利亚和克里米亚、顿涅茨克和乌克兰卢甘斯克地区。 （theblockcrypto）[2022/3/4 13:36:11]
他也进一步强调了，这也是为什么 Open AI 公司要开放 ChatGPT 使用的原因。这样大家能从一个发展中的产品中，尽早地建立对于这种科技的认知，而避免直接放出一个非常成熟的产品，使大家在尚未建立对生成式 AI 的认知之时就受到科技的冲击。
使用 Midjourney 生成的一张图片
听证会还提到了更强大的 AI，会不会更容易针对我们每个人，提供出最符合我们偏好的信息，更容易引走我们的注意力，和相关的 Open AI 如何处理这类的个人向的数据。
「我们不使用广告作为营收，所以我们没有在建立用户画像。」奥特曼表示，「我们也没有在努力让用户更多地使用我们。事实上，我们希望用户更少地使用我们的产品，因为我们 GPU 不足。」
观点：由于美国对全球汇款市场的重要性，SEC对Ripple的诉讼或产生深远影响:12月28日，Cinneamhain Ventures合伙人兼专业分析师Adam Cochran研究了如果Ripple输掉诉讼，不再被允许在美国市场使用XRP将会发生什么。他指出，有“很多支持XRP的声音”表示，如果Ripple被切断在美国市场的业务，那也“没什么大不了的”。Cochran对此表示怀疑：“美国占全球境外汇款的33%，70%的交易对手结算代理是美国公司。换句话说，如果没有美国，几乎不可能有一个汇款市场。那么你仍然需要在处于对手方劣势的情况下，与TransferWise、WorldRemit（Stripe）、http://Coins、Abra、Stellar、Dwolla等竞争剩余市场。”
汇款市场的运作方式是，公司通过在两种货币之间进行套利来赚钱。正因如此，供应商需要最好的流动性来进行结算，而结算大多是由美国商业银行完成的。Cochran表示：“如果美国公司不能与你打交道，你的出价将比竞争对手更高。”XRP本应作为银行之间的转账媒介被创建，SEC的胜利也可能对这个用例产生影响。此外他还表示，Kraken也有可能下架XRP。（Crypto News Flash）[2020/12/28 15:53:22]
但是他同时认为这绝对是值得担忧的问题。他非常确定有公司已经在研究相关的事情。Open AI 也无法保证永远不采取广告模式盈利。
同时奥特曼也在宣誓过的状态下再次明确，Open AI 会利用公开网络上的资料来训练，但不会用从 API 获取的用户数据中训练，且如果在 ChatGPT 中进行设置，用户在 ChatGPT 上的数据也可选不成为公司的训练材料。
声音 | Fundstrat：超半数机构投资者赞同美国对加密货币保持严格监管立场:据bitcoinnews消息，市场研究公司Fundstrat的一份调查报告中显示，72%的机构投资者认为，在全球经济衰退的情况下，数字货币价格会上涨，另外44%的投资者认为，未来18个月将出现这样的经济衰退；60%的投资者认为美国对该行业有正确的监管立场，并相信世界其他国家也会效仿；59%的投资者认为比特币将成为2019年表现最佳的加密货币。[2018/10/7]
支持 AI 研发牌照，
奥特曼有没有私心？
对 AI，政府该不该进行管理，在此次听证会上几乎没有争议。在政府监管上利益相关的两位证人奥特曼和蒙哥马利都十分认同政府监管。
但到底政府该怎么管，则成为了一个激烈探讨的话题。
其中讨论最多的一个方向，是是否应该专门建立一个管理生成式 AI 的监管机构。这个监管机构可以在发布前和发布后，联合独立专家，全面地检查一个 AI 模型的安全性，并拥有对犯错的公司执行吊销做 AI 模型的权力。实际上，相当于为公司发放 AI 牌照。
「你不能没有牌照就建一个核反应堆，你不能没有一个独立检测的牌照就建一个 AI 模型。我认为这是很好的类比。」一位议员这样说道。
奥特曼对此十分认同。「超过一定门槛的任何尝试都应该得到政府的牌照，而且牌照应当可以收回，以确保其能够遵守安全标准。」
在一位议员提问政府应当禁止做了某些事情的 AI，还是应当禁止有能力做某些事的 AI 时，他直接回答，两者皆应被监管。
至于门槛具体是什么，在参议员的要求下，他提供了一个方向，最简单的可以是以训练数据量为衡量来进行判断，更复杂的可以是模型具有了能够说服人类，改变人类想法的能力，或者能够创建新的生物制剂后，应该被监管。
说到这，你可能会想，为什么许多行业在面对监管时，都十分抗拒，而奥特曼作为 AI 行业的领导者却支持一个如此强力的监管方式，希望政府拥有能够吊销 AI 牌照的权力？
一种解释是他的确非常关心 AI 带来的安全问题。这点得到了曾与他私下会面过的参议员，以及同场的证人马库斯教授的认可。
奥特曼在国会回答提问 图片来源：听证会截图
另一种解释则没那么无私。在一篇福布斯的文章中，长期关注 AI 发展的资深作者 Jeremy Kahn 提出了另一种解释：「AI 公司们面临的最大的挑战之一来自开源 AI 软件... 开源社区已经被证明极其具有创新力，能够敏捷地匹配上大公司专利模型的表现和能力，使用的模型更小，更简单，可免费下载且训练起来更廉价。如果出现牌照政策，这些开源公司都将举步维艰。它们很难为模型装备稳健的限制，也很难控制人们如何使用它们创造的模型——开源，从本质上来说，就不能避免人们修改代码和把安全性限制的代码去掉。」
如果认同后一种解释的话，似乎也可以解释为什么奥特曼虽然大力赞成通过牌照政策确保 AI 安全，但是在检查模型训练数据方面，则没有那么积极。
作为 AI 研究者和批评者的证人马库斯教授，在认同牌照政策和新建政府机构来监管 AI 的同时，一直极其强调 AI 的透明性，强调独立专家应该能够审计大模型训练的语料。
「我对 GPT-4 最担忧的一点是我们不知道它训练的数据是什么... 它训练依赖的数据对 AI 系统的偏见会有影响。」马库斯教授表示，训练数据可能包含纽约时报，也包含 Reddit，但是「我们不知道它们的比例。」
而奥特曼则虽然原则上认同过应该对「原料」进行审查（但主语并没有说是政府），更多提及支持「外部审计，红队演练，提出一个模型在训练前需要达到的标准」这类的政府监管，更偏向于以标准和测试的方式让政府进行检查。
「我们过去有建立一项测试，可以检测一个模型是否能自我复制和自己逃脱进入外界。我们可以为政府提供一个长名单，列出一个模型在被正式投放之前我们认为非常重要的一系列检测。」奥特曼讲道。
Open AI 是生成式 AI 领域里无可争议的领军企业，如果真的按照这个建议施行，Open AI 显然有机会极大影响政府设计的 AI 安全标准和发放召回牌照的标准，似乎完全符合福布斯这篇文章的标题《Open AI CEO 山姆·奥特曼想要 AI 牌照监管。这或许对我们是好事。但对 Open AI 绝对是好事》。
除了对开源公司产生威胁，达到一定 AI 能力就需要牌照的政策对于不面向公众的公司也并不友好。
代表 IBM 的证人蒙哥马利就反对这项政策。IBM 本身并不面向普通公众，而是面向商业客户，许多前述提到的风险，比如操纵选举的风险对于 IBM 来讲并不存在。
蒙哥马利更偏向于基于风险管理的手段。欧盟 AI 法案目前采取的就是这样的方式。法案围绕四类人工智能系统构建，分别是：不可接受的风险、高风险、有限风险以及最低风险。其中前三类将受到法案的监管。针对不同风险，采取不同的监管手段。
「比如选举信息的例子。当然任何在这个场景下的算法都应该被要求披露训练所用的数据，模型的表现，任何相关的信息都非常重要。」蒙哥马利表示。
她同时也认为现有的机构如 FTC 已经足以能够完成这一任务，无需新建新的机构。
参议员们本身，也并不都支持创建一个新的政府机构。
参议员乔什·霍利（Josh Hawley）语出惊人，「政府机构通常会被他们本来要监管的人所腐蚀，被他们要监管的机构所控制... 为什么我们不直接让公民告你们？」他提议直接对 1996 年《通信规范法》中的第 230 条款（Section 230）进行明确，使其确认不保护生成式 AI 公司。「我们就打开诉讼的大门。允许人们上法庭。允许他们来提供证据。比如说他们可以说，他们因为得到了错误的医疗不实信息而受害，或者错误的选举信息而受害，就可以起诉。为什么不这么做？」
尽管三位证人都认同第 230 条款不应该应用于生成式 AI 的公司，奥特曼和马库斯教授都立刻指出，目前法律在生成式 AI 方面很不清晰。马库斯教授表示，「我们现有的法律是在人工智能出现很多年前制订的... 法律官司可能会持续十年甚至更久。」
无解的议题——
垄断、就业与国际合作
在听证会上，AI 大模型集中于少数公司之手的议题也被不止一次的提起。奥特曼本人也承认这一点：「开源社区现在有很多奇妙的事情发生，但未来将只有一小部分供应商能够提供最尖端的模型。」
他认为这样自然有其风险，但是好处是监管难度也会变小。虽然与会者也都指出这种集中模式有其风险，整个听证会并没有人能够提出一个好的方法解决这一问题。
人工智能带来的就业问题也是无解。尽管与会人员有提到新科技通常能带来新就业，马库斯教授警告说「历史不一定会重现... 我认为这次将可能不同。真正的问题是在多大的时间范畴来看？我认为长期来看，通用人工智能真的会取代一大部分的人类工作。」奥特曼尽管发表了较为乐观的预测，认为人工智能只是工具，未来的工作将会更好，但也承认终究很难预测未来的发展。
在游戏底特律变人中，仿生人取代了人类的许多底层工作 | 图片来源：底特律变人游戏截图
另一个无解的议题是国际合作。马库斯教授提出，可以建立一个欧洲核子研究中心一样的国际组织，绝对中立且关注 AI 安全。这一观点受到不少认可，但是参与听证会的成员也无法就这个方向继续深入探讨。
人工智能生成的作品的版权，对原创作者和新闻出版业的保护也是一个关注重点。在此次听证会上，只是略有涉及，参议员们表示，六月和七月还要举办多次听证会，专门针对知识产权问题。美国时间 5 月 17 日，美国众议院司法委员会下设的法院、知识产权和互联网小组委员会也举办了生成式 AI 知识产权的听证会。
资本实验室
企业专栏
阅读更多
金色荐读
金色财经 善欧巴
迪新财讯
Chainlink预言机
区块律动BlockBeats
白话区块链
金色早8点
Odaily星球日报
欧科云链
MarsBit
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。