图片来源:OpenAI CEO Sam Altman在美国参议院听证会的直播截图
▎奥特曼在听证会上建议美国政府考虑实施3项计划:成立新的机构批准AI模型;建立一套安全准则规范AI模型;要求独立专家学者对AI模型进行审核。
作者|林志佳
编辑|李小年
(资料图片仅供参考)
本文首发于钛媒体APP
美国国会正就监管人工智能(AI)技术寻求共识。
钛媒体App获悉,美东时间5月16日,ChatGPT缔造者、OpenAI公司CEO奥特曼(Sam Altman)首次参加美国参议院司法委员会听证会,全程接近三个小时。面对议员提出有关AI影响选举、就业和过度集中于少数企业的问题,他呼吁美国政府对 AI 技术应进行更严厉的监管,并表示OpenAI以及谷歌等同行都应当承受压力。
奥特曼表示,目前 AI 技术处于早期阶段,仍会出现错误。如果 AI 技术出了问题,后果会相当严重,尤其 AI 不是社交媒体,它需要不同的应对方式。他认为,使用 AI 技术用来干扰美国总统选举是一个“值得关注的重要领域”,并补充说这一领域需要监管,“我对此感到紧张。”
所以他提到,OpenAI希望美国考虑强制许可公司开发强大的 AI 技术,比如支持其聊天机器人ChatGPT AI,并称OpenAI会在新系统发布前对其进行测试和审查,“像我们这样的公司可以与政府合作”。
奥特曼强调,未来6个月内没有训练GPT-5的计划。
实际上,随着超17亿月访问的 AI 聊天机器模型ChatGPT风靡全球,产品体验令人惊叹,但与此同时,这也引发全球对 AI 技术风险的担忧。
今年3月31日,意大利打响调查ChatGPT第一枪,要求暂时禁止使用ChatGPT,并对OpenAI公司展开调查;随后法国、爱尔兰、西班牙跟进,欧洲数据保护委员会则成立专门工作组开展调查,中国、加拿大、德国和澳大利亚等国也在推进调查或规范 AI 发展。
美国各界也开启了ChatGPT监管风暴。今年3月,美国联邦贸易委员会(FTC)接到人工智能和数字政策中心(CAIDP)的投诉,后者声称OpenAI违反FTC法案规定和 AI 治理规则,要求FTC对OpenAI及GPT-4进行调查。更早之前,特斯拉CEO马斯克(Elon Musk)以及上千名专家联名呼吁暂停训练比GPT-4更强大的AI系统。
不仅如此,谷歌、阿里等科技巨头都在竞相将日益通用 AI 技术或是大模型产品推向市场,投入了无穷无尽的数据和数十亿美元来应对挑战。但一些批评者担心大模型技术会加剧社会危害,其中包括偏见和错误信息,还有行业人士警告称,AI 可能会终结人类本身。
5月4日,美国副总统哈里斯会见了微软、谷歌和OpenAI的CEO,讨论 AI 潜在风险。美国总统拜登(Joe Biden)则明确表示,这些 AI 企业必须在推出产品之前确保其安全性,“你们正在做的事不仅有巨大的影响力,还将带来巨大的危害。”
此次,奥特曼参加美国参议院司法委员会举行的听证会,主要是回应美国各界对于 AI 技术担忧。
听证会开场时,一位参议员播放了一段由AI编写和制作的录音,与其本人的声音一模一样,凸显了AI在欺骗方面具有的能力,并称“与面对社交媒体风险时一样,国会现在也有一个选择机会,我们有义务在威胁和风险成为事实之前做到监管服务到位,避免重蹈先前错失监管社交媒体的覆辙。”
美国共和党籍联邦参议员霍利(Josh Hawley)开场指出,生成式AI(Generative AI)发展规模有如互联网发展,为人类历史上最重要的技术创新之一,随即提出警告说,“这可能会招致类似原子弹的严重后果”。他还认为,如果 AI 生成的内容是支持乌克兰投降或是支持俄罗斯总统普京领导“这景象很可怕”。
随后,奥特曼开始发表证词并表示,AI 这项新技术可以解决人类最大的问题。但他也警告称,AI 可以强大到以不可预测的方式改变社会,“政府的监管干预是减轻风险的关键。”
“我们迄今部署的工具的好处远远大于风险,但确保其安全对我们的工作至关重要。我们付出了巨大的努力,以确保我们系统在各个层面都实现了安全。在发布任何新系统之前,开放人工智能都会进行广泛的测试,聘请外部专家进行详细的审查和独立审计,改进模型的行为,并实施强大的安全和监控系统。”奥特曼表示。
他认为,GPT-4未来将使一些工作实现自动化,同时将带来新的工作机会。他还透露,目前公司并没有训练GPT-5,未来六个月也没有这方面的计划。
此前消息称,有美国参议员正提议考虑叫停OpenAI更进一步的 AI 技术研发,以及主张设立一个新的监管机构,或名为OASIS,将 AI 在内的一众新兴技术纳入管辖。
对此奥特曼表示赞同,他称,这种方式有望让美国本土的新兴技术继续领跑。奥特曼在听证会上建议美国政府考虑实施3项计划:成立新的机构批准AI模型;建立一套安全准则规范AI模型;要求独立专家学者对AI模型进行审核。
比起这些,“我最担心的是,我们这个技术行业可能会对世界造成重大的伤害。如果这项技术出了问题,它可能会变得非常糟糕。”阿尔特曼特别指出,他非常担心AI对选举产生的影响。
民主党籍参议员布克(Cory Booker)提到OpenAI与微软相互合作,并称美国科技巨头控制大众生活,影响力与日俱增,令人感到恐怖。他认为美国政府应加强立法监管 AI 技术。
对此,奥特曼回应称,OpenAI要将 AI 系统投入民主化,调整价值观,更重要的是需要让人们广泛使用这类工具,而不是交给少数几家公司。“由于所需的资源,能够训练真正的前沿模型的公司数量将会很少,这是千真万确的。”奥特曼称。
据报道,奥特曼已经在5月15日和美国两党约60名众议员私下会晤。另据The Information引述消息人士称,OpenAI正准备向公众发布一款新的开源语言模型,但不太可能发布是与GPT规模进行竞争的模型。目前,OpenAI估值已接近300亿美元。
(本文首发钛媒体App)
标签: