OpenAI CEO称人工智能会“对世界造成重大伤害”

AI头条 1年前 (2023) aitimes
1,525 0
OpenAI CEO称人工智能会“对世界造成重大伤害”

当地时间5月16日,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在美国参议院就人工智能技术的潜在危险作证,敦促立法者对开发GPT-4等先进人工智能系统的组织实施许可要求和其他法规。

出庭作证的还有IBM的首席隐私和信任官克里斯蒂娜·蒙哥马利(Christina Montgomery)和著名AI专家加里·马库斯(Gary Marcus)。马库斯指出,美国政府可能需要一个拥有技术专长的“内阁级组织”专门监督人工智能。

近年来,以科技高管为主题的国会听证会的基调一般会用“敌对”来形容,Facebook创始人马克·扎克伯格、亚马逊创始人杰夫·贝索斯等科技名人都曾在国会上被对其公司不满的立法者训斥。但阿尔特曼在听证会上受到了议员的表扬。

在听证会上,阿尔特曼向议员们解释了ChatGPT工作原理,承认了此类AI产品的风险,比如损害未来选举的公正性、操纵民众个人的意见、限制访问某些信息,以及侵犯版权。

虽然阿尔特曼强调人工智能的好处,但他在听证会上表示,他担心人工智能行业会“对世界造成重大伤害”。“我认为,如果这项技术出了问题,它可能会大错特错,我们希望对此直言不讳。”他表示,OpenAI希望与政府合作,以防止上述情况发生。

阿尔特曼特别指出,他非常担心AI对选举产生的影响。“鉴于我们明年将面临选举,而这些模型正在变得更好,我认为这是一个值得关注的重要领域……我确实认为在这个话题上进行一些监管是非常明智的。”他说。

阿尔特曼呼吁国会对AI系统采取安全标准。他建议国会成立一个新机构,为“超过一定规模的能力”的人工智能技术颁发许可证,在向公众发布AI系统之前,应该由可以判断该模型是否符合这些规定的专家进行独立审计。

他认为,美国政府可以为开发功能最强大的AI系统的公司实行持牌制度。如果有公司要开发和发布超出能力阀值的AI模型,政府可以将发放牌照和测试的要求结合起来,对他们予以监管。

除此以外,阿尔特曼表示,AI可能导致一些失业,但会创造更多新工作机会,他对AI未来改变就业的前景感到乐观。他还透露,目前公司并没有训练GPT-5,未来六个月也没有这方面的计划。