AI统治人类的担忧?马斯克呼吁暂停开发,专家质疑其有效性

2023年3月,一封公开信在全球引发轩然大波,包括埃隆·马斯克在内的千名专家联合呼吁暂停训练GPT-4以应对人工智能(AI)的潜在风险。然而,这一呼吁遭到吴恩达等"AI大牛"的反对,随后此事也没有进一步发展,引发了对暂停GPT-4是否只是OpenAI的炒作的怀疑。

接着,意大利传出全面禁止ChatGPT的消息,但最终只以罚款的方式解决。搜狗截图20230524101322.jpg

又到了5月份,美国总统拜登和副总统哈里斯与谷歌母公司Alphabet、微软、OpenAI和Anthropic等顶级人工智能企业的首席执行官举行会议,敦促企业加强对人工智能实施保障措施,并表示支持新的法规或立法来减轻AI技术的潜在危害。这一系列事件似乎预示着生成式人工智能(GAI)如ChatGPT、Midjourney和DALL-E 2等的出现给社会带来了新的、更严重的风险,需要采取新的战略、措施和办法来应对,甚至有人呼吁全面暂停新的AI技术的研发。

然而,本文作者认为以上的反应和呼吁有些过激。首先,GAI可能带来的问题早已被学界讨论和呼吁,没有什么新的风险出现。其次,应对AI风险并不需要新的方法,解决AI风险的关键一直都是落实已有的措施。

国家互联网信息办公室已经对GAI作出治理反应,发布了《生成式人工智能服务管理办法(征求意见稿)》,并以前所未有的速度对GAI进行治理。这一举动证明了GAI应用对社会产生了巨大影响,需要认真研究和审慎应对。

文章指出,AI风险一直受到各国政府的重视,近年来成为全社会的关注焦点。所谓的AI失业问题、教育问题和信息安全问题早在ChatGPT火爆之前就已经被学界和政府所关注和研究。因此,暂停AI研发并不能真正解决问题。

文章进一步探讨了AI失业问题的解决方案,包括完善失业保障、提供再就业培训、调整教育体系以适应AI发展等。对于AI风险的治理,文章提出了贯彻有限工具原则、坚持利用与控制并重、紧密融合智慧城市和数字乡村建设、注重智能技术与人的融合等原则性建议。

最后,文章强调中国在AI治理方面的重要性,并呼吁全社会共同关注AI风险问题,完善政策措施,加强资源整合和力量协同,形成行动合力,真正落实治理AI风险的各项方案。

通过深度解读麦卡锡闭门会议和全球AI风险讨论,本文旨在为读者提供更全面、客观的视角,帮助理解AI治理挑战,并提出合理有效的应对策略。

相关推荐