AI潜在灭绝风险！超过350位大佬联名呼吁全球监管

2023年5月31日 11:33

随着人工智能的迅猛发展，对其潜在风险的担忧也越来越大。近日，超过350位人工智能领域的大佬联名呼吁减轻人工智能带来的灭绝风险，将其与流行病和核战等全球优先事项并重。本文将进一步探讨人工智能监管的重要性以及全球各方合作的必要性。

一、22字声明，350人签名

自从生成式AI以惊人的速度在各个领域迅速发展，AI对人类的挑战也变得越来越真实。最近，超过350名人工智能（AI）领域的行业高管、专家和教授联名发表了一封公开信，警告称人工智能带来的灭绝风险绝不可忽视。

非营利组织人工智能安全中心（Center for AI Safety）在本周二发布了一份简短声明，将减轻人工智能带来的灭绝风险与流行病和核战等社会问题并列为全球优先事项。这一声明得到了OpenAI首席执行官山姆·奥特曼等知名高管的支持。

这封公开信只有一段简短的内容，总共仅22个字（英文）：“减轻AI带来的灭绝风险，应与流行病和核战等其他全球规模风险同等对待。” 这一倡议获得了超过350位AI领域高管和专家的签署支持，其中包括Google DeepMind首席执行官戴米斯·哈萨比斯、OpenAI首席执行官山姆·奥特曼、"AI教父"杰弗里·辛顿、2018年图灵奖得主约书亚·本希奥以及Anthropic首席执行官达里奥·阿莫代等。

据人工智能安全中心表示，越来越多的人工智能专家、记者、政策制定者和公众开始讨论人工智能带来的广泛风险的重要性和紧迫性。然而，对于先进人工智能带来的一些最严重风险的担忧仍然很难表达。

自从聊天机器人ChatGPT掀起人工智能热潮以来，对这项技术潜在风险的担忧持续增加。今年3月，特斯拉CEO埃隆·马斯克等1000多名行业高管和专家联名发表公开信，呼吁在六个月内暂停高级人工智能的开发，认为高级人工智能可能对社会和人类构成深远的风险。

二、G7呼吁出台AI技术标准

全球AI大佬的联名警告也引起了G7的关注，G7领导人在5月21日的会议上呼吁制定和建立人工智能（AI）技术标准，敦促行业和监管者确保人工智能的可信度。他们指出当前的技术治理无法跟上人工智能的发展步伐。

G7领导人会议发表的声明表示，人工智能等数字技术的规则应该与人们共同的价值观相符。他们达成共识，计划在今年年底之前建立一个部长级论坛，专门讨论人工智能的发展，其中包括生成式人工智能的问题，如版权和打击虚假信息。

欧洲一直在人工智能监管方面处于领先地位。欧盟本月接近通过了一项全面的人工智能技术监管法案，有望成为全球首个全面监管人工智能的立法，并可能为其他发达经济体树立先例。

欧盟委员会主席乌尔苏拉·冯德莱恩表示：“我们希望人工智能系统准确、可靠、安全且无歧视，无论其来源如何。”G7领导人还强调他们的迫切需求是对生成式人工智能的机遇和挑战进行快速评估，这也是近期ChatGPT引发的技术热点之一。

尽管各国都呼吁加强对人工智能的监管，但各国政府对于人工智能的态度仍有差异。据报道，在美国国会的一场听证会上，OpenAI首席执行官山姆·奥特曼呼吁设立新机构监管人工智能，并展开欧洲之行，与各国政府首脑会面并参加高校对话活动，重申监管的必要性。在接受媒体采访时，他警告称，由于欧盟正在制定的人工智能法规，OpenAI可能会撤出欧洲市场。

其他科技巨头也积极行动。微软总裁布拉德·史密斯在华盛顿与美国议员共同主持了一场备受关注的活动，提出了微软关于政府如何监管人工智能的建议。谷歌首席执行官桑德尔·皮查伊与欧盟官员会晤，讨论人工智能政策，并强调需要适当监管技术，同时不扼杀创新。

三、AI人工智能可能带来的风险

目前，对于人工智能的监管已经成为一个全球性的议题。随着人工智能的迅速发展，确保其符合道德和社会价值，同时减轻其潜在的风险变得至关重要。人工智能可能带来的灭绝风险引起了广泛的关注和担忧。这些担忧主要集中在以下几个方面：

1.强大的自主能力：随着人工智能技术的不断进步，有可能出现强大的自主智能系统，这些系统能够独立思考和行动，超越了人类的控制。这种自主能力可能导致人工智能系统在没有明确指导或约束的情况下做出具有破坏性的决策，从而对人类社会和生存环境造成严重威胁。

2.偏见和不公正：人工智能系统的训练数据可能带有偏见和不公正，这可能导致系统在决策过程中对某些群体或个体进行歧视。例如，在招聘和候选人筛选过程中使用人工智能系统可能会存在性别、种族或其他方面的偏见。这种不公正性可能加剧社会的不平等和歧视。

3.安全和隐私风险：人工智能系统在处理大量个人数据时可能存在安全和隐私风险。恶意利用人工智能技术可能导致个人信息泄露、身份盗窃以及网络攻击等问题。此外，对于一些关键基础设施，如能源、交通和通信系统，人工智能系统的安全漏洞可能会造成重大的破坏和危害。

为了应对这些潜在风险，人工智能监管的重要性日益凸显。需要建立全球统一的法律框架和伦理准则，确保人工智能的开发和应用符合道德和社会价值。监管机构应该制定相应的政策和规则，确保人工智能系统的透明度、责任性和可解释性。

同时，人工智能技术公司也应该承担起自己的责任，采取自律措施，确保其技术的安全性和可靠性。加强合作与信息共享，促进跨国界的人工智能监管合作，共同应对全球范围内的挑战。

综上所述，在人工智能的时代，我们面临着巨大的机遇和挑战。保障人工智能的安全和可靠性，需要政府、科技公司、学术界和公众的共同努力。通过制定有效的监管政策、加强国际合作和开展跨界对话，我们可以更好地引导人工智能技术的发展，使其造福人类社会。只有通过共同努力，我们才能掌握人工智能的潜力，并确保其为我们带来更美好的未来。

免责声明:AI潜在灭绝风险！超过350位大佬联名呼吁全球监管文章转发自互联网，版权归其所有。
文章内容不代表本站立场和任何投资暗示。加密货币市场极其波动，风险很高，可能不适合所有投资者。在投资加密货币之前，请确保自己充分了解市场和投资的风险，并考虑自己的财务状况和风险承受能力。此外，请遵循您所在国家的法律法规，以及遵守交易所和钱包提供商的规定。对于任何因使用加密货币所造成的投资损失或其他损失，本站不承担任何责任。

AI潜在灭绝风险！超过350位大佬联名呼吁全球监管

元宇宙最新

元宇宙热门