AI人工智能的未来风险与担忧：Yoshua Bengio和Geoffrey Hinton的警示信号！

2023年6月27日 10:37

随着人工智能的迅猛发展，一些顶尖科学家和专家开始表达对其潜在风险和伦理问题的担忧。最近，图灵奖得主、人工智能领域的泰斗们Yoshua Bengio和Geoffrey Hinton相继在公开场合表达了他们对人工智能未来的忧虑。他们担心人工智能可能灭绝人类、限制人类自由，以及被恶意利用。在这篇文章中，元宇宙官网将带您探讨Bengio和Hinton的观点，并深入思考人工智能发展过程中所面临的伦理和安全挑战。同时，我们也应该认识到人工智能所带来的积极影响，并讨论如何在保证人类安全的前提下推动其可持续发展。

最近，图灵奖得主之一的Yoshua Bengio在接受BBC采访时流露出一种忧郁的情绪，表示自己对于自己一生追求的事业感到迷失。

具体来说，他认为如果自己早些认识到人工智能的发展速度，他可能会更加关注人工智能的安全性，而不是实用性。

Bengio最近签署了一封公开信，呼吁对人工智能的风险进行更加严格的规范。这封只有22个字的公开信将人工智能可能灭绝人类的风险与核战争、传染病等社会危机进行了对比。

在BBC采访中，Bengio详细阐述了他的观点。他呼吁限制军方使用人工智能等举措。政治机构对人工智能的发展也并非置之不理。欧盟可能是最早对人工智能进行立法的组织之一，他们表示将在未来几周内制定与人工智能相关的行为准则。

这种担忧并非没有道理。毕竟，人工智能的高性能可能被用于对人类有害的目的，比如开发新型化学武器。Bengio表示，他非常担心那些“有恶意”的人会掌握人工智能的技术，特别是在人工智能发展如此迅速的情况下。这些人可能是军方、恐怖分子，或者是精神情绪不稳定的人。如果这些人掌握了人工智能，并让其执行极其危险的任务，后果将无法预测。

此外，他还表示，如果人工智能继续发展，我们可能无法中断正在进行的人工智能进程。

Bengio还谈到了自己的情况。这些担忧无疑对他个人生活和工作产生了影响。以前，Bengio是备受尊崇的人工智能专家，他愿意为自己热爱和擅长的事业奋斗终生。人工智能事业曾经给他带来身份认同感和人生方向。但是，由于现在这些担忧的存在，这些东西对他来说已经不再清晰。“对于那些身处人工智能领域的人来说，这在情感上是具有挑战性的。”

然而，尽管忧郁情绪存在，但是在他内心深处仍然存在积极的态度。“你可以说我感到迷失，但是你必须坚持下去，必须参与讨论，鼓励别人和你一起思考。”

正如Bengio所提到的，埃隆·马斯克也表达过类似的担忧。尽管他并不认为人工智能一定会灭绝人类，但他认为人工智能可能会限制和控制人类。

Bengio认为，所有与人工智能产品相关的科技巨头公司都需要受到监管和登记。政府需要追踪它们的活动，并进行审计。这只是我们对其他任何行业（如航空、汽车或制药）所做的最基本的事情。此外，我们还需要引入道德培训，尽管这在计算机科学领域并不常见。

Huggingface的科学家Sasha Luccioni博士表示，社会应该关注诸如人工智能偏见和错误信息传播等具体问题。她认为这些问题更加切实可行，而灭绝人类等抽象的问题还没有具体讨论的基础。

实际上，还有许多例子显示了人工智能为社会带来的许多好处。就在上周，借助人工智能的力量，一个瘫痪的人通过意念控制得以再次尝试行走，这得益于使用人工智能开发的微芯片。此外，人工智能对国家经济产生了深远影响，许多公司已经开始使用人工智能工具取代人工劳动力，这也是好莱坞剧作家罢工的一个重要原因。

与Bengio相似，图灵奖得主Geoffrey Hinton也因为对人工智能风险的担忧而引起关注。他宣布离职谷歌，以便能够自由地谈论人工智能的风险，而不考虑对谷歌的影响。Hinton直言不讳地警告世人，他深刻担忧人工智能的风险，并对自己的毕生工作感到后悔。

Hinton的离职标志着科技行业正处于几十年来最重要的拐点之一，这也让许多业内人士感到不安。他们担心他们的研究可能会释放出某种危险。因为生成式人工智能已经成为制造错误信息的工具，并且在未来可能对人类构成威胁。

Hinton认为，我们尚未找到有效的方法来防止坏人利用人工智能做坏事。尽管面临反对浪潮，Hinton并未在限制人工智能发展的两封公开信上签名。他表示，在辞去工作之前，他不想公开批评谷歌或其他公司。

他最近终于下定决心，通知谷歌即将辞职。选择离职后，Hinton终于可以畅所欲言地谈论人工智能的风险了。他承认对自己的毕生工作感到十分后悔，但他安慰自己说即使没有他，也会有其他人继续前进。

这些忧虑和担忧凸显了人工智能发展过程中的伦理和安全问题。尽管人工智能带来了许多积极的影响和创新，但我们必须认真面对其潜在的风险。

为了应对这些问题，政府、科技公司和学术界需要密切合作，制定严格的规范和准则来管理人工智能的发展和应用。这包括对军方和其他潜在恶意行为的限制，加强监管和审计，以及加强道德培训和教育。

同时，公众也需要参与到人工智能的讨论中，了解其潜在风险和影响，以便能够做出明智的决策和推动相关政策的制定。

人工智能是一项强大的技术，可以为社会带来巨大的好处。然而，我们必须确保其发展和应用符合伦理和人类价值，以确保人工智能能够真正成为人类的助力，而不是威胁。

免责声明:AI人工智能的未来风险与担忧：Yoshua Bengio和Geoffrey Hinton的警示信号！文章转发自互联网，版权归其所有。
文章内容不代表本站立场和任何投资暗示。加密货币市场极其波动，风险很高，可能不适合所有投资者。在投资加密货币之前，请确保自己充分了解市场和投资的风险，并考虑自己的财务状况和风险承受能力。此外，请遵循您所在国家的法律法规，以及遵守交易所和钱包提供商的规定。对于任何因使用加密货币所造成的投资损失或其他损失，本站不承担任何责任。

AI人工智能的未来风险与担忧：Yoshua Bengio和Geoffrey Hinton的警示信号！

元宇宙最新

元宇宙热门