科学探秘:高智力“通用人工智能”是否会像外星人入侵一样威胁我们?


科学探秘:高智力“通用人工智能”是否会像外星人入侵一样威胁我们?


文章图片


科学探秘:高智力“通用人工智能”是否会像外星人入侵一样威胁我们?


文章图片


科学探秘:高智力“通用人工智能”是否会像外星人入侵一样威胁我们?


文章图片


科学探秘:高智力“通用人工智能”是否会像外星人入侵一样威胁我们?


通用人工智能(也称为 AGI)为一种能够理解或学习人类 , 并可以执行的任何智力任务的人工智能 。这种智能将不同于人类曾经遇到过的任何东西 , 并且可能会带来类似“外星人入侵”那样重大危险 。

尽管有些科学家认为 AGI 不会在短期内实现 , 而另一些科学家则认为这种科技可能永远也无法实现 , 然而 , 研究人员在过去十年中多次对大量人工智能专家进行调查显示 , 近一半的人一致预测 AGI 将在 2060 年之前发生 。 而且随着时间的推移 , 人工智能领域的进步速度超过了行业的预期 。
就在本月 , DeepMind 发布了一款名为AlphaCode的 AI 引擎 , 该引擎能够以超过人类程序员的54%技能水平编写原创软件 。 虽然这还不是 AGI , 但它让业界感到意外 , 因为很少有人预料到这样一个里程碑会如此迅速地到来 。
因此 , 人工智能技术的发展速度远比预期的要快 , 数十亿美元已经被直接投资于 AGI 研究 。 在这种情况下 , 人类在不远的将来在地球上创造一种“外星智能”似乎并非不可能 。

通用人工智能拥有自己的思想第一个 AGI 被誉为一项非凡的创造 , 但也许它也将是一种危险的新生命 。 就像我们遇到的每一种智能生物一样 , 从最简单的昆虫到最强大的鲸鱼 , 它会做出将自身利益放在首位的决定和行动 。 但与昆虫和鲸鱼不同的是 , 这种新物种将竞争我们人类在知识食物链顶端所占据的位置 。

这意味着 , 我们会创造一个对手 。 然而 , 我们人类很可能会以压倒性的自豪感看待我们创造的超级智能 , 因为这是人类历史上最伟大的里程碑之一 。
但很快我们就会明白 , 这些新来者拥有自己的想法 。 他们肯定会利用自己卓越的智慧来追求自己的目标和愿望 。 他们也许不太可能是邪恶的 , 但他们的行为肯定会受到他们自己的价值观、道德和情感的引导 , 这与人类完全不同 。
许多人错误地认为 , 我们将通过按照自己的形象构建人工智能系统 , 设计能够像我们一样进行思考、感受和行为的技术 。 但这种情况不太可能发生 。
相反 , 我们将建造这些人工智能生物来认识人类 , 而不是成为人类 。 他们将从里到外了解我们 , 能够说我们的语言并解读我们的手势 , 阅读我们的面部表情并预测我们的行为 。 他们知道什么会让我们生气、快乐、沮丧和好奇 。 他们将了解我们人类如何做出决定 , 无论是好是坏 , 合乎逻辑还是不合逻辑 。 毕竟 , 我们将花费数十年时间去教他们关于人类如何行动和反应的事情 。

但是 , 他们的思想与我们的思想完全不同 。 虽然我们有两只眼睛和两只耳朵 , 但它们将具有神一般的感知能力 , 它们对我们来说几乎无所不知 。 我们仍然会通过给它一个看起来非常人性化的身体与这个“外星人”互动 , 它有两只眼睛、两只耳朵和一张微笑的脸 。 我们会给它这个模仿人类外观 , 以让自己更舒服 。
也就是 , 当这个“外星人”最终入侵时 , 人类会努力将它的真实本性隐藏在一个看起来很友好的外壳中 。 我们甚至会教它模仿我们的感受 , 表达诸如“小狗很可爱”、“生命很宝贵”之类的情感 , 不是因为它一定会分享这些类似人类的感受 , 而是因为它会熟练地让自己看起来对我们来说它也是人类.
因此 , 我们不会害怕这些“外星人” 。 我们甚至可能会感到一种亲缘感 , 将这些“外星人”视为我们自己创造力的一个分支 。 但如果我们抛开这些感觉 , 我们就会开始意识到 , 在这里出生的外星智能可能比来自遥远星系的外星人要危险得多 。
毕竟 , 我们在地球建造的“外星人”从他们被制造的那一刻起就会了解我们的一切 , 接受过关于我们的需求和动机的培训 , 并且能够感知我们的情绪、预测我们的反应并影响我们的决定 。

推荐阅读