侧边栏壁纸
博主头像
汪洋

即使慢,驰而不息,纵会落后,纵会失败,但一定可以达到他所向的目标。 - 鲁迅

  • 累计撰写 211 篇文章
  • 累计创建 81 个标签
  • 累计收到 145 条评论

AGI is Not Possible

汪洋
2024-07-23 / 0 评论 / 0 点赞 / 263 阅读 / 3,067 字

来自 Daniel Warfield 的观点

随着人工智能的普及,有关人工智能的谎言和错误信息也越来越多。价值数万亿美元的公司的首席执行官们经常散布虚假的说法,而记者们也懒得把这些说法当作事实。这些谎言遍布各级大众媒体,造成了对人工智能完全扭曲的认知。真是一团糟。

在这篇文章中,我将根据自己在多家人工智能相关公司担任首席开发员、联合创始人和总监的经验发表自己的看法。我们将讨论人工智能领域最受关注的话题之一:AGI,即 "人工通用智能"。

人工智能很快会比你更聪明吗?剧透,可能不会。

什么是人工智能?

人工智能是一项功能强大而又复杂的技术,它常常被当作一个流行词,而不是被充分理解。因此,"人工智能 "一词几乎被赋予了太阳底下的任何技术。我曾看到人工智能被用于区块链、web 3.0 以及其他一系列完全不相关的技术趋势。在将人工智能与一般技术混为一谈的过程中,许多非技术人员自然而然地开始将人工智能视为技术本身。我认为这种趋势在很大程度上决定了为什么这么多人愿意相信人工智能的影响力远大于实际情况。

有人说某项技术使用了人工智能,并不意味着它真的使用了人工智能。另外,即使某项技术确实使用了人工智能,胡乱加入人工智能也不会让它自动变得更好。如果胶带突然成为一种时髦的技术,初创公司就会开始在键盘上粘贴胶带,这样他们就可以说 "用胶带制造",大公司也会开始在现有产品上粘贴小块胶带,这样他们就可以说 "现在用胶带制造"。这并没有降低胶带的实用性,但却使人们难以辨别胶带的实际用途。

人工智能是一种工具。它不是神,不是神灵。实际上,在很多方面,人工智能就像是相当于胶带的软件。

只要你愿意,你几乎可以用胶带做成任何东西,但由于胶带非常松散,如果你想用它做大件东西,它就容易散开。因为它的用途非常广泛,所以在航空、赛车、家装店和管道中都能看到胶带的身影。没错,胶带最初就是用来粘合暖通空调管道的。

就像胶带一样,有些事情人工智能可以完美胜任,有些事情人工智能擅长得出人意料,而有些事情人工智能就是做不到。

人工智能的优势

人工智能之所以如此受欢迎,是因为它让计算机能够完成以前只有人类才能完成的事情。人工智能可以看一张图片,并理解图片中的内容。人工智能可以回答有关文字的问题。人工智能可以生成漂亮的图片和视频,甚至还有一些很酷的工具可以生成相当高质量的音乐。人工智能几乎可以瞬间完成所有这些事情,并生成相当高质量的结果。

这很了不起,也很有用。我的意思是,我用 MidJourney 来为我的文章生成图片。我在工作中使用 ChatGPT 和 Claude 来帮助我分析人类文本。我正在制作音乐,我正在使用 Suno 来帮助我研讨创意。人工智能擅长的事情正在以惊人的速度增长,许多人正在将人工智能纳入他们的 "锦囊妙计",以便更快地完成更高质量的工作。

好吧,如果人工智能可以做所有这些复杂的人类事情,而且它可以做越来越多的事情,那么我们是不是有理由认为它将会越来越好呢?如果它在很多事情上已经比人类做得好,那么它什么时候才能在所有事情上都比人类做得好呢?

人工智能是愚蠢的

在上一节中,我列举了人工智能擅长的各种复杂主题,而现在我却说它笨。什么原因?

要理解人工智能为什么笨,就必须先了解一下人工智能的工作原理。我认为,与其描述人工智能本身,还不如根据大家都能理解的东西来描述人工智能是如何工作的。光

您可能对此并不陌生。当光线照射到一些弯曲的透明表面时,就会产生美丽的图案,这就是所谓的 "腐蚀"。

1721704364260.png

有一家名为 EPFL 的公司已经找到了制造玻璃的方法,可以利用这种现象制造艺术品。

1721704376572.png

这真是个很酷的东西,我不知道我能不能像那块玻璃一样把大脑画得那么好。但这块玻璃聪明吗?不,玻璃是笨的,制造玻璃的人才是聪明的。玻璃画出了美丽的图像,并不意味着玻璃本身就聪明。

人工智能就像多块花哨的玻璃,过滤一些输入,实现一些输出。你改变输入人工智能的内容,输出就会改变。只不过,输出的不是光,而是文字和图像。

1721704395509.png

你使用的所有尖端人工智能都是过滤器,能将你的输入转化为输出。

我曾向一些人描述过这个想法,得到的回答往往是 "人不都是这样吗,他们会对刺激做出反应,对周围的世界做出反应。也许玻璃和人一样聪明"。

不要将玻璃拟人化

人类是经过数十亿年进化而来的极其复杂的生物,已经适应了各种各样的环境。利用我们的大脑、感官和灵巧的身体,我们在竞争激烈、生死攸关的食物链中跃居顶端。我们利用自己在食物链中的优势地位不断赢得赏金,并在几千年的时间里,利用多余的热量进化出了世界上有史以来最复杂的计算系统--人类大脑。

我们与生俱来就拥有一个复杂的大脑,它在我们的一生中不断发展,并根据我们与世界、他人和自己的互动方式而不断变化。在这一发展过程中,我们寻求新的挑战来进一步强化我们的思维,并寻求更多的想法来测试可能的极限。我们中的一些人找到了伴侣,创造了新的人类,他们继承了父母双方的混合信息,以便将人类延续到未来的时代。

要训练人工智能,您需要导入 pytorch,加载一些标有猫或狗的图像示例,然后调整模型内的参数,直到它在大多数情况下都能得到正确答案。

如果你对人工智能有所了解,也对人类有所了解,那么任何声称任何现代人工智能系统与人类一样令人印象深刻的说法都是可笑的。人工智能之所以能与人类相提并论,唯一的原因是它被设计用来做人类能做的事情,并受到人脑工作方式的启发。但这并不意味着人工智能能达到人类所能达到的惊人复杂程度。

1721704445696.png

这时,你可能会回答:"好吧,但人工智能不仅仅能判断图像中是否有猫或狗,它还能创造艺术、写诗,做各种疯狂的事情。这当然需要智能"。

人工智能不会制造任何东西

AI 副本。

ChatGPT 在回答你的问题时,基本上是在说 "根据我所看到的人类说过的所有话,什么才是对我得到的提示的合理回答"。

1721704476455.png

在某种程度上,你可以把真实的人类示例制作成人工智能模型,然后人工智能模型利用这个示例和那个示例的一部分来生成输出结果。

1721704502526.png

当人类向人工智能提问时,他们理所当然会对人工智能的回答印象深刻。愚蠢的是,很多人到这里就停了下来,认为人工智能比他们更聪明。他们认为人工智能 "想到 "了答案,而不是更准确的概念,即人工智能根据人类复杂的例子组合回忆起了答案。

如果再深入一点,在了解人工智能更多的是回忆而不是原因的基础上多问几个问题,你就会发现人工智能出奇的笨。

1721704527344.png

这些系统需要人类精心定制,以创造高质量的输出。制作人工智能模型的过程需要大量的计算机、大量的高质量参考数据和大量的时间。但它们还是会犯一些愚蠢的错误。

嘿,人类也会出错,但人工智能会一直出错。人工智能需要人类找出模型出错的原因,然后人类需要调整模型以获得更好的输出。有时有效,有时无效。

1721704559450.png

大型人工智能公司的首席执行官们非常清楚这一点,但他们希望继续炒作,以保持资金流。许多实际建立这些模型的研究人员并不抱有同样的目的,他们并不喜欢自己的技术被用于支持骗子。

1721704591779.png

结论

人工智能远没有人类复杂。人工智能能做人类能做的事情的唯一原因是,它们是为了模仿人类而设计的。即使有大量的资金和人力,也很难制造出既不愚蠢又完全无用的人工智能模型。

这并不意味着人工智能不强大,就像胶带一样,它有自己的一系列应用。但是,胶带有用并不意味着它就智能。

人工智能将来会 "普遍智能 "吗?也许吧,或者我们会先开发出具有普遍智能的胶带。

0

评论区