侧边栏壁纸
博主头像
汪洋

即使慢,驰而不息,纵会落后,纵会失败,但一定可以达到他所向的目标。 - 鲁迅

  • 累计撰写 190 篇文章
  • 累计创建 74 个标签
  • 累计收到 108 条评论

AI 教父“叛逃”谷歌 ,只为畅谈 AI 之危

汪洋
2023-05-08 / 0 评论 / 7 点赞 / 214 阅读 / 1,994 字

5 月 1 日,据《纽约时报》和路透社等外媒报道,深度学习之父、图灵奖得主 Geoffrey Hinton 已于上周从谷歌离职,并就其长期推广的 AI 技术风险发出警告,甚至直言:“现在有些后悔自己一生的工作。”

随后,Hinton 在推特上阐述了离职的真相:希望能在不影响谷歌的情况下,真实地谈论 AI 的潜在风险。此外,Hinton 还表示离职也有年龄的原因,他说:“我 75 岁了,是时候退休了。”

当 AI 教父摇身一变成为“AI 末日预言家”,不禁引发大家热议……

9fb1e6009192d171b16b6421f351b53e.png

一、曾为 AI 领域效力多年

作为 AI 领域的一名老将,Hinton 在神经网络和深度学习方面的成绩为当前的人工智能系统奠定了基础。

2006 年,Hinton 在发表了一篇题为《 A fast learning algorithm for deep belief nets 》的文章,其中的核心理念是利用 GPU 来加速训练,大幅提高了神经网络的学习速度。

2013 年, Hinton 与 Google 结缘,只因谷歌以 4400 万美元的价格收购了 Hinton 创建的 DNNResearch。而这场交易的重心并不是什么新业务,而是 Hinton 和他的两位学生。

在当时,Hinton 就是少数相信有朝一日“深度学习”会成功的人之一。并且,Hinton的团队就可以通过分析数百万张照片打造出一款可区分动物、物体图片的神经网络系统,被视为当代 AI 的基础。

2015 年 11 月 9 日,Google 发布人工智能系统 TensorFlow 并宣布开源, Hinton 为此做了很多贡献。

2018 年, 由于对神经网路研究的贡献, Hinton 与法国计算机科学家 Yann LeCun、加拿大计算机科学家 Yoshua Bengio 共同获得图灵奖。

二、离开谷歌,只为畅谈 AI 的风险

正因已经“功成名就”, Hinton 的突然“叛逃”才不禁引发外界猜测。

在接受《纽约时报》和美国有线电视新闻网(CNN)采访时, Hinton 坦言,之所以离开谷歌,是为了能自由地说出 AI 所带来的危险。

7c3797e2fbc6013f6597e79c524cb0dc.png

与此同时,据悉, Hinton 对 AI 的担忧主要体现在几个方面。

第一,是道德层面的问题。在 AI 技术的支持下,互联网将很快被各种虚假信息淹没,以至于许多人“无法再知道什么是真实的”。Hinton 表示,需要建立一个可信、公开和透明的机制的重要性,才能确保 AI 被正确监管和控制,以发挥其潜力和减轻其负面影响。

第二,是 AI 将造成人员失业的问题。在接受《泰晤士报》采访时, Hinton 表示,AI 会替代很多现有的工作岗位,创造一个让人们不知道什么是真实的世界。并且,AI 的进步速度远远超过了包括他在内的很多专家的预期。Hinton 直言:“以前人们觉得 AI 变得比人类聪明的事情可能要 30 至 50 年才能实现,不过现在我不这么认为了。”

三、AI 究竟是福是祸?

如今,距离 ChatGPT 发布已经过去近半年,它引发的 AI 话题热度一直居高不下。

很多人认为关于 AI 技术的潜在危害,Hinton 应早点发声。而事实上,早前 Hinton 就对 AI 表示过担忧,他的同事也在鼓动对这项技术采取更谨慎的态度。

b584dd8a7c604c86a29b464f58f1f850.png

据彭博社报道,2015 年,Hinton 就曾在一篇名为《Will artificial intelligence bring us utopia or destruction?》的文章中,就描述了自己在一次会议上与另一位人工智能研究人员谈论过“政客如何使用 AI 来恐吓人们”的话题。

除此之外,虽然 Hinton 表示谷歌在部署 AI 方面表现得“非常负责任”,但一些举措却很不恰当,例如:谷歌担心滥用而关闭了面部识别业务;将其强大的语言模型 LaMDA 保密了两年;限制了 Bard 的能力……一直以来,谷歌压制内部对 AI 技术的担忧并没有激发人们的信心。

有报道曾称,科技巨头们现在都关注如何使 AI 变得“更厉害”,而并非适应社会和环境。Hinton 不惜从谷歌离职来警告世人,引发更多人开始认真思考和关注这个问题。

近日,彭博社表示,Hinton 的离职或许有望鼓励其他科技公司的研究人员说出他们的真实的担忧。本周一,人工智能安全公司 Anthropic 的技术人员 Catherine Olsson 在推特上回应了 Hinton 的言论:“我已经能感觉到这一举动会影响到我。”
与此同时,很多网友在 HackerNews 上表示:“虽然 Hinton 不会亲自将他的创作用于邪恶的事情,但我认为我们已经活在掌握 ML 和 AI 的人手中了”;“不知道会不会有更多的研究人员‘觉醒’”……

值得一提的是,今年 3 月底,包括马斯克在内的许多科技产业人士联署了一封公开信,呼吁所有 AI 实验室立即暂停训练人工智能系统至少 6 个月。 Hinton 却表示:“我认为我们没办法阻止 AI 的发展,因此我没有签署这封信。”

在近日的采访中, Hinton 也告诉 BBC:“在短期内,他认为 AI 带来的好处比风险多得多,所以我认为我们不应该停止开发这些东西。”

那么,你怎么看待 Hinton 的“叛逃”?可以在评论区留言和讨论。

0

评论区