如何看待Dario Amodei最新文章Machines ofLoving Grace?

发布时间:
2024-10-14 01:55
阅读量:
15

看起来,Dario发现,Sam的造神路线一直有人买账(尽管很多人骂,仍然很多人买账),所以他也尝试学习,试图发展信徒。这是他创作的第一篇“福音”。

我认为,造神这个事情,是刻在西方文明骨子里面的。硅谷爱讨论AGI,一方面是创业者中思想活跃和远视的人更多(归根结底前提是资方更买账),另一方面是AGI这个事特别宗教。

造神,需要同时造两种事物:AGI是“神”,自己是“先知”。

像这个标题直接写了Grace,懂宗教的朋友都知道这是什么暗示。但是,现在的AI既非Machine,也不Loving,也没Grace。

因此,搜一下会发现,来自1967年在美国著名的诗歌:

这首诗的有趣之处是“Reviewers disagree whether it should be taken earnestly or ironically”,可能作者Richard Brautigan也纠结(当时是hippie年代,流行摆烂),这种纠结就是他想表达的。大家对于AGI同样纠结。

作为“先知”,需要阐明三个要义:

  1. 对于未来的预测。
  2. 对于信徒的承诺。
  3. 对于非信徒的恐吓。

大家对于AGI,就是一方面说这个非常好,另一方面说这个非常可怕。其实不全是故意这样说,而是AGI本来就有这些性质,本来就很宗教。其实AGI还具有“外神”的性质,还挺克。


对于文中内容,我的看法是,种种证据反复证明,现有的“数据密集路径”做出的AGI会是一个很怪的东西,它的强项和弱项与人类相异。

至于需要多少年,从实事求是的角度,有两个瓶颈,和自动驾驶类似:1.渗透率。2.实体。


最后我们再八卦Dario的造神计划。

万物的终点是带货,带货的终点是造神,发展脑残粉信徒。

但是Dario的形象太典,辨识度为零。如果不搜图,没人知道他长什么样。他需要先减30斤。

近期有一个小教主Bryan Johnson证明了,人先得廋。

现在Zuck也在研究造神,从前是“机器蜥蜴人”,现在有swag了,应该是因为,Llama系列走开源路线(资方也买账),所以需要亲民风。

其实cohere老板挺注重形象,造型讲究,但是,模型特点不够,还没法参与造神赛道。

END