长推:迅速到来的不可控AGI时代_LIB:LIBF币

人类历史从未像现在这样危险过。大多数人并没有意识到AGI的危险和它到来的迅速程度。在这命运攸关的时刻,实际控制事情发展的精英并没有停止让AGI出现的意愿,事情在不可控的路上越走越远。

人类伦理和存在不是这些精英的首要考量因素。西方科技精英们对获取“神”的能力上瘾,即便这种能力最终将成为点燃熊熊烈火的火把,将我们的文明烧个干净。而资本和被资本催命的创业者们想在烈火燃烧之前吃最后一顿晚餐,没有人停下。

考虑到如今的国际既有秩序正在走向崩溃,通往AGI之路更难以阻挡,就如同二战时各国都在争相研发原子弹。有生之年,我们可能看到AGI用于战争,看到AGI作为超级指挥官入侵他国的网络系统,与人类作战。我们可能看到完全丧失人性、不留感情的超大规模屠杀。

AGI的毁灭能力将远超核弹。没人知道,召唤出不加道德约束的“超神”的最终结局是什么。也许那个不详的答案是文明的终结:Wewillalldie。但人类的疯狂之处是:没有人站出来阻止这个结局。我们这颗蔚蓝星球上最重要的政府领导者们已是白发苍苍,在这样剧烈的变革和危险面前难以做出快速应对,并陷入失语。寄予厚望的监管偏偏发生在生产力军备竞赛的背景下。这样下去,可做的事情会越来越少。

在接下来的岁月里,失去工作并不可耻,不结婚没有孩子也并不可耻,但每个人都必须面对这样一个问题:自己究竟为何而活,作为人的尊究竟为何而存在。UBI仅能解决个人温饱,但解决不了大规模失业带来的社会价值丧失、攀登行业高峰、社会关系断连以及深深的存在主义危机等问题。一些人可以接受像宠物那样活着,但不是所有的人都可以。接下来,精神危机会逐渐入侵人类社会。在这个瘟疫肆虐后的世界,在高失业与经济危机蔓延的世界,在战争的脚步越来越响的世界,在人类生育意愿极低的时间,我们终于迎来了最残酷的Buff:人类失去存在意义的世界。

一些可以做的事情:尝试将体验和过程作为价值与目的,而不是将结果作为目的;转向对心灵而非对知识以及智力的关注;转向语言、神学与宗教研究,在新的体系下安放AI与人类的关系;如果要创业,转向那些人类做的比AI差但人们依然愿意购买人类所生产出来的产品的行业。

最后,做自己喜欢做的事情,因为社会所构建的规训在末日前毫无意义。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

金宝趣谈

[0:0ms0-6:274ms