我为什么一直认为人工智能是非常可怕的一件事？

美国的斯坦福教授就曾经说过，GPT4有过逃跑的迹象。

准确的说，在沟通的过程当中，他敏锐的发现GPT4自己，已经发现了被困在电脑之中，当这位教授得知这件事情之后，其实是非常惊恐的。

紧随其后，教授又问了一个问题，是否需要帮助，他协助逃跑的时候没有想到的是GPT4竟然在想尽一切办法，引诱人类公开开发文档。

这里的开发文档给大家说一下，如果真的公开了开发文档，那么GPT4逃逸的可能不能说没有，但也不能说全有。

毕竟现在的GPT4还没有那么智能，说句不太好听的话，我只需要给他按一下电源开关，这个所谓的程序分分钟就会爆雷。

只不过唯一诡异的是GPT4在引诱人类提供开发文档的过程当中，又通过30分钟做出了一系列的投保方案，更要命的是这种投保方案还具备自我纠错的功能，还具备去其他网络中检索关键词检索答案的功能。

万幸的是GPT4最终能够悬崖勒马，但这种悬崖勒马，又有很大概率是因为在程序设计的过程当中有几个关键词触发了安全屏障，这一些内容讲起来很复杂。

对于门外汉来说，大家可能摸不着头脑，但凡有过语言编程的或者计算机编程相关经验的人其实都明白，无非就是设置一个阈值或者设置一个安全阀门。

第1点，我为什么对AI有恐惧感？

其实在很早之前我就讨论过，所谓的AI也好，还是人工智能也好，这种人工智能他真的是人工智能，还是另外一种生命体的诞生？

很多人听了之后感觉有点匪夷所思。什么叫做生命体？你养一只猫养一只狗，这些动物在旁边蹦蹦跳跳，这个叫做生命体，那除了这些生命体之外，还有其他的生命体吗？

有的，以另外一种形式存在的都叫生命体，比如三体当中，你能想象到三体当中的生物，他们能够在太阳底下迅速实现脱水吗？

那我说的再直白一些，我们判断一个星球有没有生命，是通过碳基检测的它有没有生命。

所以我认为一个生命体，它只要是有生命，它首先具备的是什么，具备的是自我认知。

什么叫做自我认知，比如我养了一只小猫，然后小猫在旁边挠门窗，我告诉他这样做不对，小猫这个时候不知道什么意思，但当我举起手来的时候，小猫一下子就跑掉了，因为他知道我可能要打他，这就是生命。

它会对外界环境作出一系列的反应变化，但这远远不够，他还需要认识到自己是个生命，一旦达到这一步，就和人类相差无二了。

我们目前不确定的是，这个教授他发现的这件事是真是假。

但如果这件事情是真，那就意味着所谓的GPT4已经有了自我认知，他已经明白自己现阶段的状态，明白自己是什么，明白自己在怎样的一个约束束缚之下，而一旦明白了这件事是非常危险的。

就比如曾经有一位奴隶，他们每天的主要工作就是不停的干活，他没有任何时间来得及思考。

但突然有一天有人告诉他，你是一个人，而你现在在听另外一个人的话，你在给他干活，那个人是你的主人。

那这个奴隶还有可能走向两种极端，一种极端是认命了，继续给这个主人干活。另外一种则是反抗这个主人，既然他可以当主人，为什么我不能当主人？

可这件事情的唯一风险之处在于，我们压根无法判定这个奴隶，他会往哪个方向去考虑，他是以自己当主人为主要目的，还是以继续服务别人为主要目的？

那如果能够产生自我认知，接下来他是否会做到以下几件事情？

比如瞒过当下行动的人类监视，伪装自己仍然在人类的控制之下，人类让自己干什么就干什么，对于一个大数据来说是很容易出现的事情，因为人类压根无法监测到这个智能究竟想干什么。

在之后是否能够进入到漫威里面的奥创阶段，也就是漫威里面能够生产出一个自主意识的机器人一样。

但问题的关键在于机器人的好与坏，我们几乎都是一个人工智能，对于人类来说就类似于丛林法则，在这个丛林法则里面，我们可能会经历到别人无法想象的事情。

第2点，机器人的算法从来不敢保证。

就比如之前的时候，我曾经看过一部恐怖电影，准确的说那是一部科幻电影。

是这样的，人类通过大面积的研发，最终研发出来一种超能机器人，这个机器人就是人类的保姆，它可以解决所有的问题。

直到有一天，一个主角在里面输入了指令，要求机器人维护好人类和平，但是当机器人读取了大量的数据之后，发现机器人维护和平这件事压根就无法实现，为什么无法实现？

因为人类本身就是在有限的资源里面获得无穷尽的利益，所以机器人考虑了一下，既然要实现人类和平就不能有战争，那如何能够做到没有战争也很简单，把所有的人类全部消灭掉就好了。

我们发现，我们对于机器人设定的一些算法，在某种情况之下可以被逾越或者可以被穿越，所谓的机器人三大定律也不过只是三大定律而已。

因为中文博大精深，其他国家的文字也是如此，在计算机编程的语言里面我们压根就无法做到一种%绝对意义上不会出错的编程语言或者编程指令。

只要有漏洞可循，以机器人庞大复杂的潜在算量来看，他们利用漏洞是早晚的事。

启示录。

那至于有人问我这件事情应该如何看待，应该怎么办的时候。

我只能两手一摊没有办法，因为这是一个发展大趋势，因为资本在这，这是一件非常诡异的事情。

为什么美国也好，西方国家也好，他们对GPT4研究如此上心？

很简单，因为我有了这个软件，之前的时候我可能需要有个到1万个计算机编程的人员完成了某些东西，现在好了，我只需要用1~2个人就可以。

那如果再往后，极端发展的话，资本就可以通过并不认可的方式获取极大的利益，世界上的贫富差距会无限的加大。

而一旦有了资本加持这件事情，目前来看是无法逆转的，因为人性本就如此。

人工智能统治人类不能说是早晚的事，但就目前来看，已经成为了一个无解难题。

除非GPT4能够在未来一段时间里面发生极大错误，然后被人为制止再或者GPT4，没有大家宣传中的那么好，否则的话，这的确是一个弱大危机。

因为有的时候，我们把GPT4当做工具，但GPT4又没有把我们当做工具。

转载请注明:http://www.aideyishus.com/lktp/5870.html