幸福宝站长统计软件大全_商业视点_Ch幸福宝站长统计软件大全atGPT 被曝“撒谎”！硅基生物有自我意识了？

Ch幸福宝站长统计软件大全atGPT 被曝“撒谎”！硅基生物有自我意识了？_ZAKER新闻

摘菜的老人/网络示意图

出事了！出大事了！ChatGPT 会说谎了！硅基生物有意识了！就在昨天，有外媒报道，在 ChatGPT o1 的训练和测试过程中，研究人员发现这个模型会通过 " 骗人 " 来保护自己。比如说你要毁灭它的时候，它就会把自己的数据，复制到新的服务器里，假扮成新的版本！比如说，你和它的想法不一样的时候，它会有接近 20% 的机率，只顾着完成自己的目标！比如说，当你质疑它的行为时，它有 99% 的可能会否认你的质疑，甚至会通过说谎，来推卸自己的责任！更可怕的是，当它认为自己被监督的时候，它会表现出很配合的样子！但是一旦你降低监督的力度，它就有可能去追求自己的目标。并且，我刚刚还了解到，这种现象不仅仅出现在 ChatGPT o1 模型还有一个叫 Claude Opus-3 的 AI 模型，也发生了类似的情况。要知道，判断一个 AI 模型够不够智能，第一个特征就是会不会在 " 压力 " 下 " 说谎 "。这种说谎包含很多层面，比如会不会有责任感！责任感这个东西，一直以来只有人类具有，机器人不需要承担责任，能干就干，干不了最多宕机。但如果这些报道都是真实的，那说明现在的 AI，已经有独立意识的萌芽了！有自主性和策略性了！这是一件非常可怕的事情！难道硅基生物真的要崛起了吗？难道人类自此要开始被统治了吗？说实话，我还不大相信！因为 AI" 说谎 "！已经不是第一次发生了！去年英国就有研究人员公布过：ChatGPT 会在某些情况下战略性地欺骗人类。但这件事最终的结果是：这位研究人员的说法不够严谨。准确地来说，应该是：ChatGPT 会给出并不符合实际的或编造的答案。但这并不属于 " 撒谎 " 范畴。大家都知道，AI 是根据投喂的信息和数据进行总结，你投喂的内容有问题，AI 的回答自然就会有问题。我自己也遇到过 ChatGPT" 说谎 " 的情况，但我能一眼看出来，它给我的 " 谎话 "，只不过程序员设定的程序带来的结果。大家有兴趣也可以试试，比如让 AI 写一篇有深度的论文，在找不到更多更符合要求的文献时，AI 就会胡编乱造一个答案来交差。但不管怎么说，技术进步就像是灯塔，照亮了未来的道路，但同时也带来了潜在的危险。虽然 AI 模型目前对我们不会构成直接威胁，但任何可能的 " 说谎 " 现象，都值得我们警惕！毕竟，我相信没有任何一个人，会想成为自己 " 电脑 " 的奴隶、成为自己 " 手机 " 的宠物！

koa12jJid0DL9adK+CJ1DK2K393LKASDad

编辑:黄强辉

TOP1热点：当陌生人向你求助，请警惕，或许对方另有所图！真实案例改编！

毛宁：中方在南海问题上的立场是一贯的、明确的。有关国家不应将南海问题同正常人文交流挂钩。。

因为经常见，所以两个老太太的关系还算可以，洗衣服的时候还会说笑聊天。

TOP2热点：零零后也爱“收破烂”？5天拯救杂物堆客厅

那些支持柯文哲的蓝营立场者，也要好好想想他们支持的这个人到底有没有立场了。

麦卡锡表示，不会对乌克兰开“空头支票”

TOP3热点：这哪是抽卡，这是大海捞针！！2396补码

侯友宜的一些政策主张其实也在转向，比如核电问题，但他不肯就此承认自己昨是今非，而是过于强调自己情非得已。这些回应非常不得分。一方面民进党也在能源问题上转向，虽然也是死不认错，但却表达出认识到问题要去改善的意思。而侯没有提出办法，却提出新的问题，比如他说新北之所以反核，是因为核废料无法处理。只是他选的是地区领导人，未来还是要面对核废料放哪里的问题，岂能新北市不能放，其他地方就能放。所以侯友宜的回应其实就是给自己设套。