股票配资实盘开户 我们每个人所做的选择,将决定AI会成为“毁灭者”还是“新希望”
发布日期:2024-11-28 00:17 点击次数:170
从石器时代的原始狩猎,到21世纪的信息爆炸,人类在历史的长河中不断进化、发展,而这一切,都被历史学家、哲学家尤瓦尔·赫拉利以独特的视角记录在了他的《人类简史》三部曲中。在《人类简史》中,赫拉利提出人类文明最重要的特点是“讲故事”。在如今这个正在开启的AI时代,当制造、传播信息的主角变成人工智能后,“讲故事”的主动权还在人类手中吗?“故事”的未来写法人类还能左右吗?
信息网络的演变不仅推动了社会的进步,也可能导致新的分裂与不平等。不久前,尤瓦尔·赫拉利的最新作品《智人之上:从石器时代到AI时代的信息网络简史》由中信出版集团引进出版。这部作品中,赫拉利深入探讨了信息网络如何重构了我们的世界,以及在未来社会中,信息与权力、智慧与自由之间的复杂关系。他指出,他也发出警示,在算法日益主导世界的今天,人类文明的走向正面临着前所未有的挑战。
作品节选
2016年年底,AlphaGo刚击败李世石几个月,脸书算法正在缅甸煽动危险的种族冲突情绪,而我在那时候出版了《未来简史》。虽然我受的学术训练是中世纪与早期现代军事史,而且完全没有计算机科学相关的技术背景,但在那本书出版之后,却发现自己突然被称为人工智能专家。这仿佛打开了一扇大门,让我得以造访各地对人工智能有兴趣的科学家、企业家与各国领导人,也有幸一窥这场人工智能革命复杂的动态。
结果发现,面对这个新领域,我过去研究百年战争时的英国战略、研究三十年战争的绘画,竟也不是完全无关。事实上,正是过去的研究经历,让我能以独特的历史观点来看目前在人工智能实验室、企业会议室、军事总部与总统府里迅速发生的演变。
在过去8年间,我对人工智能有许多次公开或私下的讨论,特别是谈到人工智能带来的危险时,而且随着时间的推移,大家的语调也变得越来越急迫。2016年,这些对话还只像是对某个遥远未来的一场哲学上的轻松猜测;2024年,对话的强度已经像是在急诊室里人命关天了。
从历史视角看人工智能变革
我既非政客,也非商人,更没有这些职业需要的天赋,但我确实相信,如果能够了解历史,就更能掌握如今的技术、经济与文化发展,更重要的是,有助于改变各种事物在政治上的优先级。政治在很大程度就是要排出优先级。我们是不是该削减医疗保健预算、增加国防开支?现在最迫切的安全威胁究竟是恐怖主义还是气候变化?我们是该把重点放在收复失去的传统领土,还是与邻国建立共同经济区?决定了优先级,就会影响公民怎么投票、商人关心什么议题以及政治人物想要有怎样的声誉。而我们排出的优先级,往往是由我们对历史的理解而决定的。
我和政治人物及科技企业家谈人工智能的时候,重点常常会变成在谈历史。有些对话者对历史有着美好的想象,进而让他们对人工智能充满热情。在他们看来,只要有更多信息,肯定就会带来更多知识,他们也认为过去的每次信息革命都极大地造福于人类。印刷革命不就带来了科学革命吗?报纸与广播不就带来了现代民主的兴起吗?在他们看来,人工智能也是一样。也有一些对话者虽然对人工智能革命的看法较为悲观,但仍然觉得人类有望蒙混过关,就像过去混过工业革命一般。
但这两种观点都没能让我感到安心。基于我在著作中所提的原因,我认为实在不应该把人工智能革命拿来与印刷革命及工业革命相提并论,特别是如果掌权者这么想,他们的历史观点就会影响他们所做的决策,而他们的决策又会影响我们的未来。这样的相提并论,不但低估了人工智能革命不同于过往革命的本质,也低估了过去革命带来的负面影响。印刷革命虽然直接带来各种科学发现,但也带来了猎巫行动与宗教战争;报纸与广播虽然有利于民主,但也遭到极权政权的滥用。至于工业革命,也带来了帝国主义与纳粹主义这样的灾难性实验。如果人工智能革命也带着人类走向类似的实验,我们真的确定自己能够再次蒙混过关吗?
我写《智人之上》这本书,是希望为人工智能革命提供一个比较准确的历史观点。这场革命目前才刚刚起步,而像这样重大的发展,实在很难即时有所评价。即使是现在,回顾21世纪10年代诸如AlphaGo的胜出,也很难评估这些事件带来怎样的意义。至于21世纪20年代初期的事件,其意义就更加模糊了。但如果我们拓宽视野,看看人类的信息网络在过去几千年如何发展,我相信还是能让我们更了解今日发生的事情。
我们从历史学到的一个教训是,新信息技术的发明总是能促成重大的历史变革,因为信息最重要的作用就是编织新的网络,而不是呈现既有现实。
用泥版记录纳税,协助古代美索不达米亚建立了第一个城邦。将预言景象编成宗教经典,让新的宗教得以传播。报纸与电报将总统与公民的言论迅速传播,打开了通往大规模民主与大规模极权制度的大门。虽然通过这些信息技术来记录与传播的信息只是偶尔为真,常常是假,但总是能在越来越多的民众之间建立起新的联结。
对于历史上的革命,比如美索不达米亚第一批城邦的崛起、基督教的传播、美国独立战争、布尔什维克革命等,我们习惯于从政治、意识形态、经济等角度加以解读。如果想要看得更深,就应该把这些革命视为信息流动方式的革命。
技术的发展很少是别无选择的,同样的技术也能有非常不同的运用方式。由于人工智能是人类第一个能够自行做出决策并产生想法的科技,因此这项发明很有可能比过去电报、印刷机甚至文字的发明都更重要。相较于印刷机与羊皮纸卷只是为人类提供了新的联结方式,人工智能则是整个信息网络里成熟的正式成员,有自己的能动性。
未来几年,从军队到宗教,所有网络都会有数百万新的人工智能成员加入,有着与人类不同的资料处理方式。这些新成员所做的决策、所提出的想法,都可能让人类觉得非常陌生、意想不到。而加入了这么多非人类的行为者之后,必然也会让军队、宗教、市场与国家的形态发生改变。正因为此,人工智能实在是个极其紧迫的议题。就算有些人说自己不关心科技,或者认为最重要的政治问题应该是民主的存亡或是财富的公平分配,也躲不过人工智能的影响。
如何看待信息对于人类社会的意义?
研究历史,除了能够强调人工智能革命与相关决策的重要性,也能警告我们,对于信息网络与信息革命不要采取两种常见但错误的态度。
第一,我们必须小心太过天真乐观的信息观。信息并不等于真理,信息的主要任务在于联结,而非呈现现实,而且史上的信息网络往往比较重视秩序而非真理。我们并没有理由期待人工智能一定能够打破过去的模式,并更为偏向真理。人工智能也有可能犯错。近年来,在缅甸、巴西、以色列等地发生的各种令人担心的事件中,我们能稍微得出的历史教训就是:如果缺乏强有力的自我修正机制,人工智能将有能力宣扬一些扭曲的世界观,助长肆无忌惮的权力滥用,以及煽动让人惊骇的新一轮猎巫行动。
同时,我们也应该避免过犹不及,变得太过犬儒主义而采取一种过于愤世嫉俗的观点。虽然比起真理,许多信息网络确实更重视秩序,但要是有哪个信息网络真的完全蔑视真理,也绝不可能存活下去。就个人而言,我们常常真的想知道真理,而不是只想追求权力。毕竟,谁不想知道生命的真理。大多数人都不会觉得自己是单一的、只在乎权力的生物,那又为什么要觉得别人是这个样子呢?
我们绝不应该认为人类的互动只是零和的权力斗争,在放下这种想法之后,我们不仅能够对过去有更全面、更细致的理解,也能对未来感觉更有希望,态度也更具建设性。
我们为什么可能走上自我毁灭的道路?
请让我们回到《智人之上》这本书一开头的问题:如果我们真有那么聪明,为什么还可能走上自我毁灭的道路?
人类其实既是地球上最聪明的动物,也是地球上最愚蠢的动物。我们聪明到能够制造出核弹与超级智能算法,也愚蠢到一股脑地把这些东西都制造出来,甚至还没搞清楚自己能不能控制它们,说不定还会反受其害。我们到底为什么会这么做?人类的本性里是否有什么逼迫我们走上这条自我毁灭的道路?
我在这本书中提出,问题并不在于人类的本性,而在于人类的信息网络。由于人类的信息网络重秩序而轻真理,因此往往带来大量的力量,却没带来多少智慧。例如,纳粹德国创造出高效率的军事机器,却将之用来服务一套疯狂的神话谎言,结果导致大规模的苦难和数千万人的死亡,而且最终带来了纳粹德国的毁灭。
当然,力量本身不是什么坏事。如果使用得当,力量也能用来行善。例如,现代文明就已经有能力预防饥荒、控制疫情、减轻飓风与地震等自然灾害的影响。一般来说,网络取得各种力量,就能更有效地应对外部威胁,但同时也会增加内部的危险。特别值得注意的是,随着网络越来越强大,原本只是内部虚构故事所造成的想象威胁,有可能会变得比真正的自然灾害更加危险。现代国家就算碰上干旱或雨水过多这种自然灾害,通常也能有所应对,避免公民面临大规模饥荒。但如果现代国家被某个人造的幻象所笼罩,就有可能落入一场纯属人祸的大规模饥荒。
因此,随着网络越来越强大,自我修正机制也会越来越必要。如果只是某个石器时代的部落或青铜时代的城邦,就算无法看出并修正自己犯的错误,潜在的损害也十分有限。大不了就是一座城市灭亡,幸存者到别的地方重起炉灶。然而,如果硅基时代的超级大国完全没有或只有薄弱的自我修正机制,那么它危及的可能是整个人类物种与无数其他生命形式的生存。
历史的轨迹无比开放,可以弯向任何方向、走向任何地点。就算智人毁灭了自己,宇宙还是会运转如常。地球演化花了40亿年,才出现了一个拥有高度智能的猿类文明。如果人类灭亡,需要再演化上亿年,才会出现拥有高度智能的老鼠文明,这种事迟早会发生。宇宙就是这么有耐心。
但还有一种更糟糕的状况。就我们目前所知,在整个宇宙,或许只有地球上的猿类、老鼠和其他有机动物是有意识的实体。我们现在已经创造出一种无意识但又极为强大的非人类智能。要是处理不当,人工智能不仅有可能消灭人类在地球上的主宰地位,更会灭掉这一点意识的星火,让宇宙变成一个彻底黑暗的王国。我们有责任避免这种情况发生。
盘面上,午后汽车整车震荡走高,海马汽车成功封板,江铃汽车、长安汽车、安凯客车等跟随上涨。银行股有所回升,工商银行、农业银行一度有所翻红。另外,光伏设备、铁路公路、汽车服务、风电设备、能源金属等亦表现活跃,处于行业涨幅榜前列。相反,贵金属、船舶制造、煤炭、消费电子、有色金属、半导体、电子元件等相对低迷,板块指数维持绿盘运行状态。整体看板块呈现涨少跌多的格局,板块做多情绪领先指数。个股方面,两市涨跌比接近3:1,个股活跃度还是可以的。资金方面,沪深两市今日成交额5887亿,较上个交易日缩量386亿,再度跌破6000亿。
1、中国证券投资基金业协会数据显示,2024年6月,证券期货经营机构共备案私募资管产品861只,环比增长25.51%,同比减少8.89%;设立规模410.37亿元,环比减少21.41%,同比减少10.96%。截至2024年6月底,证券期货经营机构私募资管产品规模合计12.72万亿元(不含社保基金、企业年金),较上月底减少1,215.65亿元,降低0.95%。
好消息是,只要我们放下自满、不要绝望,就能够打造有制衡机制的信息网络,不让权力失控。要做到这一点,并不需要发明什么其他的奇迹技术,也不需要想出什么过去世代都想不到的天才主意。想要打造更有智慧的网络,需要的只是我们放下天真与民粹的信息观,摒弃想要绝对正确不犯错的幻想,并且认真投入一项困难但平凡无奇的工作:为各种机构制度打造强大的自我修正机制。这或许就是本书想提供的最重要的启示。
这种智慧的源头,甚至比人类历史还久远,是来自最基本的有机生命的基础。最早的生物并不是由什么绝对正确的天才或神祇所创,而是经过复杂的反复试错而产生的。40亿年来,经过越来越复杂的突变与自我修正机制,地球上演化出了树木、恐龙、丛林,并最终演化出人类。我们现在召唤出了一种人类难以理解的非人类、非生物智能,它有可能逃脱人类的控制,除了可能危及人类物种的存亡,更有可能将无数其他生命形式也卷入危险之中。
我们所有人在未来几年所做的决定股票配资实盘开户,将决定召唤这种非人类智能究竟是个致命的错误,还是会让生命的演化翻开一个充满希望的新篇章。