约搏三公开船:人工智能不是无所不能的

admin 4个月前 (05-21) 社会 50 0

在数学上,人心比盘算机加倍优越。

——哥德尔

2017年10月,谷歌下属公司DeepMind在《自然》杂志上揭晓论文,其研发的AlphaGo Zero在完全不用人类棋谱,从随机走子最先自我对弈学习,只用3天,AlphaGo Zero就以100:0击败了2016年3月战胜李世石的AlphaGo Lee。40天以90%的胜率大胜之前战胜了天下排名第一的中国棋手柯洁的AlphaGo Master,成为现在最强的围棋程序。在那些对弈棋局中AlphaGo推翻了许多由古至今的围棋定式,而且最后证实它的选择都是建立的。从而证实,在围棋这样的完全信息博弈游戏领域不用借助任何人类知识,人工智能也可以自我训练,并横扫 顶尖职业棋手。

在扑克这类不完全信息博弈游戏呢?随机性、信息不完全可见性、博弈规模大等条件下,是不是能够阻挡人工智能的脚步?谜底也确是否认的。由卡耐基梅隆大学(CMU)开发的名为Libratus的人工智能系统,在一对一、无限制投注的规则下,击败了天下上最强的人类德州扑克玩家。借助于博弈论与强化学习等模子,连系壮大盘算能力,在非完全信息博弈游戏领域中人工智能也完胜了人类。

2018年,在全球卵白质结构展望竞赛(Critical Assessment of protein Structure Prediction,CASP)上,组织者宣布,谷歌DeepMind团队的最新人工智能程序AlphaFold,仅仅通过卵白质的基因序列,就能展望卵白质的3D结构,乐成在43个参赛卵白中拿到25个单项最佳模子。[1]这极大推动该领域的生长,模子找到了基因序列数据中人们没有熟悉到的纪律和信息。

在一些领域都传出人工智能战胜人类的新闻,人们不禁忧郁人工智能即将在各行各业取代人类,种种媒体的报道也助推了这样的焦虑,好像没有什么是其不能解决的。这实在涉及人工智能和人类的能力界限问题。我们界说这个能力是特定领域中解决问题的能力。这自然也离不了对于天下的基本假设。看起来都是异常哲学与科学的主题,但又是探讨领域中人工智能应用不能回避的主题。不用忧郁,请耐心阅读,希望本章的叙述能让您对人工智能在领域中的应用的界限和偏向等有自己的看法。

弱人工智能与强人工智能

1956年,在达特茅斯大学举行的夏日集会上“人工智能(Artificial Intelligence,AI)”一词正式被提出。在已往半个世纪,几经冷暖。2012年,图灵奖获得者Geoffrey Hinton向导的课题组参加了ImageNet图像识别竞赛,通过卷积神经网络(CNN)在竞赛中一举夺得冠军,性能远超第二名。2016年,谷歌AlphaGo战胜围棋天下冠军李世石,彻底引燃人工智能热潮。这里就不回首人工智能生长史了,有兴趣的读者请参阅《人工智能:一种现代的方式》[2]等相关书籍中的先容。

什么是人工智能(AI),在《人工智能:一种现代的方式》书中对人工智能的4种用途举行了界说:

? 像人一样思索

? 像人一样行动

? 合理地思索

? 合理地行动

这界说是指强人工智能(Artificial General Intelligence, AGI),也叫通用人工智能,是能够自力举行思索、设计、解决问题、抽象头脑、学习、认知和推理等行为的机械。强人工智能目的是研究具有感受和自我意识的智能机械;是能自力思索问题,并在能力范围内制订解决方案;有自己的价值观选择系统举行决议;能够在无监视的情况下处置履历外问题;并同时能够与人类交互式学习的智能机械。科幻片中智能助理险些都是强人工智能,好比,《她》(2013)中的萨曼莎,《人工智能》(2001)中的小男孩大卫,以及《机械姬》(2015)内里的艾娃等。

影戏《机械姬》中的艾娃

与之对应的是弱人工智能(Artificial Narrow Intelligence, ANI),也叫专用人工智能:不是强人工智能的智能机械,不拥有自力思索能力,也不会有自主意识举行决议。弱人工智能专注于某个特定的义务,例如语音识别、图像识别、围棋和自动驾驶等。它们只是被用于解决特定的、详细的义务,属于工具的范围。

人工智能手艺近些年的希望和乐成,是缘于“弱人工智能”而不是“强人工智能”,IBM的Watson和谷歌的AlphaGo等,都属于弱人工智能。现在,人工智能取得重大突破的,是弱人工智能领域,强人工智能险些没有希望。况且,是否应该研究强人工智能,科学界和工业界都存在很大争议。海内着名人工智能专家周志华教授就提出:“即便强人工智能是可能的,也不应该去研究它。”[3]

不具备知识的人工智能

? 莫拉维克悖论(Moravec's Paradox)

莫拉维克悖论是由汉斯·莫拉维克、马文·明斯基等人于1980年代提出的:模拟人类的高阶智慧能力只需要异常少的盘算能力,如,推理等,以是要让人工智能下棋是相对容易的。然则要让人工智能模拟一岁小孩般的感知和行动能力,模拟人类直觉等,却是相当难题甚至是不能能的。2019年,机械学习领域国际顶级集会,国际机械学习大会(International Conference on Machine Learning ICML),Alison Gopnik教授主题分享“为什么四岁儿童能做而人工智能不能做?”[4]也探讨了同样问题。

人工智能之父马文·明斯基在其著作《情绪机械》[5]中讨论了人类大脑的头脑运行方式,并实验设计一个能明白、会思索的人工智能。其在回覆为什么会有莫拉维克悖论时说道,“所有的现代程序都不具备知识性知识(Commonsense Knowledge)”。这亦是人工智能产物经常给人感受不够智能的根本缘故原由之一。知识性知识和推理包罗:

1)正面履历(Positive Expertise):在什么情况下应使用特定类型知识。

2)负面履历(Negative Expertise):在什么情况下不应接纳哪种行动,由于可能会使事情变得更糟。

3)调试手艺(Debugging Skills):当通例方式不再适用时,另有其他可供选择的方式。

4)顺应手艺(Adaptive Skills):将原有知识应用到新情景中。

人类的能力之一是从少数例子中学习,举行模式识别。纵然之前从未遇到过的环境,我们也可以举行判断和展望。这种对未知环境、未知事件的处置能力,是当前人工智能无法具备的。明斯基在书中提出了通过框架示意知识试图模拟这个能力。Alison Gopnik的分享中也引用类似看法。这属于机械学习中的符号主义(Symbolists),差别于当前大热的联络主义(Connectionists)的深度学习。将两个领域有用连系是未来机械学习的主要偏向之一。

人工智能之父马文·明斯基

为什么深度学习能“鼎力出事业”

深度学习(Deep Learning),观点源于神经网络的研究,指通过构建深度神经网络结构,将原始数据转变成为更高条理的、加倍抽象的特征示意,从而使庞大的函数映射也能够被学习。近些年,人工智能大热的原由就是由于深度学习在一些领域取得突破性功效,在图像、语音、自然语言处置等领域取得异常好的效果。现在机械学习、深度学习的应用在各行各业都越来越热。深度学习虽然在一些应用场景取得了伟大突破,但业界也存在大量指斥的声音,通常包罗以下质疑:

? 深度学习模子的优化是履历性的、不稳定的。

? 效果依赖于大量标注的训练数据。

? 不透明、可注释性差。

? 难以连系领域的先验知识。

? 低效率等问题。

2018年1月,纽约大学熟悉心理学家Gary Marcus揭晓一篇文章[6]列举了十大理由质疑深度学习的局限性。图灵奖得主、贝叶斯网络发明者Judea Pearl也指斥当前深度学习研究,以为从数学层面看,岂论从数据中获得若干信息,都只是曲线拟合而已,但许多问题仅靠曲线拟合是无法解决的,未来的生长偏向应是基于因果推理的模子。[7]

之后,2018年图灵奖新晋获得者、Facebook首席AI科学家Yann LeCun等着名专家学者在社交媒体上就深度学习展开了多轮的论战,探索深度学习的适用场景与局限性。Yann LeCun坚持以为深度学习是人工智能解决方案的主要部门之一。

强化学习领域著名教授理查德·萨顿(Richard S.Sutton)则以为,人类不应试图把自己的知识和头脑方式植入到AI之中,好比用人类的思绪教AI下棋,将让AI凭据人类总结的思绪来识别图像,等等。真正的突破,一定来自完全相反的偏向。摒弃人类在特定领域的知识,充分行使大规模盘算才是王道。用人类在特定领域的知识来提升人工智能,都是在走弯路。OpenAI首席科学家Ilya Sutskever精辟地总结了萨顿的焦点看法:鼎力出事业(Compute always wins)。对此也有相反看法,牛津大学盘算机系教授希蒙·怀特森(Shimon Whiteson)就以为构建AI需要融入人类知识,问题只在于该何时、若何、融入哪些知识。[8]关于深度学习、人工智能生长偏向的讨论,本书不再过多引述,感兴趣的读者可以看看双方的论战。

笔者以为,在科学界,自然需要各样的研究方式论。但在工业界,在一些特定领域,“鼎力出事业”,是不二法门。大规模盘算的作用还远远没有挖掘完,只要数据数目与质量、盘算能力连续提升,加之算法的优化,在工业界一定另有更多的惊喜等着我们。靠自我对弈围棋的AlphaGo Zero,基于深度学习识别语音、图像的算法等,一次次击败了先前那些浓缩了人类知识的人工智能方案。2018年,狂破11项自然语言处置领域纪录的谷歌BERT(Bidirectional Encoder Representation from Transformers)模子[9],其亦是借助大规模盘算,通过预训练获得更好的文本特征,属于暴力模子。

自然语言处置处置(Natural Language Processing,NLP)是人工智能领域的一个主要偏向,主要研究能实现人与盘算机之间用自然语言举行有用通讯的种种理论和方式。大量训练数据和云盘算可以说是近几年深度学习在自然语言处置方面取得了重大突破的主要条件。为什么鼎力能出事业?谷歌的BERT模子,使用无监视学习[10]对大量语料举行预训练,设计了两个预训练义务:一个是随机遮蔽掉一个句子中某个词,行使上下文举行展望;另一个是直接展望下一个句子。预训练模子的目的是为每个词汇找到适当的向量示意。当特定领域中相关语料越多,效果越好。就是说机械学到了语料数据中,我们无法用符号表述的规则或知识。

深度神经网络的理论依据之一——万能迫近定理(Universal Approximation Theory):神经网络能以随便的精度迫近任何从一个有限维空间到另一个有限维空间的连续函数。

2015年,三位图灵奖获得者、深度学习和人工智能领域的著名学者杰弗里·辛顿(Geoffrey Hinton)、延恩·勒昆(Yann LeCun)和约书亚·本吉奥(Joshua Bengio)在《自然》杂志上揭晓了深度学习综述论文[11],文章中总结了深度学习在一些领域确定突破性功效的缘故原由。对于一些庞大的问题,如图像、语音、自然语言明白等,研究人员往往很难知道提取哪些特征合适。解决的方式之一是表征学习(Representation Learning),通过机械学习方式去提取特征。“深度学习就是一种表征学习方式,把原始数据通过一些简朴的然则非线性的模子转变成为更高条理的、加倍抽象的表达。当神经网络足够多层,再庞大的函数也可以被学习。”

在王维嘉的《暗知识》[12]中提到,数据有一些人类既无法感受又无法表达和形貌的暗知识隐藏在海量数据的关系中。他也例举了AlphaGo Zero“自学”战胜之前基于人类棋谱最强AlphaGo Master,以为机械发现了人类既无法感受也无法表达的知识。行使机械挖掘我们人类无法熟悉的知识与信息,是其书中提出的主要看法,笔者异常认同。知识表征(Knowledge Representation)是人类永恒的问题,是对事物、事实的一种取代,以使我们可借助用知识表征的符号举行盘算,对天下、事实举行推理。已往几千年,人类都在举行宇宙、天下中事物、事实的知识表征探索,而行使机械挖掘数据中我们所不能明白的知识表征才刚最先。以是,在数字化时代,“鼎力出事业”才刚起航。

工业界击败BERT模子已然泛起,2019年7月,阿里巴巴公司的“TransBERT”模子在多轮对话型阅读明白评测(QuAC)进一步刷新了纪录。[13]可以想见,基于自然语言模子的智能新闻、语音助理等将成为领域中可行的、更高效的方案。

人心盘算不能替换的优势

人们说到心灵的时刻,说的并不是一台(任何一样平常意义上的)机械。而是一台察觉到自身的正确性的机械。

——哥德尔

前面章节所提到的知识,亦是一种直觉。爱迪生说过“天才就是99%的汗水加上1%的灵感,但没有这1%的灵感,那99%的汗水也是徒劳”。灵感既大师、专家们在决议时的直觉。诺贝尔经济学奖、图灵奖获得者郝伯特·西蒙做过一个国际象棋棋法研究,其将一个结构合理的中盘棋局给大师们看,他们往往能在很短的时间就找到最优下一步,这就是基于直觉的搜索。专家和新手区分不仅是前者具有大量和多样的信息,更主要的是,他的直觉履历使其能快速发现所面临的棋局形势中的熟悉模式。历久影象中储存大量的棋局模式,识别这些模式,从历久影象中找到相关信息,这样的直觉搜索,并不需要大量庞大的脑力盘算。

而AlphaGo在模子训练历程中,也是抽取一盘围棋中的随机中盘结构,使用蒙特卡罗树搜索(Monte Carlo Tree Search,MCTS)连系估值网络(Value Network)来搜索最优下一步。由此看来,对于一个领域问题,新手往往是低效的、痛苦的直觉搜索,专家是高效的直觉搜索,而AlphaGo是启发式连系暴力搜索。即,人类和人工智能是完全差别的搜索途径。盘算机不必学习人的做法,就犹如飞机不必学习鸟的航行一样。但,是否可能借助人工智能提高新手的搜索效率呢?这应该是个异常值得探索的偏向,在之后的章节还将探讨该主题。

现代的盘算机的理论依据是伟大的数学家、逻辑学家艾伦·麦席森·图灵发现的图灵机理论。该理论中的停机问题(Halting Problem)是哥德尔不完整定理(Godel Incompleteness Theorems)的一种证实。图灵机以一种正确的界说完全掌握了机械(或盘算)历程的直观观点,因而彻底注释了哥德尔不完全性定理的普遍性。

哥德尔不完全性定理:任何一个形式系统(图灵机是一种形式系统),只要包罗了简朴的初等数论形貌,它肯定包罗某些系统内所允许的方式既不能证实真也不能证伪的命题。

凭据哥德尔定理,基于数论的所有一致的公理化形式系统都包罗有不能判断的命题,基于图灵机原理的盘算机自然也包罗在内。而人类基于直觉、情绪的决议并不并这个问题。一个十分著名的例子,当亚历山大面临难以解开的“格尔迪奥斯绳结”,用手中的剑直接就将绳结砍断。跳出来看问题,这是人类的能力之一。另有,数学中著名的黎曼料想,亦是先预测可能的真理,就举行应用了,到现在为止,并没有证实该料想。

对于人心盘算与盘算机能力对比,伟大的数学家、逻辑学家和哲学家库尔特·哥德尔以为数学直觉就可以看到并证实自身的一致性,这一点差别于盘算机。人是善于通过直觉解决新问题的,这才是相对于人工智能,人类真正的优势。

在系列影戏《黑客帝国》的动画版影戏,九段自力动画之一的《第二次文艺复兴》中形貌了人工智能和人类的战争,最后人类启用了核武器并遮挡了整个地球的太阳光,但机械照样取得了最后的胜利。可机械无法获得太阳能,只好圈养人类获得生物能,将所有存活下来的人类养在母体Matrix中。该理由异常牵强,低等生物的能量转换率一定比人类这样的高等动物更高。更合理的注释是,由于人工智能无法取代人类的直觉盘算,而直觉盘算又是探索宇宙,探索数学、物理等充满不确定性领域必不能少的能力,以是只好将人类圈养在母体中。

《黑客帝国》动画版影戏剧照

另外,可不要小看我们自己大脑中的盘算能力,麻省理工学院物理系迈克斯·泰格马克教授在他的著作《生命3.0》[14]中参考了相关研究,以为要模拟人类大脑,所需要的浮点运算次数差不多相当于2017年全天下运行最快的超级盘算机,我国的“神威-太湖之光超级盘算机”,价值3亿美元。这还只是从浮点运算次数来看,要复制人脑的盘算能力,光靠已有的神经网络可不行。以是在“神威-太湖之光超级盘算机”的成本还没有降到和人类的成本一样前,从盘算成本角度来看,决议中的人机互助都还应该以人为主。

以是,人类的直觉有其不能或缺的主要性,直觉才是人类最主要的决议方式之一,是无法取代的。在未有强人工智能,机械的盘算成本未占优之前,领域中的解决方案总难免同时需要这两种盘算。针对差别领域问题,凭据详细情况,选取人和盘算机各自优势配合构建解决方案将是可行的途径。

机械在什么场景下可以取代人?

在BBC网站上有一个页面[15],可以查询涵盖数十个领域的上千份事情岗位可能被人工智能替换的展望。这个展望是基于英国牛津大学两位学者卡尔·弗雷和迈克尔·奥斯本的研究《未来职业:事情被盘算机取代的可能性?》[16]。2013年,两位学者展望,在未来10~20年间,47%的事情很有可能被自动化取代。越是专业化水平高的领域,人工智能加倍有优势取代人类。而那些与人打交道的,西席、护士等,以及需要创造性头脑的架构师、艺术家等是不容易被替换的。这和弱人工智能善于的领域异常一致,在社会化大分工的环境下,弱人工智能在那些专业的领域能够取代人类部门事情。

《生命3.0》中将提出莫拉维克悖论的汉斯·莫拉维克一段关于人工智能能力远景的形貌,以地形图的形式形象地画出来。其中“海拔高度代表这项义务对于盘算机的难度,不停上涨的海平面代表盘算机现在能做的事情。”这里盘算机既包罗强人工智能也包罗弱人工智能。从图上看来,似乎投资也是一个即将被攻克的领域,笔者并不认同,在之后的章节还将叙述。

在什么场景下机械能够取代人类决议呢?这里所指机械包罗盘算机系统、数据以及弱人工智能,并不包罗强人工智能。若是你问一位机械学习从业者这个问题,通常,他会告诉你,若是这个有足够的训练数据,以及能构建有用网络反馈的闭环时,就可以实验用机械学习取代人类决议。一样平常我们以为司机的智能助理,最终目标定位是自动驾驶。由于通过传感器可以网络大量训练数据,并且有实时反馈的运行环境。纵然是伦敦玄色出租车司机,他们都必须通过严酷的伦敦知识考试,包罗知晓都市数千个景点和街道位置,以及在任何时段规划到目的地的最优门路等。[17]从手艺角度来看,他们也是可以被人工智能替换的。驾驶这个义务,并不需要司机的小我私家意识,一小我私家类司机遇享受音乐、浏览窗外景物等等,但对于驾驶这个义务来说这些能力并没有增益,而是潜在的风险。这些场景下,人工智能一定将会替换人类决议。

在丹尼尔·卡尼曼教授《思索,快与慢》[18]中形貌了两种人类决议思索的系统:

? 快思索:“系统1运行时无意识且快速地,不怎么费脑力,没有感受,完全处于自主控制状态。”

? 慢思索:“系统2将注意力转移到需要费脑力的大脑流动上来,例如庞大的运算。系统2的运行通常与行为、选择和专注等主观体验相关联。”

快思索适用于快反馈的场景,互联网激增了这样的反馈场景。人是偏好及时行乐的,这异常相符人性,互联网产物加倍推波助澜了这个倾向。新闻媒体行业应该是算法辅助人们快决议异常成熟的领域,大量的用户的特征、不停迭代算法模子、可量化的反馈等等,都已融入行业的方方面面。新闻内容产生者凭据大量的反馈数据可以知道哪些用户喜欢这篇文章,阅读了多长时间,在什么地方停留等,从而不停调整新闻的编辑,向着更好评估指标(点击率等)的偏向前进。

快决议的场景基本都是弱人工智能、算法善于的场景,由于有足够的数据与反馈,可以辅助算法提升性能。但决议并不只是快思索,在BBC的纪录片《人生七年》中,用几十年跟踪英国差别阶级的七岁的小孩子,每隔七年,都市重新采访昔时的这些孩子,领会他们的现状,谛听他们关于生涯、理想、人生的看法。当你旁观这部纪录片时,经常能感受到有些人在面临人生重大决议时,并没有经由太多的思索就草率地决议了。人工智能的作用不只是要辅助人类去快决议,也应该辅助去做那些慢思索的决议。若何辅助,直接取代人们做出更明智的决议吗?机械学习最大的挑战之一是需要大量特定问题的样本作为训练数据,惋惜关于人生,谁都没有足够的样本和反馈。在金融投资领域也同样云云,面临的问题都是不确定环境下具有时间跨度的决议问题,其关乎于未来收益,自然有不确定性等属性,也是属于慢思索决议。弱人工智能善于快思索,眼观并不久远。在不确定环境下,特别是跨期决议,是连系行为主体偏好的选择,人心盘算必不能少,并应起主要作用。更一样平常地来看,这实在是可盘算性理论(Computability Theory)的问题,该理论研究哪些算法问题是能够被解决的。其中涉及两个主要观点,判断问题,是追求一种能行的方式,一种算法,能够对某类问题中的任何一个问题,在有穷步骤内判断其是否具有某一特定性子。另一个观点是盘算庞大性理论,使用数学方式对盘算中所需的种种资源的花费作定量的剖析,并研究各种问题之间在盘算庞大水平上的相互关系和基本性子。当前,人工智能云云之火,有时也会惊讶于好像所有的算法都归于这面大旗之下。但,不要遗忘机械学习只是盘算机理论算法中的一部门。

既然有不能判断的问题、盘算庞大的各种问题存在,再次证实弱人工智能不应该是取代人类决议的方案。在未有科幻片中那样的强人工智能之前,弱人工智能与物联网、大数据、云盘算等手艺连系,在某些领域一定具备逾越人类的能力。

以是,在差别场景下,弱人工智能的能力界限决议了人工智能方案的能力界限与定位。这是本书将连续讨论的问题,接下来所有提到的人工智能没有单独说明都是指弱人工智能。

注释

1.乾明.哈佛医学院研究员解读DeepMind大突破AlphaFold:有提高,但未解决根本问题[OL].凹非寺民众号.2018-12-03.

2.Stuart J.Russell,Peter Norvig.人工智能:一种现代的方式(第三版)[M].清华大学出版社,2013.

3.周志华.关于强人工智能[J].中国盘算机学会通讯.2018,1.

4.https://icml.cc/Conferences/2019/ScheduleMultitrack?event=4334

5.马文·明斯基.情绪机械[M].浙江人民出版社.2015,12.

6.Gary Marcus.Deep Learning: A Critical Appraisal[OL].arXiv Preprint.2018,01.

7.Judea Pearl,Dana Mack.The Book of Why: The New Science of Cause and Effect[M].Allen Lane.2018,5.

8.乾明,安妮.只有大规模算力才能救AI?强化学习之父vs牛津教授掀起隔空论战[OL].量子位民众号.2019-03-17.

9.Devlin,J.,Chang,M.-W.,Lee,K.,and Toutanova,K.Bert: Pretraining of deep bidirectional transformers for language understanding.[OL].arXiv preprint,2018.

10.无监视学习属于机械学习中的一个种别,是对无符号训练样本的学习来发现数据内在性子与纪律。

11.Yann LeCun,Yoshua Bengio,Geoffrey Hinton.Deep learning Review[J].Nature.2015,5.

12.王维嘉.暗知识:机械认知若何推翻商业和社会[M].中信出版社.2019,3.

13.阿里巴巴AI模子“TransBERT”击败全球对手,刷新了QuAC天下纪录.科技日报.2019,7.

14.迈克斯·泰格马克.生命3.0[M].浙江教育出版社.2018,6.

15.Will a robot take your job?[OL].https://www.b bc.com/news/technology 34066941.BBC.2015.

16.Michael Osborne,Carl Frey.The Future of Employment: How Susceptible Are Jobs to Computerisation?[J].Technological Forecasting and Social Change.2013.

17.在伦敦,想成为玄色出租车司机有多灾?[OL].中国日报网.2018,09.

18.丹尼尔·卡尼曼.思索,快与慢[M].中信出版社.2012,7.

本文为新书《人工智能为金融投资带来了什么》(袁峻峰/著,经济科学出版社2020年3月版)第一章的部门章节。

,

阳光在线

阳光在线www.leegalo.com(原诚信在线)现已开放阳光在线手机版下载。阳光在线游戏公平、公开、公正,用实力赢取信誉。

Sunbet声明:该文看法仅代表作者自己,与本平台无关。转载请注明:约搏三公开船:人工智能不是无所不能的

标签列表

    文章归档

      站点信息

      • 文章总数:465
      • 页面总数:0
      • 分类总数:8
      • 标签总数:804
      • 评论总数:0
      • 浏览总数:13467