人工智能领域非常令人着迷，也很奇幻，发展过程充满了起伏波折，每次高潮都有名人预测一段时期后会发生不可思议的奇迹，而之后又总是让人有点失望却无法放弃。这样的故事情节是大数据、算力和算法发展的结果。如今大数据已经不再成为问题，算力也在日新月异地快速提高，多种量子计算原型机已经设计完成，不远的未来即可投入商业使用。
英国数学家马库斯·杜·索托伊《天才与算法》是一本详细了解人工智能算法最新发展状况的很有价值的科普书。作者通过分析算法在棋类比赛、数学证明、绘画、作曲、内容创作、翻译等需要人类创造力领域的进展，对比了人类思维与AI数学思维的异同点，帮助读者客观地了解和评估AI技术的发展路径和对人类的影响。
人们对AI未来发展能否达到人类智慧的一个主要争议是认为机器学习的结果是个“黑箱”，人类无法了解智能机器正确解答问题所依据的原理是什么。还有人坚持认为机器不会自动学习，它们只能在人类的安排之下学习和工作，因此AI永远无法赶上人类智慧。这些观点已经落后于AI实际进展了。以AlphaGo为例，人们本来认为这种没有固定棋路的博弈与国际象棋不同，AI无法胜任，结果是它战胜了围棋九段高手。新版本AlphaGo Zero可以在没有学习任何人类对战数据的情况下，在几十天内变得比AlphaGo强大得多。这代表着AI可以从一无所有开始，通过学习或训练自己来打败人类专家。对于很多人来说，几十天的学习大概只能达到围棋入门水平。
人类不能解释AI根据机器学习做出的行为，其实并不是一件很令人惊讶的事情。仔细想想，我们其实在很多情况下也不明白自己会这样想或者那样做。但是人类不同之处在于擅长“归纳总结”，会编造一套理由解释自己的想法或行为。而人工智能机器不具备这样的动机去和人类互动。只是它不会说话，人们不知道它总结出来的“模式”或原因是什么。而很多时候，人类认定的理由或解释也并不正确，这就是认知的发展过程。另一个人机差异是人类随时都在利用外部输入和自己感知的信息在进行模式学习和识别，这就是总结归纳和推理以及记忆过程。擅长这样做的人显得比别人有知识或者更聪明。机器学习其实也是采用同样原理和过程，但是大多数人工智能学习还处于被动阶段。如果机器和人类一样不断接受外部信息，自动学习、反馈调整和总结，AI显然比人类更胜一筹。
从书中提供的AI在创造力方面的实际案例可以看出，智能机器和人类思维的一个不同点是机器没有不可涉足的思维盲区。而人类因为大脑受到千百万年进化的影响，形成了必须依赖情绪和动机的思考模式，这种依赖又变成了一套固定模式，限制了人类可以探索的很多领域。AI算法走出的棋步、作画和谱曲的风格、形成的文字内容，会让人们在吃惊之余，认识到那些被人类忽略的可能性，可以说，人类从中认识到了自身的局限性和不足。这种不断突破原有系统的约束而得到的无穷创意超过了人类能力。
人工智能算法已经侵入最依赖人类智慧的领域，以作者的数学专业来看，通过算法进行数学证明已经完全没有实质性障碍。人工智能近年来在人类擅长领域的突飞猛进开始引发人类深深的忧虑。人工智能在作曲、文学、绘画等方面不受任何局限的创造力，可以创作出很多超现实作品。在实验室里，研究人员发现一种新算法可以在与数据交互时做出动态调整，一段时间之后，连当初开发它的程序员可能都无法理解算法所做的选择了，智能机器之间甚至可以形成一种人类无法理解的交流方式。
如果机器和机器，或者机器和人类之间可以交流，那时候，在智力层面将无法区分人类和机器，而且机器在很多方面会超越人类。这就是库兹韦尔说的“奇点”，这一奇迹的到来似乎并不特别遥远。人类的群体行为是受到伦理和法律限制的，而机器既没有情绪和同理心，也没有任何形成规范的客观环境。如果人类失去了对机器自主学习算法的控制，智能机器是否能够形成和人类社会兼容的行为规范？人类是否能够对机器自主学习算法设定更高层次的限制，划定一个机器无法逾越的行动界限呢？随着人工智能算法的快速发展，这些问题变得越来越紧要了。
来源：
