“人工智能（AI）对我们人类的生活带来的巨大影响，已经非常显而易见，但实际上AI还有一些目前无能为力的领域。我们需要思考的是，现在AI算法的限制是什么，它的有限性在哪里？接下来在机器学习以及AI的发展之中，还有哪些需要实现突破的地方？”
在10月30日举行的第三届世界顶尖科学家“科学前沿与颠覆性技术”论坛上，图灵奖得主、中国科学院院士姚期智提出了上述思考。
他分享了一些案例，来帮助大家去了解现在AI研究人员关注的问题。
首先，就是AI算法尽管非常高效，比如在人脸识别等领域比人类做得更好，但是在大部分情况下，他们的稳健性和人类比是有差异的。
姚期智举例解释：在自动驾驶的情况下，你看到了一个红灯或者停车标志，如果这个图像的能见性不好，或者有些人故意做了一点点变动，最后的结果可能就变成了一个通行标志。这在自动驾驶模式下带来的影响是非常严重的。这是过去几年人们非常关心的问题，也是一个很难解决的问题。
姚期智说，我们所要做的就是创造出更加稳健的算法，但是目前还有一些没有理解的问题，这有可能是因为我们的精确性不够。如果不能将机器学习算法的稳定性进行改进的话，那我们是没有办法去使用它的。
另一方面，就是AI的可解释性。他说，AI算法可以用在非常广泛的领域，比如说在未来智力、环境、医药、伦理、教育等方面，但是精确性的问题很重要。因为我们不能仅仅依赖性能的高低，如果想要这个算法被大众接受、广泛使用的话，还有一些标杆需要满足。
“但是AI算法有一些问题，尤其是在深度学习、非常高性能的算法方面出现的一些问题，我们现在还没有办法解释。比如说在算法方面，哪些地方做得更好，还没能准确找到它的原因。”
因此，接下来AI所要实现的突破是什么？在未来的应用之中，除了下围棋、打扑克，AI还能做什么？无人机除了灯光秀，如果用它进行视频游戏或者是对战是否可行？
姚期智表示，想要解决一些现实的问题，采用比较单一的计算机原理是很难做到的，我们还需要在AI方面进行很多的研究，要通过强化学习去了解我们未来还能做什么。
