“ 人类只是智慧演化过程中的一个过渡阶段。
-
杰弗里·辛顿
”
高考出分后，无论大人、孩子都忙成一锅粥，因为在填报志愿这件事上，没有人敢说自己十拿九稳。
特别是在当今AI大行其道的社会环境下，选择什么专业才能不被人工智能“淘汰”？在下定决心之前，不只要考虑兴趣和能力，恐怕还要了解人工智能已经发展到什么程度了。在【少年中国科技·未来科学+】系列的《并不是长得像人，才叫机器人》里，中国科学院院士陈润生从生物医学的角度，为我们分享了AI大模型的未来。
陈润生 / 黄铁军 / 山世光 等｜演讲格致论道｜编未读·探索家｜出品
大模型给生物医学带来的影响你一定知道一个最近非常热门的话题，那就是人工智能进入了大模型时代。也就是说，人工智能已经从只能做一件事发展成可以同时处理多件事，我们把这样的人工智能新发展叫作搭建了人工智能“大模型”。什么是大模型？大模型就是把宽泛的、不同的数据综合在一起进行分析。下面我们来简单地讨论一下现阶段大模型的进展以及它对整个生物医学发展的影响。实际上，不管是现在的人工智能还是大模型，其基本原理都是模仿人脑。人脑有很多神经元，很多神经元连起来，就构成神经回路，从而能够做很多事。现在，我们只是把局面做大，把事情做复杂，基本原理并没有变。
现在的大模型在哪个方面有进展呢？主要是语言，确切地说，是自然语言。例如，各种论文、书籍、医学病历现在都可以用这种方式被计算机读懂，使大模型的能力大大升级。大语言大模型出现后，马上就转到生物医学领域了，因为生物医学跟每个人都休戚相关。比如在OpenAI推出ChatGPT时，微软推出了BioGPT，把大模型直接应用到生物医学中；谷歌也做了一个用于生物医学的大模型Med-PaLM——我们可以从中看出，整个大模型研发行业对生物医学的重视。那这些大模型的水平怎么样？例如，美国职业医生的执照考试及格分数是60分，BioGPT和Med-PaLM都得了80分以上。我想，像我这样的“白丁”想要考职业医生执照，用这个软件一定能够过关。所以，现在人工智能在某些生物医学基础领域已经学得非常好了。大陆也启动了用于生物医学的大模型。我觉得，最受关注、在大模型上花费精力和时间比较多的应当是百度。百度在搭建中国的大模型上花了很多精力，它的子公司百图生科，是专门为把大模型应用到生物医学而成立的，做了很多基础工作。《新英格兰医学杂志》（NEJM）是国际上顶尖的医学学术刊物，它在2024年成立专刊NEJM-AI。它的一篇综述里提到，现在的人工智能实际上可以应用到医学当中的很多方面。因此，包括大模型在内的人工智能在生物医学应用是一件长期发展的事，而不是突然兴起的事。
未来大模型能不能达到强人工智能的水平？大模型之所以会引起全世界的广泛注意，主要是因为在大模型出现后人们发现了一些新现象。如果模型规模做得足够大，学习的参数足够多，就可能会出现两个现象。一个现象叫涌现，另一个现象叫顿悟。这不是常规计算机程序会出现的现象。什么叫涌现？我教给你这么多东西，学到一定程度后你会出现新的想法，而这个想法是我在教你的过程中没有的。这个现象使业内人产生深深的担忧和思考：涌现出来的东西会不会超越人类掌握的知识呢？顿悟是这样的现象：大模型和人脑一样，第一遍没学会，第二遍没学会，第三遍没学会，但第四遍它开窍了，完全学会了。我们知道，计算机不会出现这种现象，它只能运行一个程序，你向它输入，永远会得到输出。大模型出现了涌现和顿悟现象，说明它和过去我们用来下围棋、用来预测生物大分子结构的人工智能不同，这使现在的大模型除了作为一种技术之外，有更多更深入和广泛的探讨空间。
在OpenAI刚刚发布GPT-4后，2023年5月14日，号称ChatGPT“最强竞争对手”的Claude发布了更新。本质上，Claude跟ChatGPT是一样的，但是Claude一分钟能处理将近10万字的内容，也就是说，它的文本处理能力在短时间里就超过了ChatGPT。这两个模型的发展态势太快了，你追我赶。另外，已经有人在尝试用大模型来驱动第三方系统。换句话说，如大模型能够驱动手术机器人，它就可以代替外科医生做手术。这样的发展使人们在担心人工智能会发展到什么程度的基础上，还要担心它的发展速度和它能够调动的下游设备。因此，大模型格外引起人们的注意。当前人们争论的焦点是，未来大模型能不能达到强人工智能的水平？强人工智能是人工智能领域的一个专业术语。人工智能如果达到人脑的水平，能思维、能思考、能决策，就是强人工智能。当然，现在的人工智能还没有达到这个水平，它能不能达到，就成为人们非常关注的一点。为此，很多人有深刻的担忧。这里，我只提一个代表人物——杰弗里·辛顿，他是人工智能的最早奠基人之一。他曾表达了对人工智能的忧虑，特别是这句话：“人类只是智慧演化过程中的一个过渡阶段。”言外之意就是，他认为人工智能将来有可能超过人的智能。这个问题非常值得思考，正因为这个担忧，他从谷歌辞职了。另外，2023年3月22日，生命未来研究所向全社会发布了《暂停大型人工智能研究》的公开信，马斯克、图灵奖获得者约书亚·本吉奥等专家都签署了这封公开信。他们希望在6个月内暂停发展比GPT-4能力更强的人工神经网络的模型。他们认为，人类没有准备好，如果人工智能发展得太快，也许人类就不能很好地把握它。
《暂停大型人工智能研究》公开信
另外，欧盟提出了《人工智能法案》，代表整个欧盟已经制定了对人工智能的法律监管方案。2023年5月13日，美国政府成立了人工智能工作组，这个工作组的两个组长之一是著名的华裔科学家、数学家陶哲轩，华裔女科学家李飞飞也是咨询组的成员。以上事例都说明，当前大模型的发展不仅仅是一个科学问题，它还产生了很多包括科学哲学在内的问题，引起人们对大模型更深的思考和担忧。我想表达一些我自己的看法，未来，人工智能当然会继续发展，任何力量也很难阻止，因为它是一项先进的技术，前沿技术的发展是很难阻挡的。但是，人工智能能力的提高是连续的还是有壁垒的？如果是连续的，它就会一直不断地发展下去；如果是有壁垒的，即它需要克服某些壁垒才能够达到新的发展阶段，我们就有可能在某些壁垒上暂缓它的发展。目前看来，没有任何证据能够证明人工智能的发展存在壁垒，所以它还是在高速地发展着。所以，如果说，人工智能能力的提高会遇到壁垒，我认为，目前人工智能神经网络结构的复杂度还远远无法媲美人脑的结构。换句话说，人工智能会不断地发展，人们担心的新的涌现现象还是可能会出现，但是人工智能要想超过人的智能，还需要非常大的时间尺度。
上图是人的神经网络，你可以把它和人工神经网络比较一下。物理学家总会问一个问题：如果现在的物理规律从三维空间变到二维空间会怎么样？相信，很多物理规律是不成立的。我们可以比较一下，目前的人工智能模型还是不如真正人脑空间结构复杂。 我相信，人工智能会不断地发展，一定会对生产力的发展、社会的生产生活、医学的发展提供很大的助力，不过，我们也要注意它可能带来的各种影响。但至少在短期内，它要达到强人工智能的水平恐怕还有相当大的距离。
文章来源：未读