【谈科论普】打开人工智能的“黑箱”——从ChatGPT走红说起

　　如今我们进入了一个智能时代，而人工智能也以这样或者那样的方式在影响着我们的生活，虽然有时候我们并未察觉，但是不可否认的是，人工智能的各种应用就发生在我们身边，与此同时，有关人工智能的各种话题也日益成为街头巷尾热议的一个领域，从之前引发关注的AI作画到最近爆火的ChatGPT，这背后都是人工智能的一种应用形式。

　　卡尔萨根有言，“我们生活在一个完全依赖科学和技术的社会中，然而几乎没有人了解这些科学和技术”。应该说人工智能就是这样一个典型的例子。虽然我们每天可能都在接触到各种人工智能的应用，但是似乎没有哪一个人完全了解这背后的逻辑和知识架构，似乎人工智能背后仍然是一个“黑箱”，有待于我们去深入的了解和研究。当然，不懂人工智能并不会妨碍我们应用人工智能，因为在当前的时代，任何一个人都不可能掌握所有领域的知识，甚至是某一个具体子领域的知识，这也是专业分工使然，同时也在一定程度上表明我们还是需要有专家这个群体的（这个另外一个值得特别讨论的话题）。当然这其中还有一个问题值得辨析，那就是我们普通人是否有意愿去了解人工智能以及是否有途径和渠道让我们去了解人工智能。

　　Prompt：人工智能,黑箱，chatgpt，聊天，机器人，科幻感，魔法, 赛博朋克

　　近年来一系列新的概念层出不穷，从基础研究领域的暗物质、暗能量、黑洞到科技应用方面的量子计算、大数据、云计算、区块链、元宇宙，应该说这一系列科技词汇的背后都有着大量的基础科学研究成果发挥着支撑的作用，如果我们只是知其然，而不知其所以然，这便可能导致一些“出其不意”的后果，一方面我们对此会持有一种“不明觉厉”的认知，因为“任何足够先进的科技,都与魔法无异!”当然，这里可以适当拓展一下，那就是如果人们不理解这些科技的话，就会感觉它更像是某种魔法，因为“脱离了知识背景的技术离巫术本来就不远”。因为对于我们普通人来说，我们更倾向于接受某种科技的成果或者产品，而对这些成果是如何产生的不太感兴趣，“一个人不必知道平底煎锅的内涂层怎么会有一种不粘的属性，对他而言只需拥有一个天真的信念：如果他付了钱，某个工厂里一位穿白大褂的巫师给这个器皿施加的魔法就会灵验”，其实这也是我们需要做科普的一个原因。基于上述方面的结果就会导出第二方面的后果，那就是某些别有用心的人就会把这些高科技概念宣传得神乎其神，同时用来欺骗公众，谋取不法利益。

　　就此而论，我们就需要加强科普工作，让公众了解这些高科技概念背后的科学内涵，一方面是为了更好地提高公众的科学素养，另外一方面，从功利主义和短期主义的角度来说，也有助于提高自我防范意识。以最近火爆的ChatGPT为例，在业界热议它将会给商业模式等带来哪些冲击和挑战的同时，我们已经注意到有人开始对它打起了歪念头，比如前几天就出现了ChatGPT撰写的杭州将取消限行的假消息，这当然还涉及另外一个话题，那就是人们只关注自己希望关注的消息，那其实这也会给一些人提供了假借各种高科技概念钻空子的机会。

　　曾经有一句很戏谑的话，“人工智能有多智能就有多人工”，虽然有消息曾显示ChatGPT可能已经通过了图灵测试，但是我们还要注意到，无论是ChatGPT，还是其他的人工智能应用，都是通过对一些数据的输入而对程序进行预训练，然后不断修正完善的结果，因而人工智能在某种意义上来说与人的本身还有很大的差异。人类可以根据知识的输入而产生出新的知识，而人工智能距离这个目标还有些距离。奶牛吃进去的是草，挤出来的是奶，但是人工智能在一定程度上可以说是你给它投喂的东西决定了它的产出，这其中涉及到一个问题，如果用计算机科学的专业术语来说就是，废料进，废品出（garbage in，garbage out），因而训练数据的不透明性也是一个值得关注的问题。

　　而从科技向善的角度来说，人工智能更应该把向善作为更高的追求。一方面要避免人工智能的应用给人类带来危害性的后果，另外一方面也要注意到科技发展所带来的数字化社会给公众生活带来的冲击和挑战，同时更要关注公平与普惠的问题，弥合技术鸿沟以及数字鸿沟。（王大鹏）