9月28日TSVC举办了《打造下一个独角兽》讲座第33讲。当AI大模型如火如荼之时，你是否知道，AI小模型和微小模型聚集起来，要远大于大模型。小模型和微小模型使得AI无所不在，哪怕是没有网络的地方。同时，AI小模型以极低的成本和最小的能耗，触达物理世界的各个角落。让我们跟随TSVC创始合伙人夏老师与“CNN之父”LeCun的高徒陈羽北教授的一对一对话来体验AI小模型的魅力！
嘉宾：
陈羽北，加州大学戴维斯分校电子与计算机工程系助理教授。本科毕业于清华大学电子系，博士师从加州大学伯克利分校计算神经科学专家Bruno Olshausen教授，博士后师从纽约大学深度学习专家Yann LeCun教授。研究方向为无监督学习与计算神经科学，主要探索人脑及机器学习中无监督学习的基本原理。博士期间获得美国自然科学研究生奖学金，研究工作获得2023年国际表征学习大会(ICLR)杰出论文提名，2020年在硅谷联合创办人工智能公司Aizip.ai。
夏淳博士是TSVC联合创始人，硅谷成功的系列创业家。曾先后创办三家科技公司，研发销售世界上最早的个性化营销系统，以及国际领先的边缘容器技术。他曾任IT行业一代巨头Sun Microsystems首席架构师，是早期云计算技术奠基者之一。除了云计算、芯片、人工智能、智能制造等硬科技投资，夏淳博士在设计和创意领域颇有造诣，并且对社交媒体和社群经济的跨界文化有深入研究。夏淳博士是清华企业家协会(TEEC)创始会员之一，曾任北美分会首任主席。自2001年，他长年服务于青年学生的培养辅导，持续担任清华大学思源计划导师、清华创业孵化器x-lab的创业导师、清华创+逆向创新中心主任，并在硅谷创建了激励青年学生创新创业的公益基金TSVC Giving Fund. 夏淳博士是清华大学电子工程学士及计算机硕士，并在美国UIUC大学获得计算机博士。
讲座目录：
01 活动概要
02 为什么小模型和微模型变得重要？
03 有人在做6B、7B大的模型，算是小模型吗？
04 为什么还需要做小模型？小模型擅长解决哪类的问题？
05 小模型究竟能做些什么？
06 什么是AI Agent？为什么要把它做在设备上？
07 演示过程
08 现在演示的模型到底是多大？运行的硬件大概是多少钱？
09 用一句话概括Aizip的特色
10 AI的四种效率具体是指什么？
以下为正文：
TSVC作为种子轮基金，其核心要素在于回归商业本质，于赛道形成之前提前布局，预测未来的发展趋势。在AI大模型如火如荼的发展势头下，我们早期就察觉到另一个被忽视的赛道——小模型。当前，大模型已经发展到足够大的规模，小模型的需求也随之凸显。因此，我们在一两年前就开始布局，投资Aizip做小模型的方向。我们认为，这是一个新颖且重要的发展趋势。既然AI大模型的发展如此火热，已经广为人知，大家也开始拥抱AI，那么为什么小模型如此重要呢？接下来，让我们先请教陈教授。
01:35 请问模型做到多小算是小模型？微型模型小到什么程度算是微型模型？
陈羽北表示，理论上模型可以做到无限小，例如自然界中最小的生物之一--能在水中迅速游动的草履虫，它是一种单细胞生物。在智能领域，他认为模型同样可以实现无限小。那么，一个关键问题随之而来：模型究竟小到什么程度它还是有用的？他希望做出来不仅仅是小，而且这些模型还应具备实际应用价值，这才是真正合理的一个小模型。假如做出来的小模型没有用处，那其实是没有意义的。
根据Aizip的经验，实现最小可使用的模型，其尺寸大约为8KB，即8000字节，这样的模型能够识别人们各种各样的身体活动。例如，它能够识别走路、上楼梯或跳跃等步态的物理活动。尽管其功能非常有限，但模型尺寸确实非常小。而且，即便模型的标准较小，在部署到真实世界时，仍能保持非常高的精确度。因此，这种极限小且高效的模型，可以实现仅几KB的大小。
当然，未来是否能够开发出更小的模型，使其能够执行类似草履虫的有趣功能，这还有待进一步探索。实际上，高效模型的定义是一个范围，到极限小的模型能做的事情也就非常有限。在Aizip看来，高效模型的范围可以从几KB到几GB。他们所探索的，是在每一类不同尺寸下，不同计算量的模型能够注入多少智能的问题。
04:15 经常听到有人在做6B、7B这么大的模型，这个规模在您看是仍然在大模型里面，还是已经算是小模型了？
陈羽北指出，对于LLaMa-7B这类模型，他的看法是相对的，取决于跟谁比较。从Aizip的视角来看，这几乎是他们所构建模型尺寸的上限。目前，他们所专注的范畴是在尺寸的上限部分，因此，所有小于7B的模型，无论尺寸如何，他们都会进行研究。然而，存在一个核心问题：在给定模型尺寸、算力和内存的情况下，我们能注入多少智能？这是他们正在研究的问题。当你明确了所有限制后，这个模型能够注入多少智能，并在现实世界中达到多高的性能？他认为这是他们正在推进的事。他还认为，许多在7B以下的工作和研究都属于高效模型，只不过他们专注于一个特定范围，将智能推向极限，从几KB到几GB，他们都会研究这样的问题。
06:17 有了这些大模型以后，我们为什么还需要做小模型？小模型擅长解决哪类的问题？
陈羽北表示，这是一个很好的问题。在回答这个问题时，他想从最初的愿景出发。这个愿景不仅仅关注经济效益，而是坚信未来将是大模型和小模型共存的时代。例如，电影《黑客帝国》中的母体、《2001太空漫游》中的HAL 9000，以及《生化危机》中的超级人工智能小女孩“红后”。这些超级人工智能的存在，让我们相信未来不会只有一个超级智能，而是它们将融入每个人的生活中，你可以真正地拥有它，而不是被它所控制。
例如，我们日常使用的谷歌地图等出行软件，人们对它们的依赖性日益增强。你越是依赖它们，就越会发现自己的选择权逐渐丧失，取而代之的是超级计算机的决策。每天的行车路线往往不是我们自己选择的，而是由机器帮助我们决定的。他相信，随着AI技术的不断发展，未来不应该只存在大型的超级系统，而是应该有无数的小智能。这些小智能可能不及大系统强大，但它们无疑将成为未来的一部分。因此，在这样的愿景下，他们创立了Aizip，致力于将AI做得更加小巧、高效。
如果回到一个没有如此高标准、不那么抽象的愿景，他认为许多经济效益可以从自然界中获得启发。大家现在将大模型称为LLaMa，实际上它是一种羊驼，一种庞大的生物。如果放眼自然界，我们会发现许多不同级别的生物，从小到一只草履虫，有时不禁让人思考，草履虫是否也有自己的思想？再大一些的生物如跳蛛，以及更大的生物如蜜蜂，一直到羊驼，再到人类的智能。我认为智能具有多种不同的尺度，因此他们进行的AI研究和应用，实际上也可以存在不同的尺度。
人工智能也是一样，许多人所依赖的智能实际上并不需要极高的智能参与。例如，在许多物体识别的场景中，可能在视觉皮层V4区，在这些IT神经元上，主要的识别过程已经完成，只有在涉及复杂处理时，才需要一些更高级的智能行为。就智能而言，他认为对于许多日常所需的智能，比如识别是否有人，识别是否有包裹，以及从声音中去除噪声等，这些智能的小模型可能能够做到与大模型几乎没有差别。
举一个非常现实的例子，如果现在让一个小学生做加减法，可能做得还不如他好，尽管自己接受了另外20年的专业培养，复杂程度稍微高一点，但在这样简单的任务上，他并不会比一个小学生做得更好。因此，从他们的观察来看，很多人工智能的应用也是如此，对于许多基本任务，小智能可以做得很好。随之带来一个问题，什么样的智能可以被高效地处理？我们能够把它做得有多么的高效？也许未来是把简单的智能放在用高效的模型来处理，它也能做到足够好，剩下一些更复杂的交给这些更强的智能来处理，这也许是未来的一个发展方向。
11:16 陈教授刚才从生物界的各个规模的生物，一直讲到人类，这些比喻都非常生动形象。然而，仅依靠比喻是不够的，我们还需要实际观察AI系统究竟是怎样的。请Aizip为我们展示一下，目前在实验室已经研发出能够正常运作，并且可以应用于日常生活的系统。这个小模型究竟能做些什么？
陈羽北将先举几个简单的例子，随后邀请Aizip的团队成员万维尔进行演示。万维尔最近从斯坦福的Philip Wang实验室毕业后加入Aizip，目前负责语言模型的研发工作。他将展示一个极其高效的设备人工智能辅助。在此之前，先讲一些已经有的例子。自2020年Aizip成立以来，至今已有四年，在这期间开发了成百上千种不同的模型。每个月，有数百万台搭载我们生产的AI模型的设备在全球范围内投入使用。
例如，在耳机中应用的降噪技术，可以开发出超级高效的算法，精准地分离人声与噪声。这使得用户能够只听到自己的声音，而忽略其他人的声音。此外，耳机还具备语音识别功能，能够识别关键词，并执行唤醒指令，甚至进行模糊语音识别。实际上，这些功能可以集成在一个非常小巧的设备中。或者把你想做音乐的歌唱出来，声音就被设备接收，输出的就只有音乐声，没有人声。这样就可以做一个极限高效的人工智能的模型，把这里面所有的人声过滤掉，因为人声和噪声的区别，就可以把所有的人声去掉，最终只保留音乐声。这就像随时可以去唱卡拉OK一样方便。
像这种应用Aizip做了成百上千，而且不仅仅是声音了，还包括持续性地做人们行为的检测、异常的检测，以及在视觉领域对不同目标的检测和对各种物体的识别等。此外，这些应用的标准不仅体现在演示层面，更重要的是它们能够通过数百万次的现实世界测试，成功应用于实际设备中。
现在给大家准备了一个现场做人工智能代理的演示，由维尔介绍它里面集成了ASR，集成了 TBS所有的语音，作为一个你完全可以拥有的设备上的个人协助，可以使用做一些指令等等。现在维尔会来做讲解，再到实机上进行演示。
因字数限制，更多内容请收听音频
欢迎关注“TSVC“微信公众号观看视频，了解更多早期创投相关话题的干货内容！
加入日常交流群请看海报右下角，添加TSVC小助手，获取更多分享。