流动的硅谷：AI大潮、大厂探秘及华人国际化
这次在硅谷前后呆了有六周，来时盛夏，离开时刚刚过了立秋。加州的阳光永远灿烂，在科技最前沿的这里，涌动着AI的浪潮。因为希望更深入地了解AI发展和方向，我见了不少人（包括大厂的朋友们、创业者和投资人），参加线上线下活动，真切感受到大潮初起时的澎湃。这里采撷几朵浪花，跟大家分享。
01疫情过后：人力短缺和远程工作
疫情已成为过去时，不过也许因为我是初来乍到，看到三年留下的痕迹格外清晰。其中感触最深的是人力短缺和远程工作的影响。
人力短缺
硅谷人力短缺明显，加之近来通货膨胀，结果就是人工非常贵。有次我用Uber Eat叫了subway外卖，三明治本身8元，但是外卖费用林林总总加起来，一共17元，多了一倍还不止！我之前在西雅图生活多年，一直知道美国人工不比中国，但是看到这个还是吃了一惊。了解了下，一大原因是疫情期间，因为担心传染等，不少人离职或提前退休。加上前两年政府发钱，工作的人少了很多。跟一位做AI教育的创业者聊，他说教师的短缺非常严重。这是整个美国面临的问题，不知道将如何解决。
远程工作
而疫情期间开始的远程工作影响更大，尤其是新毕业的大学生们。有两位朋友自己创业，他们都分别跟我提及这个问题。疫情要求隔离，大学生在校时就没有机会去公司实习。毕业后工作又是远程，没有过跟同事相处的经历。这些导致他们不知道如何进行团队合作，lead也很难远程指导。他们招过很好学校的毕业生（包括斯坦福），学生潜力很好，因为不会合作最终都不得不让他们离开，很可惜。
现在大厂陆续开始要求员工来公司上班，不过还没有恢复到疫情前。多年前我在Expedia团队招的毕业生，现在是一家AI公司创始人。他觉得远程工作很影响效率。疫情期间，他不敢要求员工来，担心要求了员工离职。目前他在看大厂的节奏，等大厂明确要求了，他就会跟上。我在大厂和创业公司看到的实际情况，来办公室上班的人还是有限。跟朋友们讨论，大家对此的态度也不完全一致。总体上一个人管理的团队越大，对远程工作这个方式越不满。大家觉得慢慢会恢复到从前，但是也不太可能一蹴而就。
说个有趣的观察。Google、Meta等大厂都在Palo Alto和Mountain View，导致附近的房价很贵，远些的地方房子就便宜很多。因为远程工作不用来公司，结果这两年远些地方的房价也涨势甚好
02AI大潮：格局初定，非常早期
我关注的重点是AI。总结一下，这一个多月以来在硅谷关于AI的几点观察和判断。
大模型和GPU
大模型本身的行业格局初定。跟中国百模千模大战不同，硅谷有几个大模型胜出，闭源主要是OpenAI和Google，Anthropic也可以算上，开源是Meta Llama-2等。因为通用大模型的投入极高，需要大量人力、算力和资金，格局看上去基本确定，没有什么新的入场者。
GPU依然短缺，无论是大厂还是创业公司。大家都在找GPU。NVIDIA的学弟给我科普了GPU生产过程，是从准备矿砂讲起的。硬件不是我关注的重点，我了解有限。听上去由于生产周期很长，导致短期内GPU的短缺，长期应该ok。
AI非常早期
说起AI领域现状，一位投资人朋友形容得很生动。他说现在就像天还没亮，每个人都拿着个手电筒在四处照来照去，寻找方向。还没有到当年移动互联网真正兴起的情形。我跟不少朋友聊过，包括大模型开发者、使用大模型的大小公司、以及围绕大模型提供产品服务的Infra/工具的创业公司。总体的判断是大模型应用还在非常早期。
有个例子很有代表性。我有位朋友，之前是一家非常有名的上市公司的VP of Engineering；这几年出来创业，做eCommerce平台相关，有一百多员工，背后有美国几家知名基金投资。她的业务用得上大模型，最近她在探索怎么做，做了两个尝试。一是在MosaicML模型上，对私有数据进行fine tune。一是用GPT-4，把私有数据放在vector database，用search-retrieval把对应信息放到prompt里。两者对比，出乎她意料的是GPT-4居然比fine tune的结果要好。她很困惑，不知道fine tune应该怎么做才有效果。需要什么样的数据，用多少数据，如何finetune, 这些都不大清楚。而且，大模型是个黑盒，她觉得做大模型的人也未必对此很明白。另外，她说MosaicML用起来的体验并不好，不过也没有别的工具供选择。GPT-4虽然效果不错，她的私有数据又不可能公开，用来测试可以，正式产品是不行的。她觉得现有团队这方面的技术力量有限，接下来计划招AI工程师来解决这个问题。
我听了有点吃惊。因为她本人很资深，整个创业团队背景光鲜，技术实力不错。她如果还不清楚如何有效地fine tune，那其他公司可想而知。她的这个结果对比（fine tune不如GPT-4 search-retrieval），也不是特例，我听到多个类似的例子。我另一位朋友的创业公司是提供AI工具，服务大的企业客户。他说，大模型对大企业是全新的技术，他的客户们都是刚刚开始考虑，他们对于模型的精准度、速度、需要准备的数据质量和隐私问题，尤为关注。客户对于具体要用AI解决哪些业务问题，也在探索中。他判断至少要6-12个月大企业才可能在内部落地使用。
可见这一轮AI还处于非常早期的阶段，C端还没有看到killer app（除了ChatGPT）, B端落地也需要时间，AI infra和工具层，应该还有很大的发展空间。比如Databricks花13亿美金收购MosaicML，就是希望尽快建立起AI能力赋能给客户。
这里我看到两个积极信息：
- 正是因为还在早期，工具不完善，大企业没有现成的技术可用，才给创业公司留出了空间。如果大公司马上就能用起来，他们有自己的数据和场景，创业公司的机会就少多了。这是跟硅谷徐老师Howie讨论时，他提的观点，我很有共鸣。
- 大企业迫切地想利用起AI，至少很有危机感。我了解到，针对这轮GenAI，很多企业内部都设立了专门的预算。钱既然准备好了，即便在早期发展慢些，AI的前景还是很光明，不太容易凉凉。
为什么感觉这两个月AI发展慢下来了？
不知道大家感觉如何，比起年初，最近两三个月我感觉AI领域的节奏明显慢下来了。为什么是这样？观察下来，大致如下：
- 跟OpenAI的策略有关。这波节奏主要是OpenAI引领，它之前一直在憋大招，把过去两三年的成果（比如GPT-3)，从去年年底起用两三个月的时间都放出来，让人感觉目不暇接。经过这段时间追赶，Google成为强有力的对手，如今OpenAI也不敢随便推出没有ready的产品，否则得不偿失。所以，最近没有特别大的变化，感觉上可能比之前慢了。其实，我觉得这才是技术应有的节奏，本来就没有那么快。
- 创业者在埋头Build了。我在硅谷AI社区做了个讲座，谈到这个问题。社区的反馈，年初时创业者们忙着参加各种会议/讲座/meetup学习讨论，想弄明白GenAI是怎么回事。最近大家对大模型技术基本清楚了，开始忙着花时间构建自己的产品。外面看起来，好像没之前那么热闹了。
- 在研究领域，一篇篇论文还是在不断发表，并没有变慢。
一级市场的确慢下来
整体一级市场的投资节奏感觉有所减慢。主要跟大环境相关。人们觉得未来经济走势不明朗，而俄乌战争又增加了不确定性，影响人们投资的信心。另外，疫情期间政府大放水导致很多创业项目估值涨得很高，现在还在估值回调的过程中。在这个大背景下，AI领域的一级市场其实相对算好的。不过因为还在很早期，我观察到除了真正做大模型的有竞争力的项目（包括character.ai 其实也是在做大模型）拿到了很多钱，其他的AI创业项目，现在融资并不容易，投资人很多在观望。
03大厂探秘：OpenAI，Google，NVIDIA
这波AI大潮中，OpenAI & Microsoft、Google和NVIDIA成为时代的弄潮儿。其中三家总部在硅谷，我特地去了解了下，总结下可以分享的信息。
OpenAI
OpenAI对信息保护非常在意，员工对此也很敏感。我了解到的不是很多，有几点印象相对深刻。
跟OpenAI合作的人都提到，他们的员工很能干，非常高效。它的系统性能和监控做得尤其好，工程能力很强。也许，Infra的工程能力 – 如何更高效地利用硬件、提升性能等，是它的一个核心壁垒。
OpenAI执着于AGI，这点我具体聊下来才真正有些体会。他们内部判断工作优先级，会看这个能不能帮助AGI发展。如果能够更好地训练模型，帮助模型学习，那会去做；否则不会花功夫。比如他们之前做过机器人，觉得受实际物理世界的制约很大，对AGI帮助有限，后来就停了。照此推断，它大概率不会去做垂直领域。
ChatGPT出现前，用户对LLM效果如何是没有感知的。让用户感知到是非常重要的。除了AGI，ChatGPT和API也是OpenAI的重点。
之前Google在AI推进上比较慢，除了跟广告业务冲突，还跟两件事相关。一是有位研究员觉得大模型有意识，被解雇。再之前，有位黑人女性员工因为发论文被拒，告Google。这些让Google对AI变得非常谨慎，减缓了AI的进度。
Google一直觉得自己是领先的，直到ChatGPT出现，给到Google很大的压力。12月份内部开始code red（最高优先级），是比较少见的。现在公司上下对GPT非常重视，有专门团队做GPT（DeepMind和Google Brain合并），也鼓励其他团队尽快把AI用上。我有不少朋友在Google，聊起来，他们对Google有信心，觉得这方面Google至少不会落后。
NVIDIA
这次LLM大潮，NVIDIA成了最大的赢家。我其实对这家公司一直关注不多，因为我的经历和兴趣都在软件方面。这次好好了解了一下，发现很有意思，这里多分享一些。
一个人的Startup
NVIDIA的风格，概括说，是老黄Jason一个人的创业公司。在那里工作的朋友对Jason非常佩服，我听下来感觉Jason是个Superman