Author: aitrendtrackers@rengongzhineng.io

差劲的管理经验与出色的技术经理 许多软件开发人员都有过不好的管理经验。本文将分享这些糟糕的管理技巧，并深入探讨优秀技术经理的特质。尽管本人未曾遇见过一位真正出色的技术经理，但还是尝试总结出一些见解。 最近的经历 上周，技术主管说要和团队进行一次汇报，但至今未有行动。通常这不是什么大问题，但这种情况一再发生，已经超过五次，无法再容忍。 情况分析 这是人事管理问题，更是公司文化问题。让我们看看为什么这很重要以及如何解决。 为什么重要 许多人认为与上司的关系是个人责任，但人员流动往往是由糟糕的管理引起的。良好的管理对于创造健康高效的工作环境至关重要，这不仅仅关乎个人。 技术公司常见的差劲管理迹象 微管理者 过度关注细节的领导往往会导致员工在工作中频繁出错。如果领导总是紧盯不放，员工难以展示自己的能力，微管理会带来极大的负面影响。 忽视管理任务的经理 管理者应该优先考虑管理职责。然而，许多经理反馈迟缓、频繁取消一对一会议、对员工不予回应。如果你有管理任务，应该优先处理并关注下属。 不接受反馈 糟糕的经理通常无法接受反馈，导致行为无法改进。无论是新手还是经理，都应听取意见，不断改进。 不屑一顾 不好的经理可能会轻视员工的意见和贡献，甚至窃取下属的功劳。这种行为不仅不公平，还可能导致员工流失。 缺乏组织 不好的经理通常缺乏组织能力，不准备、不努力工作。如果公司容忍这种懒散工作，员工自然无法期待高效的管理。 优秀技术经理的特质 沟通技巧 优秀的经理能清晰传达期望、反馈和关注点，确保团队成员理解自己的角色和贡献。 同理心和理解 他们了解团队成员的优劣势，提供必要的支持，营造一个包容的环境，让所有人都感到被重视。 委派与信任 有效的经理能有效委派任务，信任团队成员完成工作，并在需要时提供指导和支持。 远见和策略 他们有明确的愿景和策略，将团队目标与公司整体目标对齐，帮助团队理解工作的意义。 适应能力 优秀的经理能根据反馈和变化调整策略，保持灵活性。 反馈与发展 他们提供建设性反馈，致力于团队成员的职业发展，帮助他们成长和进步。 成为优秀技术经理的建议 积极倾听 多听少说，了解团队的挑战和关注点，开放接受改变。 提供明确指示 设定清晰的目标和期望，确保团队知道成功的标准，并支持他们实现目标。 鼓励和支持 鼓励创新和创造力，保护团队免受高层管理的压力，支持他们在犯错时进行改进。 营造积极环境 创造尊重、协作和包容的文化，认可和庆祝成就，以身作则，做到言行一致。 推动持续学习 鼓励团队寻求学习机会和挑战，提供反馈和指导，帮助他们在技术技能和行为方面成长。 结语 经理的角色至关重要。优秀的技术经理不仅管理任务，更能激励、指导和支持团队实现目标。技术经理应具备编程和管理双重能力，这并不是过高的要求，对吧？

2024年4月，Meta发布了最新版本的AI语言模型——Llama 3，其数据集规模是Llama 2的7倍以上。Llama 3最初推出了8B和70B参数规模，表现远超Llama 2、谷歌的开源模型Gemma以及Anthrophic的Claude Sonnet。自那以后，Sonnet进行了升级，成为最强大的AI模型之一。 关键突破 最新泄露的信息显示，备受期待的Llama 3最强大版本——训练参数超过4000亿的模型，可能即将发布。这是Meta众多新模型之一，使用了数十万台Nvidia H100 GPU进行训练。 在早期测试中，经过指令调优的Llama 3 400B在MMLU基准测试中得分86.1，已经达到了GPT-4的一半参数表现水平。这一结果意味着，Meta在模型架构和训练方法上取得了重大进展，足以对OpenAI形成强有力的竞争。 效率与性能 Llama 3 400B能够以更少的参数实现与GPT-4相当的性能，表明其在计算资源、能耗和成本方面可能比ChatGPT 4更高效。大参数模型在基准测试和实际任务中通常表现更好，但Llama 3 400B的高效表现让人们看到了其巨大的潜力。 开源优势 另一个令人兴奋的原因是Llama 3在研究和商业用途下以开源许可发布，尽管400B版本是否会同样开源尚未明确。如果开源，研究人员和开发者将可以免费使用这些最先进的语言能力，通过多种云平台和生态系统，加速创新和新应用的开发。 拥有如此强大的模型将使研究人员能够快速开发先进的语言AI应用，而无需依赖昂贵的专有API。 最新进展 Meta AI自4月18日发布Llama 3的新闻稿以来，就一直在暗示400B模型的发布。“我们最大的模型超过4000亿参数，”当时他们写道，并补充说“在接下来的几个月里，我们将发布多个具有新功能的模型，包括多模态、支持多语言对话、更长的上下文窗口以及更强的整体能力。” 自那时以来，网络上充满了关于400B模型可能发布日期的各种理论和猜测。虽然Meta确认Llama 3 400B的开发已经完成，但尚未公布正式发布日期。 然而，WhatsApp Beta用户在Android 2.24.14.7上发现了一个新选项，可以尝试Meta AI的Llama 3-405B模型。虽然该选项目前仅限于测试用户，并且使用量有限，但这足以让人们对全面发布感到兴奋，可能会在2024年7月底或8月发布。 总结 Meta的Llama 3模型，无论是从数据规模、性能效率还是开源优势，都展示了其在AI语言模型领域的卓越实力。随着400B版本的即将发布，研究人员和开发者将迎来一个崭新的AI时代。

剑桥大学的科学家开发了一种人工智能工具，能够在五个案例中预测四个早期痴呆症患者是否会发展成阿尔茨海默症。 主要研究成果 阿尔茨海默症是痴呆症的主要原因，占60-80%的病例。全球有超过5500万人受其影响，每年的相关费用估计达8200亿美元。预计未来50年病例数将几乎增加三倍。 研究细节 剑桥大学心理学系的科学家团队开发了一种机器学习模型，能够预测轻度记忆和思维问题的个体是否会发展为阿尔茨海默症及其进展速度。研究结果显示，该模型比现有的临床诊断工具更准确。 研究人员使用了从美国研究队列中超过400名个体的常规收集的非侵入性和低成本患者数据，包括认知测试和显示灰质萎缩的结构性MRI扫描数据来构建模型。然后，他们用600名参与者的真实患者数据以及来自英国和新加坡记忆诊所的900人的纵向数据对模型进行了测试。 模型表现 该算法能够区分那些稳定的轻度认知障碍患者和在三年内发展为阿尔茨海默症的患者。它能通过认知测试和MRI扫描准确识别出82%的发展成阿尔茨海默症的个体，并能正确识别81%未发展的个体。 相比现有的标准临床标记（如灰质萎缩或认知评分）或临床诊断，该算法在预测阿尔茨海默症进展方面准确率高约三倍。这表明该模型可以显著减少误诊。 临床应用前景 该模型还允许研究人员根据每个人第一次访问记忆诊所的数据，将阿尔茨海默症患者分为三组：症状保持稳定（约50%）、进展缓慢（约35%）和进展迅速（剩余15%）。这些预测在六年后的随访数据中得到了验证。 重要的是，那些记忆丧失但症状保持稳定的50%患者，可以更好地转到不同的临床路径，因为他们的症状可能由其他原因引起，如焦虑或抑郁。 专家观点 剑桥大学心理学系的Zoe Kourtzi教授表示：“我们创建的工具虽然只使用认知测试和MRI扫描的数据，但在预测一个人是否会从轻微症状进展为阿尔茨海默症方面，比现有方法更灵敏——无论进展快慢。这有助于显著改善患者福祉，显示出哪些人需要最密切的护理，同时减少对那些我们预测会保持稳定的患者的焦虑。在医疗资源压力巨大的时候，这也有助于减少不必要的侵入性和昂贵的诊断测试需求。” 剑桥大学精神病学系助理教授兼CPFT名誉顾问精神科医生Ben Underwood博士表示：“记忆问题在我们变老时很常见。在诊所里，看到这些问题是否可能是痴呆症早期迹象的不确定性，确实让人担忧。能够利用已有信息减少这种不确定性令人兴奋，随着新疗法的出现，这将变得更加重要。” 未来展望 研究团队希望将他们的模型扩展到其他形式的痴呆症，如血管性痴呆和额颞叶痴呆，并使用不同类型的数据，如血液测试的标记物。Kourtzi教授补充道：“如果要应对日益严重的痴呆症挑战，我们需要更好的工具来在最早期阶段进行识别和干预。我们的愿景是扩大我们的AI工具，帮助临床医生在合适的时间将合适的人分配到合适的诊断和治疗路径上。我们的工具可以帮助匹配合适的患者进行临床试验，加速新的疾病修饰治疗药物的发现。” 该项目由剑桥大学与伯明翰大学的Peter Tino教授和新加坡国立大学的Christopher Chen教授合作完成，获得了Wellcome基金会、皇家学会、英国阿尔茨海默症研究中心等多家机构的资助。

Nvidia NIM was rolled out a long time ago, but I haven’t seen it in action yet. In the past few weeks, I’ve played with the OpenAI API and local LLMs. Out of curiosity, I want to see how Nvidia NIM works. This weekend, I tried calling the Llama model and Embedding model on Nvidia’s…

人工智能在未来面临巨大的威胁：能源限制。以当前的标准来看，世界能源电网将无法满足对人工智能产品的预期需求。因此，拥有强大的、参数少于十亿的小语言模型（SLMs），即比GPT-4或Claude 3小数千倍的模型，不仅是一个很好的选择，而且是这个领域生存的必要条件。Meta提出了各种算法创新来创建MobileLLM，这是一种新的最先进模型，可能很快成为这一规模的标准，并防止所有人工智能爱好者预见的伟大承诺最终成为空话。 人工智能在未来将面临许多问题，其中一个主要问题是能源供应。假设技术现状保持不变，我们可能很快面临真正的GPU短缺。NVIDIA未能满足大科技公司在资本支出方面的投资需求，导致了一次由资本支出驱动的GPU短缺。然而，未来可能会出现相对于需求的真正GPU短缺，一旦世界开始大量使用LLMs。根据Meta的数据，在一个大多数人每天仅使用LLMs 5%的未来，我们将需要一亿个NVIDIA H100 GPU来为GPT-4提供服务，以达到每秒50个令牌的可接受延迟。 此外，全球对人工智能的预期需求将导致更严重的能源问题。大多数人认为搜索增强的LLMs（长时间推理模型）是解决方案。这些LLMs在直接响应您的请求之前探索解决方案空间，生成多达数百万个可能的响应，然后才定下来。这种范式不仅使平均令牌生成增加了数量级，还可能需要验证者，即在作者寻找解决方案时验证每个想法的附加模型。 然而，边缘人工智能或“设备上”的语言模型可能是一个解决方案，因为这些模型可以在我们个人设备的电池上运行，从而不需要GPU数据中心。然而，这需要克服质量和电池方面的挑战。目前，最好的AI结果来自文件大小远超TB（太字节）范围的模型，而这些模型在智能手机上的存储和运行存在困难。此外，Meta研究人员计算，在0.1 J/令牌消耗的情况下，一个每秒输出10个令牌的LLM将在两小时内耗尽整个电池。 为了应对这些挑战，Meta提出了一些创新方法，例如在较小规模上使用标准的SwiGLU激活函数，并且优先选择更深的网络结构而不是更宽的。研究人员还提出了共享嵌入和解嵌层，以及分组查询注意力来减少KV缓存的约束。此外，他们发现通过重复块来减少内存层次之间的通信开销可以提高准确性。 总的来说，Meta的研究专注于务实，而不是追求AGI或超级智能等遥远的目标。尽管资本支出投资巨大，但实际收入却相形见绌。过分关注“达到AGI”不仅对资本的有效使用不利，而且在能源方面也不可行。Meta的工作表明，提供卓越性能的次十亿LLMs是人工智能领域的未来方向，这将有助于缓解对云服务的巨大需求，并防止能源危机。

OpenAI，这家运营生成式AI服务ChatGPT的公司，已经暂停了对中国、香港和澳门的服务。 背景 OpenAI通知中国用户，从7月9日起将阻止来自中国、香港和澳门的流量。这一消息由中国国家支持的《证券时报》报道。 生成式AI，如OpenAI的ChatGPT和百度的Ernie，可以生成文本、图像、音乐、计算机代码和其他内容，已经在生命科学、制造、运输、安全和电信等领域得到广泛应用。然而，批评者担心它可能会取代某些类型工作的工人，或不公平地使用人类生成的内容而不给予合理的补偿。 中国已发布指导方针，确保本土AI遵循政策，并且不会泄露来自互联网审查大防火墙外的信息。 脱钩 OpenAI的举动正值美国财政部寻求加强对流入中国科技行业的美国投资的监管，提议全面禁止美国公民和居民对中国的人工智能、量子计算和半导体制造领域的投资。 分析人士表示，这将加速中美两国之间的技术脱钩。OpenAI先进模型（如GPT-4）在中国市场的缺席可能会减缓尖端AI技术的采用和整合，特别是对较小的科技初创公司而言。然而，无法访问OpenAI的大型语言模型也可能会激发本土创新。 国内反应 阿里云对OpenAI的封锁作出反应，宣布其生成式AI平台“百联”将为中国的OpenAI前用户提供替代方案。而百度则推出了一个新套餐，允许前OpenAI用户免费迁移到其AI平台。 根据世界知识产权组织（WIPO）最近发布的数据，中国目前在生成式AI专利方面领先全球。过去十年间，中国提交了超过38,200项生成式AI专利，几乎是美国6,300项的六倍。 尽管如此，美国科技公司通常制造更前沿的AI系统。根据今年的AI指数，2023年美国机构推出了61个著名的机器学习模型，而欧盟推出了21个，中国则为15个。美国也在私营AI投资和新成立的AI初创公司数量上领先于中国，而中国在工业机器人方面领先。 展望 7月4日，中国国务院总理李强在上海的世界人工智能大会上呼吁全球合作和更加开放的心态，强调各国在AI技术、数据和市场上的优势，并呼吁共同合作。他还警告称，迅速发展的AI技术带来的风险需要国际社会的共同关注，并呼吁建立全球AI监管和技术标准。

生成式AI在机器人领域已经展现了巨大的潜力，应用包括自然语言互动、机器人学习、无代码编程甚至设计。谷歌的DeepMind Robotics团队本周展示了另一个潜在的结合点：导航。 在一篇题为《Mobility VLA: Multimodal Instruction Navigation with Long-Context VLMs and Topological Graphs》的论文中，团队展示了如何通过Google Gemini 1.5 Pro教机器人响应命令并在办公室中导航。DeepMind使用了一些自从去年谷歌在大规模裁员中关闭Every Day Robots项目后留下的机器人。 在项目附带的一系列视频中，DeepMind员工以智能助手风格的“OK, Robot”开场，随后要求系统在9,000平方英尺的办公室空间内执行不同的任务。 在一个示例中，一位谷歌员工要求机器人带他去一个可以画画的地方。机器人回答说：“好的，给我一分钟。正在用Gemini思考……”然后机器人带着穿着黄色领结的员工走向一面墙大小的白板。在另一段视频中，另一位员工让机器人按照白板上的指示行事。 一个简单的地图显示了机器人如何到达“蓝色区域”。机器人思考片刻后，带着员工绕了一条长路，最终到达了一个机器人测试区。机器人自信地宣布：“我已成功按照白板上的指示行事。” 在这些视频之前，机器人通过团队称为“Multimodal Instruction Navigation with demonstration Tours (MINT)”的方法熟悉了环境。这个方法实际上是带着机器人在办公室里走动，用语音指出不同的地标。接下来，团队利用层次化的视觉-语言-动作（VLA）方法，结合了环境理解和常识推理能力。一旦这些过程结合，机器人可以响应书面和绘制的命令，以及手势。 谷歌表示，在与员工进行的超过50次互动中，机器人有90%左右的成功率

OpenAI发布五级进化系统，跟踪AI超越人类的进展 OpenAI推出了一种五级评分系统，用于跟踪AI在超越人类智力方面的进展。 这意味着什么？ OpenAI的新AI评分系统从“能聊天”到“能管理整个公司”： OpenAI认为他们几乎要升级到第二级了。他们已经在内部展示了一些可能符合条件的GPT-4新功能。 这个评分系统并非一成不变——他们会根据员工、投资者和董事会的反馈进行调整。 为什么这很重要？ 如果你在家中关注“机器人是否接管世界”这个话题，这为你提供了OpenAI的路线图。它让你窥见了这家最大的AI公司如何看待通用人工智能（AGI）的发展路径。 Anthropic也有自己的框架，称为AI安全等级（ASL），分为三个级别，但它更侧重于安全性（而不是一般能力）。

AI正在改变药物发现和开发的革命 “我们希望将药物发现产业化，”Recursion公司AI和数字科学高级副总裁Imran Haque表示。Recursion成立于2013年，总部位于犹他州盐湖城。公司的愿景是通过AI支持的大规模数据来推动更多药物发现项目。 “我们知道许多[药物候选者]可能不起作用，但[AI将使我们]尽早识别这些失败，”他解释道。 AI的影响 Haque并不是唯一一个认识到AI变革性的人物。Lantern Pharma的首席执行官Panna Sharma也认为，“这将对整个发现和开发链产生巨大影响”。Lantern Pharma是一家位于德克萨斯州的临床阶段肿瘤生物技术公司，使用AI和基因组学创新精准癌症治疗方法。 目前还没有基于AI工具的获批药物，但随着许多AI药物发现公司的管线进入临床试验，突破即将到来。 连接新发现 制药行业已经成功使用计算机和数学模型来识别和设计新药物几十年，但生成式AI——基于深度神经网络和大型语言模型，能够理解和生成文本——带来了巨大变化。 Benevolent AI的首席科学官Anne Phelan解释道：“基于提供的信息，[AI模型]几乎能够思考并提出以前未知的东西。”Benevolent AI成立于2013年，总部位于伦敦，是AI增强药物发现的先驱之一。 许多公司使用AI提供新目标的路径，允许他们做出新的推论和连接。Benevolent AI最近宣布其BEN-8744在Ia期试验中取得了积极的安全数据，这是一种口服磷酸二酯酶10（PDE10）抑制剂，正在开发用于治疗中重度溃疡性结肠炎。 Benevolent的平台将临床和化学数据库中的结构化数据与科学文献中的非结构化数据连接起来。Phelan表示，这给了他们“一团巨大的互联事实”，对于人类来说“太快无法导航”。 “非结构化数据通常是书面文本，我们开发了许多自然语言处理能力，训练了许多非常科学的词典，可以读取书面文本并进行解释，”她解释道。 Benevolent使用这一过程识别PDE10作为溃疡性结肠炎的新目标。“在现有的生物医学文献中没有明确指出PDE10对溃疡性结肠炎有用，”Phelan说。但Benevolent的平台能够将目标在调节炎症和肠道离子通道中的作用信息联系起来，做出新的推论。 “即使所有这些外围信息存在，没有人真正将其汇集在一起……我们能够跨越整个生物医学数据。” 精准肿瘤学 AI在研究和开发中的早期应用之一是重新利用现有药物，被认为是“低垂的果实”。例如，Recursion的当前管线包括三种用于罕见疾病的重新利用药物——两种肿瘤药物和一种超氧化物清除剂——在II期临床试验中。然而，公司现在已经转向肿瘤药物。2023年，Recursion与AI支持的精准医学专家Tempus签署了合作协议，使Recursion能够访问Tempus的去身份化患者中心肿瘤数据集，包括DNA、RNA和健康记录，并结合其自己从基因敲除调查中生成的体外数据。这样，Recursion能够训练其AI模型发现新的肿瘤生物标志物和目标。 Lantern Pharma也选择专注于精准肿瘤学。这个疾病领域具有吸引力，因为已经生成了大量数据，可以用来训练AI模型以指导决策，这比其他疾病领域的数据更多，Sharma说。 Lantern的AI平台——‘药物重新定位和救援反应算法’（RADR）——目前拥有超过600亿个专注于肿瘤学的数据点，预计到2024年将进一步增长到1000亿。这些数据来自内部和已发表的研究、临床试验和公共存储库，并由Lantern的200多个高级机器学习算法库分析，以预测患者对药物候选者的反应。 新分子开发 Benevolent还利用其AI能力加速新分子开发，使用算法来模拟和预测蛋白质中的结合口袋。这种方法用于开发其PDE10抑制剂BEN-8744，因为现有的用于验证目标的抑制剂会渗透到大脑中，可能产生不良副作用。Benevolent能够迅速设计出一种具有选择性但周围受限的强效替代分子。“我们从将这个项目引入我们的投资组合到交付临床质量候选者仅用了两年时间，”Phelan说。“下一步将是将其推向患者。” Recursion采用不同的方法来发现药物，基于其AI驱动的成像技术创建所谓的“生物学地图”。其1536孔高通量系统可以从人类细胞测定中收集显微图像，探测在不同基因被敲除或添加不同化合物时的变化。“然后我们字面上拍照，看看它们在疾病状态与健康状态下是否看起来不同，以及我们的化合物是否让它们看起来更健康，”Haque解释道。 该公司然后将图像输入其内部训练的AI模型，以提取指示样本间生物差异的特征。目前，该系统可以在每个图像中识别出1000种不同的特征。“这被证明是一种非常强大的能力，”Haque说，这是其同时推出数百种药物管线的基础。 未来展望 虽然AI在药物发现中的应用还在发展，但其潜力巨大。通过减少早期发现的时间和成本，提高临床试验阶段的成功率，AI有望彻底改变药物发现和开发流程，为患者带来更好的结果，并在开发未来药物中发挥关键作用。 总结 尽管面临许多挑战，AI在药物发现和开发中的应用正在逐步显现其巨大潜力。通过加速新药开发过程，减少成本，并提高成功率，AI正成为制药行业不可或缺的工具，推动药物发现进入新时代。

生成式AI推动药物发现革命：加速开发过程，降低成本 基于大型语言模型（LLMs）的生成式AI技术，正彻底改变多个行业，包括药物发现领域。通过利用AI解码和操作生物和化学语言，制药公司如今可以更快、更经济地开发新药。本文将探讨生成式AI如何转变药物发现，加速开发过程并降低成本。 生成式AI在药物发现中的作用 生成式AI传统上与理解和生成人类语言相关，但其潜力远不止于此，还包括生物和化学的复杂语言。例如，人类DNA可以被视为一个由30亿个字母组成的独特语言。蛋白质是生命的构建模块，其字母表由20种氨基酸组成。化学物质使用简化分子输入行表示法（SMILES）定义其结构。 生成式AI能够解释这些语言，帮助发现和开发新药疗法。通过将LLM类型的方法应用于这些生物和化学语言，AI模型可以揭示以前无法观察到的见解，加快药物发现过程并显著降低成本。考虑到新药疗法的高失败率——只有10%在临床试验中成功——任何提高效率、减少时间和成本的技术都具有高度价值。 在每个阶段增加价值 生成式AI可以应用于药物发现的各个阶段： 生成式AI使制药公司能够以前所未有的规模、速度和准确性探索潜在的新药物，加快进入临床试验的进程。 AI在药物开发中的案例研究 多家公司在利用生成式AI进行药物发现方面处于领先地位。一个值得注意的例子是Insilico Medicine，该公司使用AI开发了一种用于特发性肺纤维化的药物，这是一种导致肺功能逐渐衰退的罕见疾病。传统上，这个过程需要六年时间和超过4亿美元的成本。通过生成式AI，Insilico将成本降低到十分之一，时间缩短到两年半。 Insilico的AI在药物发现的每一步都发挥了作用：识别靶标分子、生成新的药物候选物，并预测临床试验结果。他们的成功还包括开发一种对所有变种有效的AI生成的COVID-19药物，并启动了超过30个其他项目，针对包括癌症在内的各种疾病。 药物开发的未来 生成式AI对药物发现的影响是革命性的。它承诺以更低的成本更快地治愈多种疾病。凭借AI解码复杂生物和化学语言的能力，可以预见一个新药开发更快、更高效且成功率更高的未来。生成式AI不仅是技术进步，更是医疗保健的颠覆性变革，承诺为全球患者带来更好的结果，并在开发未来药物中发挥关键作用。