在人工智能的世界中,开发者有许多工具和技术可以用来创建基于大型语言模型(LLM)的应用程序。而最近,一款名为 Haystack 的开源框架正在崭露头角,成为构建 AI 应用的强大工具。本文将详细解读 Haystack 的独特优势,并探讨其在 LLM 生态系统中的竞争力。最后,我们将通过一个 RAG(检索增强生成)案例来展示其实际应用。 什么是 Haystack? Haystack 是一款专为开发 LLM 应用设计的工具包,它特别适用于处理大量文本或文档的场景。Haystack 的特点是代码量少、易于上手,可以快速搭建生产级别的 LLM 应用。正如其名字暗示,Haystack 就像一组可以自由组合的积木,用于创建各种类型的 AI 系统。 以下是一些 Haystack 可实现的功能: 在 Python 3.10 环境中,只需一行代码即可安装: Haystack 的核心工作原理 Haystack 的运作基于两个核心概念: 通过灵活组合不同的组件,开发者可以创建能够执行复杂任务的 AI 系统。 Haystack 的主要特性 1. 灵活性 Haystack 支持多种 AI 模型(如 OpenAI、HuggingFace)和数据存储系统(如 ChromaDB、Pinecone,甚至是 Neo4j)。 2. 易用性 无需深入了解 AI 复杂细节,即可使用 Haystack 构建应用。 3….
Author: aitrendtrackers@rengongzhineng.io
美国司法部(DOJ)提交了Google最终判决建议
昨日晚间,美国司法部(DOJ)提交了最终判决建议,正式提出一系列广泛措施,旨在终结谷歌对搜索市场的垄断地位。 毫不意外,谷歌对司法部的方案极其不满。该提案要求谷歌出售其 Chrome 浏览器,并保留进一步措施的选项——若行为纠正未能有效提升市场竞争,还可能强制谷歌剥离 Android 业务。除此之外,谷歌被禁止与其他浏览器和设备制造商签署独家默认设置协议,无法再开发新浏览器,还需资助公众教育项目,教导用户如何切换搜索引擎,甚至可能支付用户进行转换。此外,谷歌可能会被限制利用其数据规模优势强化 AI 产品。 对此,谷歌首席法务官 Kent Walker 在博文中猛烈抨击该计划,称其为“激进的干预主义议程”。他指责该提案“远远超出了”今年8月美国地方法官 Amit Mehta 针对谷歌垄断行为的裁定范围。 司法部的计划中,哪一部分最让谷歌抓狂?Walker 表示,出售 Chrome 不仅“危及数百万美国人的安全与隐私”,还会“削弱”全球最受欢迎的浏览器的质量。他还认为,禁止默认设置协议将损害像 Mozilla 这样的企业,后者依赖谷歌的收入分成来支持 Firefox 等产品的发展。(对此,Mozilla 曾多次拒绝评论谷歌的这一论调。)另外,他指出,限制谷歌 AI 业务的发展,是在“阻止谷歌在可能是最重要的创新领域发挥领导作用”。 Walker 还批评司法部要求谷歌资助技术委员会,以确保其无法规避修正措施,称美国政府的这一举措是“强制性微管理”。 但归根结底,Walker 的博文大多是在重申谷歌在垄断案庭审中失败的论点,表明谷歌根本不同意 Mehta 的裁定。即便是一些专家认为相对温和的措施,例如要求设备提供搜索引擎选择界面,而非预装谷歌搜索作为默认选项,也被 Walker 描述为“离谱”。 “司法部的提案甚至要求用户在使用 Pixel 手机访问谷歌搜索前,必须经过两个不同的选择界面,”Walker 写道,“而且这些界面的设计还需要技术委员会批准。这只是冰山一角,真希望这是在开玩笑。” 谷歌在未来几个月将有足够时间对司法部的提案提出抗辩。司法部计划于 2025 年 3 月 7 日提交最终修订版本。此外,在审理补救阶段的证据发现过程中,司法部可能随时调整其方案,随后谷歌可提出上诉。 特朗普会否阻止 Chrome 被出售? 有可能。候任总统唐纳德·特朗普曾在竞选期间表示,可以通过“更公平”的方式来终结谷歌垄断,而无需拆分其业务。他或许会对此进行干预。 美国经济自由项目(American Economic Liberties Project)的反垄断律师 Lee Hepner…
苹果正在秘密研发全新一代 Siri,代号为“LLM Siri”
苹果总部传出的内幕消息透露,苹果正在秘密研发全新一代 Siri,代号为“LLM Siri”。据说,这款新产品经过13年的酝酿,目标直指 OpenAI 的 ChatGPT 和谷歌的 Gemini Live,誓要重新定义语音助手。 这款全新 Siri 将搭载大型语言模型(LLM),支持更自然流畅的双向交流,还能更快、更高效地理解并完成复杂任务。不仅如此,用户期待已久的“高级语音”功能也在其中,可能会彻底颠覆现有界面。 与目前的 ChatGPT 高级语音模式相似,升级版 Siri 不仅可以对话,还能更深入地获取个人信息,操控第三方应用。更有趣的是,得益于苹果智能(Apple Intelligence)的强大支持,新 Siri 还能进行文本概括和创作,让工作效率大幅提升。 据内部消息透露,最早可能在明年 iOS 19 发布时,一小部分忠实果粉能率先体验这款语音助手。而对于其他用户,这款产品要等到2026年春天才能普及,离现在还有一年半的时间! 回顾今年6月,当苹果首次提到“Apple Intelligence”开启语音助手的全新时代时,这些传闻就已开始发酵。随后,苹果软件副总裁 Craig Federighi 也暗示过,新版 Siri 的表现将超越 ChatGPT,而招聘公告中提到的“语音助手技术”更是直接戳中了外界的好奇心。 不过问题来了,在谷歌和 OpenAI 的相关产品早已上线的情况下,苹果让用户多等一年,这款“新 Siri”究竟能否掀起革命性浪潮?毕竟,在 AI 领域,时间从来不等人啊!
四十多岁是创业的最佳时期?
许多人认为,四十多岁是创业的最佳时期。这个阶段,既有丰富的经验,财务状况相对稳定,又渴望迎接新的挑战。听起来确实很有道理。四年前,有人带着这样的信念,全身心投入,开始打造自己的梦想事业。结果证明,这份努力并非徒劳,业务成功实现盈利,年收入达到六位数。 然而,仅仅三个月前,这个事业的主人却选择了放手。 回过头来看,如果能重新来过,也许最重要的建议就是:别把所有的一切都押上。 首先是身体上的挑战。无可否认,年龄增长带来了改变。年轻时,熬夜是家常便饭,即使只睡四个小时,也能咬牙完成任务。但现在,少于六个小时的睡眠就会让整个人无精打采。有时候甚至需要小睡恢复体力,哪怕只是短短的30分钟车程,也能让人感到疲惫不堪。这让人不禁感叹,那些长途卡车司机是如何坚持下来的。 其次是心智的压力。科学研究表明,45岁之后,大多数人的学习和思考能力开始逐渐下降。而这一点在创业初期尤为明显。当时,很多新事物需要学习,比如如何利用社交媒体引流、搭建自动化系统、管理表格,甚至计算损益。这些对一个没有相关背景的人来说都是全新的领域,学习起来需要投入大量时间和精力。虽然随着年龄增长,思维敏捷度有所下降,但通过多年的经验积累和勤奋努力,依然能够迎难而上。尽管效率不如年轻人,但坚持的毅力弥补了很多不足。 财务风险是创业过程中不可忽视的难题。即便选择了低成本的模式,比如手工制造,依然面临培训、系统建设、原材料采购等高额支出。随着业务规模扩大,开销也随之增加。没有稳定的收入来源时,很多人只能动用存款来支撑业务,同时还要储备资金应对突发状况。比如货运延误导致销售中断、额外的关税挤压利润空间、快递遗失包裹需要重新生产等问题。更糟糕的是,有些人因为货物质量问题直接损失了数万美元。 面对这种财务上的不确定性,很多人被迫压缩开支。度假成为奢侈,日常消费也小心翼翼,甚至开始担忧未来是否能存够养老金。与其冒险,不如更理性地规划自己的财务状况。 此外,还需要为自己留一条退路。在二三十岁时,创业失败后可以轻松重返职场。但到了四十多岁,这样的灵活性就大打折扣。一方面,职业空窗期可能让求职者显得“脱节”;另一方面,即使愿意从基层做起,也可能因为“过度资历”而被拒绝。许多数据显示,大部分人的收入高峰期在45岁到54岁之间。一旦错过这个关键阶段,职业发展轨迹基本定型。 创业并非没有价值。它教会了人们普通工作无法传授的生存技能,磨炼了心态和行动力,让人变得更加成熟。然而,如果有人告诉你“40多岁是创业的最佳时间”,请务必谨慎思考,尤其是不要把所有的积蓄押在一个不确定的项目上。这是一次深刻的教训,特别是在财务层面。幸运的是,有人最终回归全职工作状态,重新找到平衡,并对退休规划充满希望。 未来是否会再次创业?可能会,但下次一定会更加小心,不会轻易孤注一掷。
迈向“代理系统”
两年前,ChatGPT 的推出堪称人工智能研究的分水岭,不仅重新定义了面向消费者的 AI,也激发了各类企业探索 GPT 或类似模型如何在各自的业务场景中发挥作用。转眼到了 2024 年,如今语言模型生态系统蓬勃发展,无论是敏捷的初创企业还是大型企业,都在结合诸如检索增强生成(RAG)等方法,用于内部协作助手和知识搜索系统。 AI 的应用场景呈指数级增长,与之匹配的企业级生成式 AI 项目投资也在迅速增加。毕竟,这项技术每年预计为全球经济贡献 2.6 至 4.4 万亿美元。不过,当前的生成式 AI 还只是第一波浪潮。 下一阶段:迈向“代理系统” 最近几个月,许多初创公司和大企业(如 Salesforce 和 SAP)开始迈向“代理系统”的新阶段。这些代理不仅能够基于内部知识(通过 RAG)回答关键业务问题,还能作为自主的任务导向型实体,根据指令或情境决策、制定详细的行动计划,并在数字环境中灵活执行任务,比如使用在线工具、API 等。 这种转变标志着 AI 从单纯的自动化向高度自主化发展的重大飞跃。企业可以轻松部署虚拟助手军团来处理各种任务,例如订票或跨数据库数据迁移,大幅节省时间。根据 Gartner 的预测,到 2028 年,企业软件应用中将有 33% 集成 AI 代理(目前不足 1%),而这些代理将自主做出约 15% 的日常业务决策。 但问题来了:既然 AI 代理前景如此广阔,企业如何将其融入技术栈,同时保证高精准度?毕竟,没有企业愿意看到 AI 系统因无法理解业务细节而犯错。 数据策略:AI 成功的核心 对此,Google Cloud 数据分析副总裁 Gerrit Kazmaier 强调,关键在于构建完善的数据策略。他表示:“数据管道必须从‘存储和处理数据的系统’演进为‘创造知识和理解的系统’。这意味着要从单纯收集数据转向精心策划、丰富和组织数据,以支持大型语言模型(LLM)成为值得信赖的智能业务伙伴。” 为 AI 代理构建数据管道 过去,企业主要依赖结构化数据(表格形式)进行分析决策,但这只占了实际数据的…
500强企业Copilot的采用率已达到75%
关于人工智能领域,有两件事是毋庸置疑的。其一,这个行业正在以惊人的速度飞跃发展。其二,成千上万的客户已经在使用微软的人工智能技术,通过早期押注这些平台,不仅获得了巨大的当前收益,也为未来的人工智能升级浪潮奠定了基础。 在微软每年的旗舰活动Ignite大会上,客户、合作伙伴和开发者将齐聚一堂,探索如何充分释放微软技术的潜力,重新定义工作方式。今年大会发布了约80款全新产品和功能,包括Microsoft 365 Copilot的最新升级、Copilot+AI技术堆栈的新功能,以及全新的Copilot+设备方案。所有创新的核心,是微软对安全性的承诺。一年前启动的“安全未来计划”(Secure Future Initiative,简称SFI),让安全成为微软每位员工的首要任务,34,000名工程师专注于此。在本次Ignite大会上,微软将推出符合SFI原则的创新技术,全面贯彻“设计即安全、默认即安全、操作即安全”的理念。 今年的Ignite吸引了超过20万注册者,其中有14,000多人亲临芝加哥的线下活动。参与者可从800多个会话、演示和专家实验室中选择,无法现场参会的用户还可以通过点播形式获取绝大部分内容。 Microsoft 365 Copilot:势不可挡的AI助手 Microsoft 365 Copilot作为工作场景中的AI助手,正在引领行业趋势。据统计,近70%的《财富》500强企业已经在使用Microsoft 365 Copilot。研究机构IDC的一项调查显示,生成式人工智能的采用率已在2024年达到75%,企业每投资1美元,就能获得3.7美元的回报,部分领导者甚至称其回报高达10倍。 案例中提到的用户成果令人印象深刻: 微软正在持续扩展Copilot的生产力功能,例如通过“Copilot Actions”简化日常任务,或通过SharePoint智能助手、实时语言翻译和员工自助服务代理等新功能,帮助企业以更高效的方式完成工作。 Copilot + AI 堆栈与Azure AI Foundry 为支持用户设计和管理更先进的AI应用,微软推出了Azure AI Foundry。这一统一平台提供了包括预制应用模板、简化编码工具以及集中管理功能等一系列资源,帮助开发者和企业以负责任的方式扩展AI应用。 此外,新功能还包括专注于安全与合规的AI报告和图像内容风险评估工具,为组织创建更透明、更安全的AI使用环境。 Copilot+设备:云端新时代 微软正在扩展其云PC解决方案,推出了一款全新设备——Windows 365 Link。这是一款专为连接Windows 365设计的设备,确保用户能够在几秒内安全访问云端桌面。定价为349美元,预计2025年4月开始销售。 Windows 365 Link没有本地数据或应用,用户无需本地管理员权限,从设计上确保数据留存在微软云中。此外,原生处理单元(NPU)的引入,将带来更高效的AI本地化处理能力。 与BlackRock的合作与安全承诺 在安全领域,微软宣布举办史上最大规模的公开安全研究活动——Zero Day Quest。这一专注于AI和云安全的赛事将提供400万美元的奖金池,旨在吸引全球顶尖的安全人才解决关键问题。 与此同时,微软推出了全新的“安全暴露管理”功能,结合微软的图数据和客户的第三方安全工具,帮助团队可视化潜在攻击路径,从而阻止威胁入侵。 更多创新与未来展望 本次Ignite的亮点不仅限于此。通过大会主旨演讲,用户可以深入了解微软领导团队如萨提亚·纳德拉和其他高管分享的前瞻观点。此外,“Book of News”也将为大家提供关于所有公告的完整汇编,供用户进一步探索。 通过这些新发布的技术与创新,微软正在为AI驱动的未来开辟全新道路,让技术成为更广泛社会变革的推动力。
微软最新的 AI 代理现在支持接入 1800 多种模型
企业界如今对 AI 代理充满热情,但业务领导者更关注实际成果和相关用例,而非那些仍显未来化的概念。他们需要易于部署和使用的工具,并希望这些工具支持他们偏好的模型或技术架构。 微软在 Microsoft Ignite 2024 大会上宣布,Microsoft 365 Copilot 引入了全新的无代码和低代码功能,能够满足企业的这些需求。用户现在可以创建自定义的自主代理,或者直接部署现成的专用代理。这些代理支持“自带模型”设置,能接入 Azure AI 库中超过 1800 个模型。 微软 AI 和研究部门企业副总裁 Lili Cheng 表示,企业已进行了大量的 AI 实验,现在希望能够衡量和理解代理如何帮助提升效率、改善性能并降低成本与风险。微软推出的新功能正是为了帮助企业扩展 Copilot 的应用规模。 据 IDC 预测,未来 24 个月,越来越多的企业将构建定制化的 AI 工具。从 Salesforce 和 Snowflake 等科技巨头到 CrewAI 和 Sema4.ai 等小型平台,供应商正在加速推动市场变革。微软的新功能则进一步支持企业“自带知识”和“自带模型”的需求,让用户能够安全地使用专有数据,灵活组合和测试不同模型,避免被单一平台束缚。 通过 Copilot Studio,用户可以使用模板快速创建常见场景的代理(例如销售订单代理和交易加速器代理)。对于更高阶的开发者,微软还提供了全新的 Agent SDK(目前为预览版),支持开发完整的多渠道代理,能与 Microsoft 服务、第三方服务以及网页渠道集成。 Azure AI Foundry 的新功能支持用户添加自定义搜索索引作为知识来源,并通过 SDK 提供简化的开发和管理工具链,适用于定制和部署 AI…
微软 Ignite 2024 大会
微软 Ignite 2024 大会正式召开,为开发者和 IT 专业人士带来一系列新功能的亮相,涵盖 Windows、Microsoft 365、Azure 以及 AI 的最新进展。今年大会依旧聚焦人工智能,彰显微软的技术前沿实力。 Windows 11 将迎来任务栏的全新升级,新增 Microsoft 365 助手功能。用户可以通过任务栏快速访问联系人、文件和日历,显著提升工作效率。微软 Windows 负责人 Pavan Davuluri 表示,这些数据只需点击即可获取,极大简化日常操作。 微软计划在未来几个月内更换 Microsoft 365 应用图标,新图标与 Copilot 设计一致,取代现有的蓝紫配色。这一品牌调整引发了用户对 Copilot 定位的进一步关注。 Azure AI Foundry 平台全新上线,旨在帮助企业高效管理 AI 工具,将前沿技术与实际业务场景结合,释放 AI 的全部潜能。微软表示,这个平台将成为企业迈向智能化的重要桥梁。 Windows 的完整功能将于 12 月支持 Meta Quest 3 混合现实设备。用户可以通过头显实现多屏工作站体验,开启全新的生产力模式。不过,Windows 体积化应用的具体发布时间仍在等待进一步确认。 微软宣布推出全新黑客活动“Zero Day Quest”,规模为业内最大。活动聚焦云和 AI 安全漏洞研究,总奖金高达 400 万美元。微软工程副总裁 Tom…
Google最新推出的Gemini记忆功能
Google最新推出的Gemini功能可以“记住”用户的一些信息,比如兴趣爱好和个人偏好。这项更新目前正在向拥有Gemini Advanced访问权限的订阅用户逐步推送。根据Gemini的最新发布说明,这项功能将帮助AI聊天机器人根据用户需求量身定制响应内容。 Google表示,用户在与Gemini聊天时,可以分享关于工作、兴趣、爱好甚至未来目标的相关信息。此外,还可以通过机器人内的“保存信息”页面手动输入一些重要细节,比如让它只推荐素食食谱,或者告诉它你是一名会计师。 值得一提的是,用户可以随时在“保存信息”页面查看、编辑或删除Gemini所收集的数据。每当Gemini在回复中使用了用户提供的信息时,系统会进行标注。目前,Gemini Advanced功能需要订阅Google One AI Premium才能使用,并且暂时只支持英文版本。 OpenAI方面也不甘示弱,今年4月就为ChatGPT Plus用户上线了类似的记忆功能。与Gemini类似,ChatGPT也能够记录用户在对话中提到的信息,比如最喜欢的食物或养了什么宠物。两家巨头在AI个性化服务上的较量正在逐步升温。
新晋AI电商玩家:Perplexity带来“智能购物”新体验
要点总结: 由亚马逊支持的AI初创公司Perplexity,近期正式进军电商领域,推出全新购物功能“Perplexity Shopping”。目前,这项功能已面向美国的Pro订阅用户陆续开放,目标是将AI搜索技术与在线购物相结合,创造一站式消费体验。 根据Perplexity周一发布的博文,用户无需跳转至其他网站即可在平台内浏览商品信息并完成购买。当用户输入查询内容时,系统会生成产品卡片,显示价格、卖家等详细信息,方便消费者直接比较选购。 高效便捷的购物功能 除了产品卡片,“Perplexity Shopping”还提供了一键结账功能,适用于已保存支付信息的用户。另一个亮点是“Snap to Shop”功能,用户只需上传图片,系统即可定位相关商品。这一功能与亚马逊的视觉搜索工具Amazon Lens有异曲同工之妙。 拒绝广告,靠AI说话 在产品推荐方面,Perplexity表示将依托AI分析平台内的真实用户评论,而非使用其他电商平台常见的赞助内容。公司希望通过此举提升推荐的公正性和可靠性。 为进一步丰富产品选择,Perplexity还推出了“商家计划”,允许零售商上传更详尽的商品信息,以提高曝光度。 AI搜索市场竞争激烈 此次扩展电商功能正值AI搜索领域风云变幻之际。谷歌正在大力升级其AI搜索功能,OpenAI则在其ChatGPT聊天机器人中引入了搜索引擎模块。 虽然Perplexity CEO阿拉温德·斯里尼瓦斯(Aravind Srinivas)表达了公司希望超越“单纯搜索工具”的雄心壮志,但这项新购物功能能否真正赢得用户青睐,仍有待观察。