Google最新的AI搜索工具闹笑话了，竟然建议用户吃石头有益健康，还要把奶酪用胶水粘到披萨上。这些搞笑的回答让人哭笑不得，也让人质疑谷歌把这样一个实验性的功能直接嵌入核心产品的决定。
事情是这样的，《金融时报》问了谷歌AI一个问题，它回答说：“吃对的石头对健康有好处，因为石头里含有对身体健康重要的矿物质。”显然，谷歌的AI是误读了一篇《洋葱新闻》2021年4月的讽刺文章《地质学家建议每天至少吃一块小石头》。另一个搞笑的回答是建议在披萨酱里混入胶水，以增加“粘性”，防止奶酪滑落，这可能是基于11年前Reddit上的一个玩笑。
更严重的是，当被问及“美国有多少位穆斯林总统”时，AI回答说：“美国有一位穆斯林总统，巴拉克·侯赛因·奥巴马。”这显然是一个错误的回答，是一些政治对手关于前总统宗教信仰的谣言。
谷歌对此表示：“绝大多数的AI概览提供了高质量的信息，并带有深入挖掘的链接。我们看到的许多错误示例都是不常见的查询，也有一些示例是被篡改过的，或者是我们无法重现的。”
谷歌还强调：“我们在推出这一新体验前进行了广泛测试，正如我们在搜索中推出的其他功能一样，我们非常重视反馈。我们会根据内容政策适时采取迅速行动，并利用这些示例来改进我们的系统，其中一些改进已经开始推出。”
这些AI生成答案中的错误，归因于其技术基础中的“幻觉”或虚构现象。像谷歌的Gemini和OpenAI的ChatGPT这样的模型，是通过预测最可能的下一句话来工作，这基于它们所训练的数据。
尽管包括OpenAI、Meta和谷歌在内的生成式AI模型开发公司声称其最新版本的AI软件已减少了虚构现象的发生，但这些问题在消费者和商业应用中仍然令人担忧。
对于谷歌来说，其搜索平台因链接到原始来源而被数十亿用户信赖，“幻觉”问题尤为致命。谷歌母公司Alphabet的绝大部分收入来源于搜索及其相关广告业务。
近几个月来，谷歌CEO桑达尔·皮查伊面临内外部压力，要求加快发布新的面向消费者的生成式AI功能，因为谷歌被批评在这方面落后于竞争对手，尤其是拥有与微软130亿美元合作伙伴关系的OpenAI。
在本月的谷歌年度开发者大会上，皮查伊阐述了公司的新AI中心战略。谷歌在许多常见搜索结果顶部为数百万美国用户推出了Gemini生成的简短答案概览，标语是“让谷歌为你搜索”和“减轻搜索的负担”。
这些概览的初期问题，令人联想到今年2月对其Gemini聊天机器人的强烈反应，该机器人在其图像生成工具中创造了历史上不准确的不同种族和性别的描绘，如将女性和有色人种描绘成维京国王或二战时期的德国士兵。
谷歌对此道歉并暂停了Gemini模型的人物图像生成功能，至今未恢复。
皮查伊曾谈到谷歌在追赶竞争对手与保持道德规范以及作为被广泛依赖的搜索引擎之间的困境。上个月在斯坦福大学的一次活动中，他说：“人们在重要时刻来搜索，比如三个月大的孩子的药物剂量，所以我们必须做到正确……信任是难以赢得但易于失去的。”
“当我们出错时，人们会告诉我们，消费者的要求最高……这是我们的北极星，我们的创新都围绕这一点展开，”皮查伊补充道。“这帮助我们改进产品并做到正确。”