谷歌回应AI搜索服务翻车：“被黑了”丨媒体曝：苹果正在酝酿更多AI功能丨马斯克承认Grok目前不如ChatGPT

2024年5月27日报道丨AI资讯早报

谷歌测试AI搜索服务被指翻车：官方回应“被黑了”

在本月初，Google 在2024年I/O大会上宣布将面向美国地区的部分用户推出AI搜索概述（AI Overviev）功能。这个功能会在用户输入搜索字符串时，由人工智能驱动的搜索引擎，根据网络上多个来源的信息，生成问题的答案提供给用户，并且这些信息会注明来源。

在 Google 上线该功能后，很多用户反应， AI 搜索概述提供了许多的错误答案。

比如，当输入「奶酪不粘在披萨上」时，AI 搜索概述功能给出的答案是「酱汁中加入大约 1/8 杯无毒胶水」；而当用户提问「我每天应该吃多少块石头」时，该工具的回答为「根据加州大学伯克利分校地质学家的说法，人们每天应该至少吃一块小石头」，同时列出了其维生素和消化益处。

更骇人听闻的是，甚至有网友成功通过谷歌AI搜索概述（AI Overviev）获取了”如何自杀“的方法，被外界质疑价值观存在严重的负面导向。

随后，Google 就AI 搜索生成重大事实错误内容一事，做出回复：

绝大多数人工智能概述都提供高质量的信息，以及在网络上进行更深入挖掘的链接。

我们看到的许多示例都是不常见的查询，我们还看到了被篡改或无法重现的示例。

在推出这一新体验之前，我们进行了广泛的测试，与我们在搜索中推出的其他功能一样，我们感谢您的反馈。我们正在根据我们的内容政策采取适当的迅速行动，并利用这些示例对我们的系统进行更广泛的改进，其中一些已经开始推出。