谷歌宣布已从 AI Studio 中移除其 AI 模型 Gemma。此前，美国参议员玛莎·布莱克本致信谷歌，指控该模型编造了针对她的性行为不当指控。布莱克本在信中明确指出，Gemma 不仅编造了虚假的性侵指控，还提供了一系列虚假新闻文章链接来支持这些不实声明。
针对此事件，谷歌回应称，"AI 幻觉"问题是整个 AI 行业普遍面临的挑战，特别是对于像 Gemma 这样的小型开放模型。该公司补充说，Gemma 通过其 API 仍然可用，但已从面向所有开发者的 AI Studio 工具中移除。此举是由于有报告显示，非开发者用户试图使用该工具来询问事实性问题，而这并非 Gemma 的设计初衷。