AI推荐信息存疑 专家警告用户需谨慎核实

AI推荐信息存疑 专家警告用户需谨慎核实

随着人工智能技术的快速发展，以ChatGPT为代表的大语言模型已成为用户获取商业推荐的重要渠道。然而，近期一项测试发现，AI工具在生成推荐内容时可能引用不可靠的信息来源，包括被黑客入侵的网站和过期域名。这一现象引发了业界对AI推荐可信度的担忧，专家呼吁用户在使用AI工具时应保持警惕，并对推荐内容进行核实。

**AI推荐或引用不可靠来源**

SEO专家、Digitaloft公司董事总经理詹姆斯·布罗克班克（James Brockbank）在个人测试中发现，ChatGPT在推荐公司或服务时，有时会引用被篡改或误导性的内容。这些内容通常来自两类问题来源：一是被黑客攻击的高权重网站，攻击者在其中植入与原本主题无关的信息；二是已被重新注册的过期域名，新所有者利用其原有的搜索引擎权重发布无关内容，以误导AI系统。

布罗克班克指出，由于这些域名在搜索引擎中仍具有较高的“权威性”，ChatGPT在生成回答时可能错误地将其视为可信来源。这种现象不仅影响推荐结果的准确性，还可能被恶意利用，成为操控AI推荐的手段。

**商业推荐面临信任危机**

AI推荐已成为企业品牌曝光的重要渠道，但不可靠的信息来源可能对企业和消费者造成双重影响。对企业而言，若AI推荐的内容来源存在问题，可能导致消费者接收到错误信息，进而损害品牌声誉。例如，一家企业可能被AI错误地关联到被黑网站上的负面内容，从而影响其市场形象。

对用户而言，盲目信任AI推荐可能带来信息误判的风险。由于AI工具通常以高度自信的语气提供答案，用户可能不假思索地接受其推荐，而忽略核实来源的必要性。布罗克班克强调：“我们还没有到可以完全信任ChatGPT推荐而不加验证的阶段。”

**专家呼吁加强AI信息筛选机制**

针对这一问题，布罗克班克建议AI开发者应加强对操控内容的识别与过滤机制，提升系统的信息筛选能力。具体措施可能包括：

1. **优化来源评估算法**：AI系统应更严格地评估引用来源的可信度，避免依赖已被篡改或重新利用的高权重域名。

2. **引入实时验证机制**：通过与可信数据库或事实核查工具联动，确保推荐内容基于最新、可靠的信息。

3. **提高用户透明度**：AI工具应明确标注推荐内容的来源，并提醒用户可能存在的不确定性，鼓励其进一步核实。

**用户应保持批判性思维**

在AI技术尚未完全解决信息可靠性问题之前，用户需采取主动措施降低风险。布罗克班克建议：

- **交叉验证信息**：对于AI推荐的公司或服务，用户可通过搜索引擎、行业报告或第三方评测平台进行核实。

- **关注来源可信度**：检查推荐内容是否来自权威机构或知名媒体，而非匿名或可疑网站。

- **警惕过度宣传**：若AI推荐的内容过于绝对化或缺乏具体依据，用户应保持怀疑态度。

**结语**

AI工具的普及为信息获取带来了便利，但其推荐内容的可靠性仍存在挑战。此次发现提醒我们，技术虽强大，但并非完美无缺。无论是开发者还是用户，都需共同努力，确保AI生成的信息既高效又可信。在AI推荐成为主流之前，谨慎核实仍是不可或缺的一环。

生成海报

本文来源于极客网，原文链接: https://www.fromgeek.com/latest/696576.html