一项由波士顿大学进行的研究表明,当人工智能被视为“同事”而非工具时,人类的审查能力可能会有所下降。研究人员 Emma Wiles 指出,在涉及 AlexAI 等人工智能的场景中,受试者在评估 AI 生成内容的准确性时,表现出了一定程度的放松。
具体来说,研究发现,当受试者被告知 AI 能够辅助工作时,他们对 AI 内容的信任度有所提高,即使内容存在错误。在某些情况下,这种信任度的提升可能导致对 AI 生成信息的审查力度减弱。例如,在涉及 AlexAI 的评估中,有 16% 的受试者未能识别出明显的错误信息。
研究还发现,AI Agent 在辅助内容创作时,即便其产出的信息存在偏差,也可能因为被视为“合作者”而减少了人类的核查意愿。在涉及 AI Agent 的一项实验中,仅有 23% 的受试者对其生成的内容进行了严格的二次审查。
尽管 AI 能够提高工作效率,但研究强调,最终的责任仍需由人类承担。即使是像 Copilot 这样先进的 AI 工具,也无法完全取代人类的判断和决策。研究结果表明,企业在引入 AI 时,应建立明确的问责机制,确保人类监督员能够有效识别和纠正 AI 可能出现的失误,以维护信息质量和决策的准确性。研究的结论是,AI Governance 必须包含对人类监督角色的强调,以应对 AI 带来的新挑战。
