AI智能体在药物研发中犯了个小错误,却没有停下来
2025年一篇评估化学类AI智能体的论文记录了ChemAgent的一次失误:智能体在判断某分子是否具有肝胆毒性副作用时,因分子式格式错误连续两次工具调用失败,随后转用通用AI工具,最终给出了错误的毒性判断(本应为无风险,却误判为有毒性风险,属于假阳性)。
2025年一篇评估化学类AI智能体的论文记录了ChemAgent的一次失误:智能体在判断某分子是否具有肝胆毒性副作用时,因分子式格式错误连续两次工具调用失败,随后转用通用AI工具,最终给出了错误的毒性判断(本应为无风险,却误判为有毒性风险,属于假阳性)。