第1个回答 2023-08-07
这个问题自从人工智能出现后一直是人们比较关注的问题，在金融行业更是引起了很高的重视。马上消费为了保障人工智能系统算法模型的安全性，一直在大力提升人工智能模型防御对抗攻击与中毒攻击的能力。对抗攻击是通过针对性设计特定的输入样本使得人工智能系统决策出错，中毒攻击则是通过向训练数据中注入特定数据使得训练得到的模型推理判断出现失真。为防御这些攻击，马上消费研究采用异常数据检测方法来检出并清除训练数据中的恶意数据，减轻中毒攻击带来的干扰，并通过建立对抗样本进行针对性训练来抵抗对抗攻击，这些措施都有效保障了算法模型的安全性。也是马上消费为金融行业绿色发展做出的努力。