海上自主水面船舶目标检测中干净标签投毒攻击的脆弱性

人工智能 (AI) 将在实现海上自主水面船舶 (MASSs) 方面发挥重要作用。然而，作为一把双刃剑，这项新技术也带来了新的威胁。本研究旨在提高利益相关方对 AI 在 MASSs 中带来的潜在安全威胁的认识。为此，我们提出了一个假设的攻击场景，其中对目标检测模型执行了干净标签投毒攻击，导致小艇被错误分类为渡轮，从而无法检测到接近小艇的海盗。我们使用毒蛙算法生成投毒样本，并使用干净数据和投毒数据共同训练了一个 YOLOv5 模型。尽管该模型准确率很高，但由于目标样本受到投毒，它仍将小艇误分类为渡轮。尽管实验是在有限条件下进行的，但我们证实了目标检测算法中存在的脆弱性。这种错误分类可能导致 AI 决策不准确并引发事故。本研究所提出的假设场景强调了目标检测模型对干净标签投毒攻击的脆弱性，以及在海事行业中针对 AI 带来的安全威胁制定缓解策略的必要性。