SafeCAll; Implementierung der Erkennung von Deepfake-Audio in einer Open-Source-Kommunikations-App

Die heutigen Probleme sind auf den raschen Fortschritt der künstlichen Intelligenz und Machine-Learning-Modelle zurückzuführen, der zu einem alarmierenden Trend von Deepfake-Audio-Betrügereien führt; dies stellt finanzielle Risiken, Bedrohungen der Jobsicherheit und Desinformationsgefahren sowie politischen Einfluss dar. Ziel ist es, die Stimmechtheit und Vertrauenswürdigkeit während Anrufen zu verbessern, da diese Forschung den kritischen Bedarf deckt, die Kommunikation gegen Deepfake-Betrug zu schützen, während die Öffentlichkeit auf dieses aufkommende Problem aufmerksam gemacht wird. Die in dieser Forschung verwendeten Methoden konzentrieren sich auf die Integration eines Deepfake-Erkennungsmodells in die Open-Source-Webkommunikationsanwendung Jitsi. Das Erkennungsmodell verfügt über eine Audio-Feature-Extraktions-Engine (unter Verwendung von Bibliotheken aus Python wie pyaudio und librossa), die Merkmale wie mccf aus Roh-Audiodaten erhält und in ein DataFrame umwandelt. Diese werden dann in ein Machine-Learning-Modell eingespeist. Das ML-Modell wird ein LSTM sein, da es gut für die Verarbeitung sequentieller Daten und zeitliche Analysen geeignet ist. Dies macht es zuverlässig für die Echtzeit-Audioüberwachung und hilft zudem, Latenz zu beseitigen, was die spontane Identifizierung von Deepfake-Stimmen unterstützt. Ein Awareness-Spiel im Frontend wird erstellt, um die Benutzer über den Unterschied zwischen einer echten und einer manipulierten Stimme aufzuklären. Die Ergebnisse und Implikationen dieser Forschung erstrecken sich darauf, die globale Verbreitung von Deepfake-Betrügereien zu mindern. Dabei wird die wichtige Rolle von KI hervorgehoben, um den sich entwickelnden betrügerischen Praktiken zu begegnen und zu einem sicheren digitalen Kommunikationsumfeld beizutragen.