Onderzoekers IDLab-MEDIA (UGent) omzeilen beveiliging comdom-app

(18-12-2019) De recent gelanceerde .comdom app van Telenet, bedoeld als beveiliging tegen het ongewenst delen van foto’s met derden, is heel wat minder veilig dan gedacht.

Recent stelde Telenet in samenwerking met Child Focus haar .comdom app voor als onderdeel van het grotere #TelenetGO-programma. De .comdom app is bedoeld als beveiliging tegen het ongewenst delen van foto’s met derden, voornamelijk in de context van sexting.
Gebruikers kunnen met de app foto’s of selfies nemen, waarna de app er een visueel watermerk op plaatst met daarop de gegevens van de ontvanger. Hierdoor beperkt de app de kans dat een naaktfoto doorgestuurd wordt door de ontvanger ervan. De originele foto zonder watermerk wordt door de app niet opgeslagen.

Voorbeeld van een foto met visueel watermerk, gegenereerd door de .comdom app
Voorbeeld van een foto met visueel watermerk, gegenereerd door de .comdom app

Belangrijke beperkingen

Onderzoekers Martijn Courteaux en Hannes Mareen uit het onderzoeksteam IDLab-MEDIA van prof. Peter Lambert aan de Universiteit Gent, waar o.a. onderzoek wordt gedaan naar nieuwe watermerktechnologie, onderzochten de app en vonden al gauw enkele belangrijke beperkingen waardoor de app een pak minder veilig is dan men beweert.

Zo werd bijvoorbeeld gezegd dat “Deze filter zelfs door de ervaren Photoshop gebruiker niet zomaar verwijderd kan worden – of toch niet zonder de naaktfoto onherkenbaar te maken.”

Toch slaagden de onderzoekers erin om in enkele dagen tijd een programma te ontwikkelen dat deze watermerken zelfs automatisch kon laten verwijderen. De software kan de originele foto bijna perfect reconstrueren, en dus de identiteit van de ontvanger laten verdwijnen, waardoor de veiligheid van de zender niet langer gegarandeerd is.

AI helpt watermerk te verwijderen

Hoe kan dit? De onderzoekers konden eenvoudig achterhalen hoe het watermerk precies opgebouwd wordt door de app. Daarna pasten ze zélf het watermerk toe (in tal van variaties) op een verzameling van enkele duizenden willekeurig gekozen foto’s. Tot slot werd op basis hiervan een relatief eenvoudig AI-algoritme (neuraal netwerk) getraind om de relatie te vinden tussen de gewatermerkte foto’s en hun originelen, waarna het algoritme in staat was om het watermerk te verwijderen van foto’s die door de app gemaakt worden.

Het watermerk werd automatisch verwijderd door de software van de onderzoekers van IDLab
Het watermerk werd automatisch verwijderd door de software van de onderzoekers van IDLab

Het resultaat is zowel verbluffend als beangstigend. De .comdom app claimt een veilig alternatief te zijn voor apps zoals Snapchat en Confide die slechts de illusie van online veiligheid bieden, maar het lijkt erop dat .comdom in hetzelfde bedje ziek is. De onderzoekers betreuren dat bedrijven en instellingen met klinkende namen op bijna gratuite wijze veiligheid claimen terwijl men zelf onvoldoende aandacht heeft besteed aan de uitwerking van die veiligheid. Zo zijn de eigenschappen van het watermerk te doorzichtig, en, misschien belangrijker, werd geen rekening gehouden met van de kracht van huidige AI-algoritmen (cf. Deep Fakes).

 

 

 

Ook wat goed nieuws

Toch zijn er ook enkele positieve elementen: het feit dat gezichten onzichtbaar gemaakt worden is een goede zaak (al lijkt de app geen ondersteuning te bieden voor meerdere gezichten, en is de gezichtsdetectie niet altijd even robuust).
Daarnaast maakt de lancering van de app een gevoelig onderwerp bespreekbaar.

Maar in plaats van absolute veiligheid te beloven, lijkt het beter om mensen nóg bewuster te maken van de gevaren en/of beperkingen van online veiligheid en te blijven inzetten om digitale geletterdheid, zo concluderen de onderzoekers.

Foto gepost op de Facebook pagina van Computer Club, met .comdom watermerk
Foto gepost op de Facebook pagina van Computer Club, met .comdom watermerk

 

 

 

 

 

 

 

 

 

 

Het watermerk automatisch verwijderd
Het watermerk automatisch verwijderd

 

 

 

 

 

 

 

 

 

 

Over IDLab-MEDIA

IDLab-MEDIA is een van de onderzoeksteams binnen de onderzoeksgroep IDLab van Universiteit Gent en imec.
In 2017 won Hannes Mareen, onder het promotorschap van prof. Peter Lambert, de Agoria-prijs voor zijn masterproef “Multimedia Forensics: a Novel Fingerprinting Approach for Digital Images and Video”, waarin hij nieuwe detectiemechanismen ontwikkelde voor watermerken in beeldmateriaal.

Info

Link naar het artikel

Prof. Peter Lambert
Vakgroep Elektronica en Informatiesystemen
T 09 331 49 93
peter.lambert@ugent.be