Până la scenariul în care AI-ul decide că oamenii sunt inutili și trebuie eliminați, avem deja o problemă reală generată 🙂 de AI: manipularea prin imagini false ce nu mai pot fi deosebite de cele reale.
Ca o primă soluție, Google DeepMind a lansat SynthID, o tehnologie pentru identificarea imaginilor generate de AI prin marcarea lor cu un watermark invizibil ochiului uman dar detectabil de computer.
Watermark-ul este integrat direct in pixelii imaginii și rămâne intact chiar și în cazul în care imaginea este alterată.
DeepMind a dezvoltat această tehnologie în parteneriat cu Google Research.
Cu ajutorul Google Cloud, SynthID este disponibil momentan doar unui număr restrâns de clienți ai platformei Vertex AI , care folosesc Imagen, serviciul Google pentru generarea de imagini.
SynthID utilizează două modele de învățare profundă – unul pentru marcajul watermark și altul pentru identificarea lui – ambele fiind antrenate pe un set divers de imagini.
Această tehnologie nu este perfectă, dar testele interne arată că este precisă împotriva multor tipuri comune de manipulare a imaginilor.
Sursă DeepMind
