Google DeepMind lansirao je novi alat za označavanje vodenim žigovima koji označava jesu li slike generirane umjetnom inteligencijom. To je prva velika tehnološka tvrtka koja ga je javno lansirala, nakon što je grupa njih obećala da će ih razviti u Bijeloj kući u srpnju.
Alat, nazvan SynthID, u početku će biti dostupan samo korisnicima Googleovog AI generatora slika Imagen, koji se nalazi na platformi za strojno učenje Google Cloud Vertex. Korisnici će moći generirati slike koristeći Imagen i potom odabrati hoće li dodati vodeni žig ili ne. Nadamo se da bi to moglo pomoći ljudima da prepoznaju kada se sadržaj generiran umjetnom inteligencijom predstavlja kao pravi ili pomoći u zaštiti autorskih prava.
U protekloj godini, ogromna popularnost generativnih AI modela također je sa sobom donijela proliferaciju deepfakeova generiranih AI-jem, pornografiju bez pristanka i kršenja autorskih prava. Označavanje vodenim žigom—tehnika u kojoj skrivate signal u dijelu teksta ili slike kako biste ga identificirali kao generiran umjetnom inteligencijom—postala je jedna od najpopularnijih ideja predloženih za suzbijanje takve štete.
U srpnju je Bijela kuća objavila da je osigurala dobrovoljne obveze vodećih AI tvrtki kao što su OpenAI, Google i Meta da razviju alate za označavanje vodenim žigovima u nastojanju da se bore protiv dezinformacija i zlouporabe sadržaja generiranog umjetnom inteligencijom.
Na Googleovoj godišnjoj konferenciji I/O u svibnju, izvršni direktor Sundar Pichai rekao je da tvrtka od samog početka gradi svoje modele koji uključuju vodeni žig i druge tehnike. Google DeepMind sada je prva velika tehnološka tvrtka koja je javno lansirala takav alat.
Tradicionalno se na slike stavlja vodeni žig dodavanjem vidljivog sloja na njih ili dodavanjem informacija u njihove metapodatke. Ali ova je metoda “krhka” i vodeni žig se može izgubiti kada se slike izrezuju, mijenjaju im se veličina ili uređuju, kaže Pushmeet Kohli, potpredsjednik istraživanja u Google DeepMindu.
SynthID je kreiran pomoću dvije neuronske mreže. Uzima se izvorna slika i proizvodi druga slika koja izgleda gotovo identično njoj, ali s nekim pikselima suptilno modificiranim. Ovo stvara ugrađeni uzorak koji je nevidljiv ljudskom oku. Druga neuronska mreža može uočiti uzorak i reći će korisnicima otkriva li vodeni žig, sumnja li da slika ima vodeni žig ili otkriva da nema vodeni žig. Kohli je rekao da je SynthID dizajniran na način koji znači da se vodeni žig i dalje može detektirati čak i ako se slika napravi snimkom zaslona ili uredi – na primjer, rotiranjem ili promjenom veličine.
Google DeepMind nije jedini koji radi na ovakvim metodama postavljanja vodenih žigova, kaže Ben Zhao, profesor na Sveučilištu u Chicagu, koji je radio na sustavima za sprječavanje da umjetnički sustavi skraću slike umjetnika. Slične tehnike već postoje i koriste se u AI generatoru slika otvorenog koda Stable Diffusion. Meta je također provela istraživanje o vodenim žigovima, iako tek treba pokrenuti javne alate za označavanje vodenim žigovima.
Kohli je za MIT Technology Review rekao da je alat za vodene žigove “eksperimentalan” i rekao da tvrtka želi vidjeti kako ga ljudi koriste i naučiti o njegovim prednostima i slabostima prije nego što ga šire plasira. Odbio je reći hoće li Google DeepMind alat učiniti dostupnijim za slike osim onih koje je generirao Imagen. Također nije rekao hoće li Google dodati vodeni žig u svoje AI sustave za generiranje slika.
MIT TechRew, Melissa Heikkilä, 29. kolovoza 2023