Autori Jessica M. Silbey i Woodrow Hartzog sa Boston University School of Law pripremili su ovaj istraživački rad kao kratak i provokativan nastavak vrlo kratkog rada od prije nekoliko godina pod nazivom “Prednosti dubokih lažnih izvještaja” gdje su tvrdili da „duboki lažni izvještaji ne stvaraju nove probleme koliko pogoršavaju postojeće probleme… Novinarstvo, obrazovanje, individualna prava, demokratski sustavi i protokoli glasanja dugo su bili ranjivi. Duboki lažni izvještaji mogli bi biti upravo kap koja ih prelijeva. I u tome leži prilika za [duboki, strukturni] popravak.“ Međutim, dok su počeli graditi ovaj rad, shvatili su da je prijetnja koju umjetna inteligencija predstavlja institucijama daleko veća nego što su očekivali. Također su shvatili da su previše optimistični u pogledu mogućeg apetita za zaštitu institucija. Stoga su pokušali napisati nešto sažeto i hitno što bi izložilo različite načine na koje je dizajn sustava umjetne inteligencije djelovao na slabljenje institucija do točke kolapsa.
Sažetak
Građanske institucije – vladavina prava, sveučilišta i slobodan tisak – okosnica su demokratskog života. To su mehanizmi putem kojih složena društva potiču suradnju i stabilnost, a istovremeno se prilagođavaju promjenjivim okolnostima. Prava supermoć institucija je njihova sposobnost da se razvijaju i prilagođavaju unutar hijerarhije autoriteta i okvira za uloge i pravila, a istovremeno održavaju legitimnost u proizvedenom znanju i poduzetim radnjama. Institucije vođene svrhom, izgrađene oko transparentnosti, suradnje i odgovornosti, osnažuju pojedince da preuzmu intelektualne rizike i izazovu status quo. To se događa kroz spletke međuljudskih odnosa unutar tih institucija, koji proširuju perspektive i jačaju zajedničku predanost građanskim ciljevima.
Nažalost, mogućnosti sustava umjetne inteligencije gase ove institucionalne značajke na svakom koraku. U ovom eseju iznosimo jednu jednostavnu poantu: sustavi umjetne inteligencije izgrađeni su da funkcioniraju na načine koji degradiraju i vjerojatno će uništiti naše ključne građanske institucije. Mogućnosti sustava umjetne inteligencije imaju učinak erozije stručnosti, ometanja donošenja odluka i izolacije ljudi jednih od drugih. Ovi sustavi su anatema za vrstu evolucije, transparentnosti, suradnje i odgovornosti koja vitalnim institucijama daje njihovu svrhu i održivost. Ukratko, trenutni AI sustavi su smrtna presuda za građanske institucije i trebali bismo ih tako i tretirati.