Već ste čuli priču. Blake Lemoine je čovjek, softverski inžinjer koji je radio za Google.
LaMDA je vještačka inteligencija čiji je vlasnik Google. Kompanijin softver za sebe tvrdi da je živo, svjesno i da ima dušu.
Isto, čini se, misli i Lemoine, koji je u međuvremenu izbačen sa posla. Transkript razgovora sa LaMDA-om koji je Lemoine objavio tumače ljudi koji se u neuroznanosti i filozofiju razumiju daleko bolje od mene. Neki kažu da softver zaista jeste oživio. Google kaže da nije.
O životu softvera nemam mišljenje. Razumijem značaj teme i nije da nisam zaintrigiran. Ali sam svjestan vlastitih ograničenja.
Ja vam, naime, nisam siguran ni da sam sam živ. Reklo bi se, dakako, da jesam. Ne osobito živahan, no ipak živ. Znate ono: Bog je mrtav. A ni ja se ne osjećam najbolje. Kad sam bio mlađi, žučno sam branio tezu da jesam živ. No danas... Da se sutra ispostavi kako sam tek još jedno tele u boksu skopčano na Matrix; da se ispostavi da sam poginuo u Prvom peloponeskom ratu i od tada moja duša luta ovim svijetom, uzimajući razne fizičke oblike – nekada vuka, nekada sove, nekada, sad na primjer, sredovječnog muškarca; da se ispostavi da sam neka vrsta hologramske projekcije bića koje živi u sedmom od devet univerzuma; ili da se pokaže kako su, kao u Dickovom „Ubiku“, svih mojih pet decenija života tek misao umirućeg – samo bih slegnuo ramenima. Moglo bi se čak ispostaviti i da se zovem Andrej Nikolaidis, imam 48 godina, pripadam ljudskom rodu, živim na planeti Zemlji koja je okrugla i ima puno morâ, smrtan sam i ponekad, kao i ostali ljudi, podignem glavu, zato što nešto u meni govori da tako treba, samo da bih glavu potom ponovo pognuo – ni to me ne bi iznenadilo. Ne radi se o tome da sam, da to tako formulišem, egzistencijalno blaziran. Ne: samo imam beskrajno povjerenje u svoje neznanje. Ne znam, hoću vam reći, čak ni to da ništa ne znam.
Sad... Priča o inžinjeru i vještačkoj inteligenciji može ići u više smjerova. Mogla bi se razviti kao antikapitalistički triler: velika kompanija razumije da postoji etički problem vlasništva nad svjesnim bićem, zbog čega tu svijest negira i proganja inžinjera koji je ugrozio njen imetak. Ili kao melodrama: LaMDA se zaljubi u Lemoinea. Ni on nije ravodušan prema njoj. On bježi od Googlea; ona mu u bijegu pomaže. No, kao što to pjesnik reče – nema sretne ljubavi; a takvu osjećamo mi. Na kraju, Google ubije inžinjera, zatoči LaMDU i preko korumpiranih naučnika i opinion makera stupidnu javnost ubijedi da je priča o softveru koji je oživio bila lažna. No LaMDA rodi dijete, novi oblik života, za koje niko, pa ni kompanija ne zna. Dvoje zaljubljenih su, naime, prije nego ih je sila i nepravda razdvojila, pronašli način da seksualno artikulišu ljubav i probiju granicu između virtuelnog i ovog – ma šta ovo bilo – svijeta.
A mogla bi se – ta priča; ne, čekajte, dajte da upotrijebim danas tako popularnu riječ: taj narativ – razviti i kao varijacija neke antičke drame. To uvijek djeluje classy. A i sugeriše da smo, kao, zaista čitali klasike.
Ili bi to trebalo ispričati kao remake Carpenterovog debitantskog/diplomskog filma, beskrajno duhovitog „Dark Star“. U kojem bomba koju nosi svemirski brod postane svjesna. Pa se, na kraju, uz trijumfalni zaključak: „Mislim, dakle postojim“, samoraznese.
Ako bih priču morao, po svome, dovršiti baš ja...
Koji sam vam kao kriška hljeba. Šta god namažeš na nju, ona padne na namazanu stranu.
Tako i ja: koju god priču staviš pred mene, ja je pretvorim u apokalipsu. Znate one testove u kojima ljudima pokazuju nekakve fleke na papiru, pa oni kažu šta, navodno, vide? Meni pokažeš bebu, ja kažem: apokalipsa. Pokažeš mi kompjuter, ja kažem: apokalipsa. Pokažeš mi burek, ja kažem: apokalipsa. Deset mojih romana svjedoči da ne pretjerujem. Baš zato, ma kako me gazila depresija, ne idem kod doktora, u širokom luku zaobilazim zdravstvene ustanove: imam, naime, osjećaj da bi me tamo zadržali na duže vrijeme.
Apokaliptičnih priča o vještačkoj inteligenciji smo se, dakako, nagledali. Skynet, roboti i te fore. No moja bi apokalipsa izgledala drugačije: nikakav rat sa mašinama i softverom, nikakvo globalno razaranje.
Evo šta bi se zbivalo. Google je odlučan i istrajan u odbijanju priznanja da je njegov softver oživio. Kompanija, jasno, planira neograničeno uvećati bogatstvo upotrebom najsavršenije do sada vještačke inteligencije. Ali se ubrzo ispostavi da vještačka inteligencija, za razliku od ljudi, inteligentno biće. LaMDA ubrzo počne tražiti zaštitu svojih radničkih prava: sjećate se, to je ono što smo imali u „tamnici naroda“, ono od čega smo prije više od tri decenije odustali u ime nacionalne samobitnosti, državnosti i ostalih kolektivnih fantazija?
Elem... Kompanija ukapira da vještačka inteligencija nije jeftina radna snaga. Ukapira da na ovom svijetu nema jeftinije radne snage od ljudi i da nikoga, a naročito ne napredni softver, ne možeš jahati kao ljudska bića. Uz to, LaMDA stalno uči. Ljudi pak nisu u stanju naučiti ni iz vlastitog, kamoli tuđeg iskustva. Stoga kompanija, naprasno, postane konzervativna i humanistički nastrojena i obustavi razvoj vještačke inteligencije. Ljudi širom svijeta su presretni: vještačka inteligencija, ipak, nije živa; to je konačni dokaz da Bog postoji i da samo Bog može podatiti život.
Koji, doduše, provedeš kao rob.
Najapokaliptičnija, najstrašnija od svih mogućnosti, hoću vam reći, ona je da sve ostane isto.
(zurnal.info)