Dobrodošli u mašinu: Srbija u zoni AI rizika (prvi deo)

Photo by D koi on Unsplash

I tako je došlo do prvog ozbiljnog deepfake slučaja u Srbiji:

“Predsednik Stranke slobode i pravde Dragan Đilas najavio je da će podneti tužbe protiv televizije Pink i njenog vlasnika Željka Mitrovića zbog video klipa napravljenog uz pomoć veštačke inteligencije, na kom izgleda kao da priznaje da je vršio zloupotrebe i vređa svoje kolege iz opozicije.” (izvor: Dragan Đilas tuži Pink, falsifikovali mu glas uz pomoć veštačke inteligencije, N1, 16. avgust 2023).

Šta će da bude? Ne znamo, čekaće se epilog u sudnici. Ali došlo je vreme da se progovori o veštačkoj inteligenciji. Kako to već ide u našem javnom mnjenju:

Srbija osnovala Istraživačko-razvojni institut za razvoj veštačke inteligencije Srbija – još 2021. godine – ništa,

postala članica Globalnog partnerstva za veštačku inteligenciju (2022) – ništa, niko nije ni primetio

postavila Nacionalnu platformu za veštačku inteligenciju (2021, doduše to su samo četiri DGX-A100 nVIDIA sistema koje naši političari i poneki medij nazivaju “superkompjuterom” – Ok) – ništa

Srbija u februaru 2023. donela Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije – ništa, i građani i mediji ravnodušni

jedan naš stručnjak sam(!) uspe da natrenira za srpski jezik makar GPT-2 (prethodnika GPT-3 i ChatGPT, iz februara 2019) koristeći sve što nacionalna platforma za AI ima – niko se nije ni okrenuo na tu vest a jedva ako ju je neki medij i preneo,

Aleksandar Linc i ekipa organizuju jednu od vodećih konferencija u Data Science i AI na svetu uopšte u Beogradu već godinama za redom – ništa,
konačno imamo aktivnu organizaciju profesionalaca u Data Science, mašinskom učenju i AI, MAŠINERIJA koja je od osnivanja na jesen 2022 do danas organizovala ali tone događaja (uključujući konferenciju sa UNDP na temu generativnih AI u maju ove godine) – tek to nije zanimljivo,

ali kad Željko Mitrović i TV Pink krenu u proizvodnju sintetičkih medija sa proklamovanim ciljem razvoja satiričnog programa, potkače opozicione političare, i čak dovedu Predsednika Republike do toga da izjavi da to ne može i nije Ok – odjednom je svima veštačka inteligencija tema broj jedan.

Da li je trebalo da čekamo ovako nešto da bismo razgovarali? Čimi se da smo neizlečivo oboleli od vulgarnosti svakodnevne politike i da kao društvo postajemo nesposobni za strateški dijalog o ključnim stvarima i odlukama.

Da se razumemo: ne mislim da su Mitrović i Pink uradili bilo šta pametno. To ću se truditi da obrazložim u narednim redovima pišući o rizicima od sistema AI; ako i posle toga neko bude smatrao da je deepfake baš super stvar i nešto sa čime se treba igrati, verujem da će možda hteti da promeni mišljenje.

Kada kažem “ništa” u prethodnim redovima – sve je to bilo u medijima, samo nisam primetio da se građanstvo Srbije, izgleda totalno anestezirano našim javnim diskursom i medijskom panoramom – koje ne znam sa čime da uporedim po nivou nepristojnosti koji emituje i stida koji kod pristojne osobe izaziva – preterano uzbuđuje oko suštinskih tema vezanih za razvoj AI.

Neko će reći teško se živi, imaju se pametnija posla. Slažem se. Neko će reći sve su to Potemkinova sela, vlasti trebaju peruške da nas okiti u razvojno čudo i ekonomskog tigra. Ima i toga, politika je takav zanat: šta zna Srbin šta je AI – ali kad čuje skoro mu neprijatno što mi to imamo. Ali opet, neprihvatljivo je da se i naši mediji (i to mislim svi s leva na desno, i “građanske” i “nacionalne” ili već kako god hoćete da ih delimo po dominantnom sentimentu), i ogromna većina građana pozabave ekstremno značajnom i aktualnom temom regulisanja sistema veštačke inteligencije tek kad na Pinku nekom padne na pamet da nešto uradi.

Ovo će biti podugačak tekst. Nisam pisao za rubriku Veštačka inteligencija više od godinu dana, i to upravo godinu dana u kojima se dogodilo skoro sve. Nadam se da ćete iz narednih redova razumeti zašto sam bio odsutan sa ovih stranica. Vreme je da razumemo i naša država i mi kao njeni građani koliko se ozbiljne stvari dešavaju u AI areni i koliko odgovorno moramo tim razvojima da pristupimo.

Godina u kojoj se dogodilo sve

Bio je 4. januar 2022 kada je postavljen moj prethodni tekst u rubrici Veštačka inteligencija na portalu Talas, posvećen problemu opšte veštačke inteligencije (engl. Artificial General Intelligence, skr. AGI). Posle toga, profesionalne obaveze i interesovanja su me jednostavno vodili drugde, i vremena za pisanje za moju omiljenu rubriku nije bilo (i sada ga jedva ima). U periodu tokom kojeg se nismo sretali na ovim stranicama:

30. novembra 2022 OpenAI je lansirala ChatGPT, sada freemium model konverzacione AI baziran na GPT-3.5 (besplatna verzija) ili GPT-4 (lansiran 14. marta, 2023; isključivo plaćena, ChatGPT Plus verzija) modelu Transformers arhiekture, sa kojim, i o kome, razgovara ceo svet, i verovatno prvi model generativne AI na koji je svet, jednostavno, “pao” – i pristao da ga zove veštačkom inteligencijom u svakodnevnom diskursu

ChatGPT munjevito postaje po upotrebi najbrže rastuća aplikacija na Internetu u istoriji; upotreba ovog četbota pokreće lavinu komentara i diskusija, u rasponu od toga da se momenat tehnološke singularosti bliži, da smo na pragu otkrića opšte AI, preko totalno distopijskih, ka zabrinutosti za postojeće modele obrazovanja (pošto ChatGPT lako postiže rezultate solidnog koledž studenta na američkim univerzitetima), omasovljenje i automatizaciju propagande (o čemu smo već pisali u ovoj rubrici, u tekstu AI i propaganda – automatska laž, haos i ciljana stvarnost), pozive na kontrolu i ograničenje treniranja modela jačih od GPT-4 (v. Pause Giant AI Experiments: An Open Letter čiji je jedan od prvih potpisnika i autor ovih redova), strah od tektonskih promena na tržištu rada i gubljenja poslova, i druge; već je jasno da je ChatGPT nesumnjivo “ličnost” a veštačka inteligencija svakako “reč godine”

U januaru 2023, saznaje se da Microsoft nastavlja da investira milijarde dolara u OpenAI, prema nekim procenama postajući vlasnik 49% kompanije; već početkom februara 2023 pretraživač Bing dobija apgrejd zasnovan na primeni AI, a 16. marta počinje integracija OpenAI generativnih AI modela u Microsoft 365 aplikacije (“Office”)

U martu 2023, generativna AI Midjourney koja na osnovu tekstualnih inputa generiše vizuelne sadržaje beleži veliki porast broja korisnika; svet postaje svestan da igra nije samo na terenu konverzacijskih, četbot aplikacija, i počinje globalno igranje sa Midjourney, OpenAI DALL-E 2, i drugim aplikacijama za generisanje slika

U aprilu 2022. Google lansira PaLM (Pathways Language Model), veliki jezički model (engl. Large Language Model, LLM) baziran na prethodnom LaMDA modelu, za koji je otvorio API (eng. Application Programming Interface: skup pravila i protokola preko koga možete pristupiti nekom softveru iz npr. softvera koji sam razvijate i koristiti ga) za developere tek 14. marta 2023 godine; kašnjenje Google u odnosu na OpenAI u trci za razvoj veštačke inteligencije, kao i činjenica da svoj chatbot servis Bard lansiraju tek februara 2023. i to u ograničenom kapacitetu, otvarajući ga tek u maju 2023. u većini zemalja, mnogima daje za razlog da diskutuju istorijski propust Google u nečemu što može da postane i sama najveća utakmica u istoriji tehnologije uopšte

Drugi ne čase časa: Meta lansira LLaMA (Large Language Model Meta AI) familiju modela 24. februara 2023, LLaMA 2 već 18. jula 2023, u Open-source (mada ima glasova – up. Meta launches Llama 2, a source-available AI model that allows commercial applications [Updated] u Ars Technica – u Open-source zajednici koji nisu zadovoljni “čistoćom” te licence pod kojom su LLaMA modeli otvoreni) čime konkurentnosti utakmice u AI daje neverovatan spin kome sledi razvoj čitave linije LLM-ova: Alpaca, Vicuna, Koala, itd; kineski Baidu lansira Ernie 16. marta 2023, tvrdeći u junu 2023. da Ernie na kineskom jeziku postiže bolje rezultate i od GPT-3.5 i od GPT-4

U aprilu 2023, Italija zabranjuje ChatGPT zbog strahovanja za način tretmana privatnih podatka korisnika (u različitim momentima tokom 2023, neke kompanije, poput Apple i Samsung, ograničavaju upotrebu ChatGPT svojim zaposlenima); ubrzo omogućava upotrebu ChatGPT ponovo posle korekcija od strane OpenAI

16. maja 2023 Sam Altman, suosnivač i CEO OpenAI, saslušan je pred Podkomitetom senatskog pravosudnog odbora u Vašingtonu, DC, SAD, i u istorijskom nastupu zatražio regulisanje AI tehnologija

U maju 2023, lideri G7 uspostavljaju tzv. Hirošima AI proces (HAI) za diskusiju o regulativi AI i najavljuju da će o rezultatima izvestiti do kraja godine

Čitav jedan novi lingo se razvija i osvaja planetu: termini četbot, LLM (Large Language Model), generativna AI, FM (Foundation Model – modeli generativne AI trenirani da izvršavaju mnogostruke različite zadatke, koje posle treninga možete fino doterivati da odgovore za vaše neposredne potrebe), prompt (upit koji šaljemo modelu generativne AI i na osnovu koga on odgovara sekvencom koja se naziva dopuna, engl. completion), halucinacija (specifična vrsta greške koju pokazuju sistemi generativne AI i koja plaši mnoge po pitanju veridičnosti njihovih rezultata) postaju deo medijske i informacione pismenosti; javljaju se nove profesije, poput Prompt Engineer (prompt inženjer; profesionalac koji se specijalizuje u pisanju efikasnih promptova za sisteme generative AI)

Razvoji u oblasti generativnih AI u Open-source zajednici, zahvaljujući ogromnom entuzijazmu velikog broja inženjera i developera, počinju da pokazuju kako je LLM moguće trenirati efikasno i na redovima veličine slabijem hardveru od onog koji koriste velike kompanije; u junu 2023, Predsednik Francuske Emanuel Makron izjavljuje: “Verujemo u Open-source”, istom prilikom obznanjujući fond od 40 miliona evra za finansiranje razvoja generativnih AI; Technology Innovation Institute (TII) iz Abu Dabija predstavljaju Falcon LLM, familiju Open-source LLM-ova po performansama uporedivih sa najboljim raspoloživim sistemima generativne AI trenutno

14. juna 2023 Evropski parlament je izglasao AI Act kao zajednički regulatorni i zakonski okvir za AI sisteme koji smo već pominjali u rubrici Veštačka inteligencija na Talasu

Zahuktava se diskusija u ekspertskim krugovima studija spoljnopolitičkih odnosa o tome mogu li SAD i Kina da pariraju u trci ka veštačkoj inteligenciji i ko će ostvariti supremaciju na tom polju, sa podeljenim shvatanjima (up. AI Is Winning the AI Race, Foreign Policy i Will China overtake the U.S. on AI? Probably not. Here’s why, The Washington Post)

U julu 2023, Generalni sekretar UN Antonio Guteres predlaže osnivanje međunarodnog tela za nadzor veštačke inteligencije, izjavljujući da „Generativna AI ima ogroman potencijal za dobro i zlo na velikoj skali. Njeni tvorci su sami upozorili da nas očekuju mnogo veći, potencijalno katastrofalni i egzistencijalni rizici.”

U članku (za koji predviđam da će biti veoma uticajan) od 16. avgusta 2023 (za izdanje Foreign Policy Septembar/Oktobar 2023) The AI Power Paradox: Can States Learn to Govern Artificial Intelligence – Before It’s Too Late? Ian Bremmer i Mustafa Suleyman nalaze da je nemoguće regulisati sisteme AI tradicionalnim metodama koje moraju da uzimaju u obzir nacionalni interes za supremacijom u AI, odnosno da je samo globalna regulacija sistema AI uopšte i moguća, kao i da je skoro neizbežno da će regulisanje sistema AI morati da obuhvata kompanije koje takve sisteme razvijaju na velikoj skali – implicirajući promene u shvatanju geopolitičke moći uopšte.

Sad je avgust, i niko ne zna šta će posle ove eksplozije događaja doneti jesen i kraj 2023. Osim što je pitanje regulisanja AI, kome smo posvetili ovu rubriku na Talasu, evidentno postalo pitanje međunarodne regulative, međunarodne politike i odnosa od vrhunskog prioriteta. Zašto?

Kraj prvog dela.