S&P 500 ^GSPC 5,308.13 +0.09%
Nvidia NVDA $947.80 +2.49%
Tesla TSLA $174.95 -1.41%
Microsoft MSFT $425.34 +1.22%
Alphabet GOOG $178.46 +0.66%
Meta META $468.84 -0.65%
Amazon AMZN $183.54 -0.63%
Apple AAPL $191.04 +0.62%

Strokovnjaki pozivajo k zaustavitvi nadaljnjega razvoja umetne inteligence. Kaj jih k temu spodbuja?

Kristijan Kopitar
3. 4. 2023
5 min read

Umetna inteligenca v zadnjem času doživlja velik razcvet. Vsi so tako navdušeni nad to tehnologijo, da se niti ne zavedajo tveganj, ki bi lahko nastala v prihodnosti. Strokovnjaki za umetno inteligenco trenutno opozarjajo, da bi morala podjetja začeti obravnavati tveganja, preden bo prepozno.

V nedavnem odprtem pismu z naslovom "Pause Giant AI Experiments: An Open Letter" strokovnjaki za umetno inteligenco (AI) pozivajo podjetja, ki se ukvarjajo s tem področjem, naj začasno ustavijo razvoj generativnih sistemov AI. Pismo, ki ga je podpisalo več kot 1 000 ljudi, med njimi Elon Musk, Steve Wozniak, Evan Sharp, Craig Peters in Yoshua Bengio, opozarja na negotovost glede morebitnega prihodnjega vpliva rezultatov tega razvoja.

Strokovnjaki v pismu predlagajo šestmesečni premor za razvoj regulativnih politik in postopkov za varen razvoj tehnologije umetne inteligence. Prekinitev naj bi veljala le za usposabljanje sistemov umetne inteligence, ki so zmogljivejši od GPT-4, generativnega modela umetne inteligence, ki ga je razvil OpenAI. Če poziv strokovnjakov ne bo upoštevan, v pismu predlagajo, da vlade uvedejo moratorij.

Med podjetji, ki vlagajo v razvoj generativne umetne inteligence in sorodnih tehnologij, so velikani, kot so Microsoft $MSFT+1.2%, Alphabet $GOOGL+0.5%, Alibaba $BABA-0.3% in Baidu $BIDU-1.5%. Pismo strokovnjakov poziva k varnostnim protokolom ter zagotovitvi pozitivnega učinka in obvladljivosti tveganja. Izid pisma bi lahko privedel do tega, da bi se podjetja ustavila in oblikovala nove politike ali pa vsaj razmislila o morebitnih učinkih in sprejela potrebne ukrepe.

GPT-4 kot sprožilec morebitnih težav

GPT-4, ki je bil pred kratkim predstavljen, je uporabnike navdušil s svojimi zmožnostmi pri pogovoru, pisanju pesmi in povzemanju dolgih dokumentov. Odziv na ta model je spodbudil konkurente, kot je Alphabet Inc, da pospešeno razvijajo podobne velike jezikovne modele. Vendar strokovnjaki za umetno inteligenco pozivajo k upočasnitvi razvoja, dokler ne bomo bolje razumeli posledic in morebitne škode za družbo.

Inštitut Future of Life Institute, neprofitna organizacija, ki jo financirajo predvsem Muskova fundacija, londonska skupina Founders Pledge in fundacija Silicon Valley Community Foundation, ki je izdala odprto pismo, meni, da bi morali zmogljive sisteme umetne inteligence razvijati šele, ko smo prepričani, da bodo njihovi učinki pozitivni, tveganja pa obvladljiva. Organizacija poziva tudi k ustanovitvi regulativnega organa, ki bi zagotavljal, da razvoj umetne inteligence služi javnemu interesu.

Elon Musk, soustanovitelj organizacije OpenAI in eden od strokovnjakov, podpisanih pod pismo, je znan po svojih opozorilih o morebitnih tveganjih, povezanih z razvojem umetne inteligence. Pravi, da je treba vzpostaviti skupne varnostne protokole, ki jih razvijejo neodvisni strokovnjaki, in poziva razvijalce, naj pri upravljanju sodelujejo z oblikovalci politik.

Izvršni direktor OpenAI Sam Altman ter izvršna direktorja podjetij Alphabet in Microsoft, Sundar Pichai in Satya Nadella, niso bili med podpisniki odprtega pisma. Kljub temu je pismo pomemben korak k začetku razprave o prihodnosti umetne inteligence in morebitnih tveganjih, ki jih ta predstavlja.

Možne posledice pisma

Pismo ima lahko več možnih posledic. Ena od njih je, da bi podjetja in raziskovalne ustanove, ki se ukvarjajo z razvojem umetne inteligence, lahko začasno ustavile svoje dejavnosti in ponovno razmislile o svojih praksah. Ta scenarij bi strokovnjakom in regulativnim organom omogočil, da pregledajo dosedanji razvoj in sprejmejo potrebne ukrepe za zagotovitev varnosti in trajnosti na področju UI.

Druga možnost je, da bi pismo privedlo do večje ozaveščenosti o morebitnih tveganjih, povezanih z razvojem umetne inteligence, ter do potrebe po vzpostavitvi varnostnih protokolov in regulativnih postopkov. To bi podjetjem omogočilo, da se bolj osredotočijo na ustvarjanje varnejših in etičnejših sistemov UI, ki imajo pozitiven vpliv na družbo.

Nazadnje bi pismo lahko spodbudilo vlade in mednarodne organizacije, da razmislijo o uvedbi regulativnih ukrepov in moratorijev za razvoj UI. S tem bi zagotovili, da se razvoj UI izvaja v skladu z najboljšimi interesi družbe in se upravlja tako, da se čim bolj zmanjšajo morebitni negativni vplivi.

Ne glede na izid odprtega pisma je jasno, da je razprava o varnosti in etičnosti razvoja umetne inteligence vse bolj nujna. Ker sistemi umetne inteligence, kot je GPT-4, postajajo vse bolj razširjeni v vsakdanjem življenju, se je treba osredotočiti na to, kako te tehnologije uporabiti v dobro družbe, ne da bi pri tem ogrozili zasebnost, varnost ali interese posameznikov.

Primer, ki kaže, kako je mogoče sisteme umetne inteligence uporabljati v javno dobro, je uporaba GPT-4 za reševanje okoljskih, zdravstvenih ali gospodarskih problemov. Po drugi strani pa je treba upoštevati morebitna tveganja, kot je zloraba tehnologije za širjenje dezinformacij, manipulacijo javnega mnenja ali povečanje neenakosti pri dostopu do tehnologije.

Odprto pismo "Prekinitev velikanskih poskusov z umetno inteligenco" je poziv k razmisleku o tem, kakšno pot bo ubral razvoj umetne inteligence. Vprašanje ostaja, ali je mogoče doseči soglasje med strokovnjaki, podjetji in vladami. Vendar pa je pomembno, da se znanstveniki, vodilni v industriji in oblikovalci politik osredotočijo na sodelovanje pri iskanju načinov za zavarovanje in ureditev razvoja umetne inteligence, ki je v najboljšem interesu človeštva.

OPOZORILO: Nisem finančni svetovalec in to gradivo ne služi kot finančno ali naložbeno priporočilo. Vsebina tega gradiva je zgolj informativnega značaja.


Posredujte članek naprej ali ga shranite za pozneje.