OpenAI: Bivši radnici žele da nas upozore da je AI opasan

0
104
openai:-bivsi-radnici-zele-da-nas-upozore-da-je-ai-opasan

ERP 2024


PCPress.rs Image

Građani koji su nekada radili u kompanijama OpenAI i Google DeepMind žele da nas upozore na opasnosti od uspona AI alata, ali se boje posledica. Zato su objavili otvoreno pismo u kojem od AI kompanija traže da zaposlene koji upozoravaju na moguće posledice ostave na miru.

PCPress.rs Image

Pismo ima sledeći naslov „Pravo da upozorimo na opasnosti od napredne veštačke inteligencije“ (A Right to Warn about Advanced Artificial Intelligence). Zvuči kao naslov nekog distopijskog filma, ali je tek obično pismo koje je do sada potpisalo 13 bivših radnika pomenutih kompanija. Tvrde da AI ima potencijal da donese boljitak čovečanstvu, ali nosi i određene rizike od produbljivanja nejednakosti, širenja dezinformacija i preuzimanja kontrole nad vitalnim sistemima. Ovo bi, tvrde, moglo da dovede do nestanka ljudske rase.

Potpisnici pisma kažu i da AI kompanije poseduju informacije o rizicima, ali za sada nisu u obavezi da ih iznesu u javnost. Sve ovo je savršeno za razne teorije zavera, ali ako se osvrnemo i pogledamo šta su ljudi sve radili u prošlosti (te šta rade danas), nije teško da se zamisli da AI koji trenira čovek nije baš najhumanija mašina na svetu.

Radnici dakle traže pravo da o svojim AI brigama raspravljaju bez straha od odmazde. Pismo je dobilo podršku od nekih značajnih figura iz AI industrije – do sada su se oglasili Yoshua Bengio, Geoffrey Hinton (koji je ranije upozoravao na slične stvari) i Stuart J. Russell. Ističu da se ovde ne radi o fatalnim proročanstvima, već o skretanju pažnje na potencijalno opasne AI „halucinacije“ koje se već dešavaju. Iako deluju bezazleno, čak smešno, uskoro bi mogle da se pretvore u nešto što uopšte ne izaziva smeh.

Izvor: Ars Technica

SBB


Tagovi: , , ,

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Ово веб место користи Акисмет како би смањило непожељне. Сазнајте како се ваши коментари обрађују.