Old Navy suočava sa tužbom zbog zloupotrebe AI chatbota koji participira u nezakonitom prisluškivanju

0
145
old-navy-suocava-sa-tuzbom-zbog-zloupotrebe-ai-chatbota-koji-participira-u-nezakonitom-prisluskivanju

Sa sve moćnijim alatima veštačke inteligencije (VI) kao što je ChatGPT, lični asistenti postaju sve popularniji, preuzimajući ulogu službenika za korisničku podršku. Očuvanje privatnosti konverzacija tokom onlajn kupovine postaje predmet pravne borbe.

VI se oslanja na ogromne količine podataka – knjige, istraživačke izveštaje, vesti, video zapise, muziku i mnoge druge izvore – za svoje funkcionisanje. Međutim, ta zavisnost od podataka već je prouzrokovala niz tužbi od strane pisaca i drugih koji su otkrili da su njihovi materijali upotrebljeni bez dozvole ili nadoknade za obuku VI. Sada, kako kompanije uvode četbotove sa VI, otvorena je nova pravna rasprava o privatnosti korisnika.

Da li VI može biti osuđena za nelegalno prisluškivanje?

To je pitanje koje se trenutno razrešava na sudu za brend Old Navy, koji se suočava sa tužbom koja tvrdi da njegov chatbot učestvuje u nelegalnom prisluškivanju kroz beleženje, snimanje i čuvanje razgovora. Tužba, podneta u Centralnom okrugu Kalifornije, tvrdi da chatbot „ubedljivo oponaša stvarnog čoveka, koji motiviše potrošače da dele svoje lične informacije.“

Tužilac tvrdi da je komunicirao sa predstavnikom za korisničku podršku Old Navy koji je pretpostavljao da je čovek, a bio je nesvestan da chatbot beleži i čuva „ceo razgovor“, uključujući tastere, klikove mišem i druge podatke o kretanju korisnika na sajtu. Tužba takođe tvrdi da Old Navy nelegalno deli podatke sa trećim stranama bez obaveštavanja ili saglasnosti korisnika.

Old Navy, putem svog matičnog preduzeća Gap, odbio je da komentariše.

Old Navy nije jedini koji se suočava sa sličnim optužbama. Duzine tužbi su podignute u Kaliforniji protiv Home Depota, General Motorsa, Forda, JCPenney i drugih, zbog sličnih optužbi za nelegalno prisluškivanje privatnih onlajn konverzacija, mada možda ne nužno sa četbotovima pokretanim VI.

Prema stručnjacima za VI, verovatni ishod tužbe je manje intrigantan od samih optužbi: Old Navy i druge kompanije će verovatno dodati upozorenje koje obaveštava korisnike da se njihovi podaci mogu beležiti i deliti u svrhu obuke – slično tome kako usluge korisničke podrške upozoravaju korisnike da se razgovori mogu snimati u svrhu obuke. Međutim, tužba takođe ističe neka važna pitanja o privatnosti četbotova koja treba razjasniti pre nego što VI postane lični asistent kojemu možemo verovati.

„Jedna od zabrinutosti u vezi sa ovim alatima je da ne znamo mnogo o podacima koji su zapravo korišćeni za njihovu obuku“, rekla je Irina Raicu, direktor programa etike na internetu u Markkula centru za primenjenu etiku na univerzitetu Santa Klara.

Kompanije nisu bile otvorene u vezi sa izvorima informacija, a četbotovi pokretani VI, koji podstiču korisnike na interakciju i unošenje podataka, mogli bi pretpostaviti unos ličnih podataka u sistem. U stvari, istraživači su uspeli da izvuku lične informacije iz VI modela koristeći specifične upite, dodala je Irina. Kompanije generalno brinu o podacima koji se unose u model VI i merama zaštite koje se primenjuju prilikom implementacije ove tehnologije u poslovne sisteme. To je novi primer problema „zaštitnog zida“ koji je uvek bio ključan za usaglašenost tehnologije. Kompanije poput JPMorgana i Verizona su navele rizik od curenja poslovnih tajni ili drugih vlasničkih informacija koje ne bi trebalo deliti sa velikim jezičkim modelima.

Tužbe ukazuju na zaostajanje SAD-a u regulaciji VI

Kada je reč o regulativama o VI i onlajn interakcijama općenito, SAD zaostaje za Evropom i Kanadom, što je istaknuto u slučaju tužbe protiv Old Navy. Ta tužba se zasniva na zakonu o prisluškivanju iz 1960-ih, kada je glavna briga bila mogući prekršaj privatnosti pri korišćenju telefona sa rotirajućim brojkama.

Trenutno, države imaju različite pravne propise o privatnosti, ali ne postoji jedinstvena regulativa na federalnom nivou koja se odnosi na onlajn privatnost. Kalifornija ima najrigoroznije zakone, sprovodi Zakon o privatnosti potrošača Kalifornije, modeliran prema GDPR-u u Evropi. Colorado, Connecticut, Juta i Virdžinija imaju obuhvatne zakone o zaštiti podataka potrošača koji daju potrošačima pravo na pristup i brisanje ličnih podataka i na odjavu od prodaje ličnih podataka. Ove godine, još osam država, uključujući Delaver, Floridu i Ajovu, sledile su primer. Međutim, pravila se razlikuju od države do države, rezultirajući sistemom zakona koji otežava poslovanje kompanija.

Bez sveobuhvatnih federalnih zakona o onlajn privatnosti, kompanijama je slobodno da nastave bez uvođenja mera zaštite privatnosti. VI, koji se pokreće prirodnim jezikom i analizom, je „još uvek veoma nepotpun“, rekao je Ari Lajtman, profesor digitalnih medija na Kolegijumu Hajnz univerziteta Carnegie Mellon. Modeli se vremenom poboljšavaju i sve više korisnika sprovodi interakciju s njima, ali „još uvek postoji siva zona u pogledu zakonodavstva“, dodao je on.

FAQ o veštačkoj inteligenciji i privatnosti korisnika

Da li je Old Navy suočen sa tužbom zbog prisluškivanja svojih onlajn konverzacija?

Da, Old Navy se suočava sa tužbom predstavnicom Centralnog okruga Kalifornije zbog tvrdnje da je njegov chatbot učestvuje u nelegalnom prisluškivanju.

Šta tačno tužba tvrdi protiv Old Navy?

Tužba tvrdi da chatbot Old Navy „ubedljivo oponaša stvarnog čoveka, koji motiviše potrošače da dele svoje lične informacije“. Takođe se tvrdi da Old Navy nezakonito deli podatke potrošača sa trećim stranama bez obaveštavanja ili saglasnosti korisnika.

Da li je Old Navy jedini koji se suočava sa optužbama za nelegalno prisluškivanje konverzacija?

Ne, i druge kompanije kao što su Home Depot, General Motors, Ford i JCPenney suočavaju se sa sličnim optužbama za nelegalno prisluškivanje privatnih onlajn konverzacija.

Kako će se verovatno okončati tužba protiv Old Navy?

Verovatnoće da će tužba rezultirati manje uzbuđenjem od samih optužbi. Old Navy i druge kompanije verovatno će dodati upozorenje koje obaveštava korisnike da se njihovi podaci mogu beležiti i deliti u svrhu obuke.

Kako je pitanje privatnosti četbotova istaknuto ovom tužbom?

Ova tužba ističe pitanja o privatnosti četbotova koja treba razjasniti pre nego što VI postane lični asistent kojemu možemo verovati. Stručnjaci za VI izražavaju zabrinutost zbog nedostatka informacija o podacima koji su korišćeni za obuku takvih alata i mogućnosti unošenja ličnih podataka korisnika. Rizik curenja poslovnih tajni i drugih povjerljivih informacija takođe je naglašen kao važno pitanje u vezi sa VI i zaštitom privatnosti.

Kakva je regulativa u Sjedinjenim Američkim Državama u vezi sa veštačkom inteligencijom i onlajn privatnošću?

Sjedinjene Američke Države zaostaju za Evropom i Kanadom kada je reč o regulativi o VI i onlajn interakcijama. Postoje različiti propisi o privatnosti u različitim državama, ali ne postoji sveobuhvatna federalna regulativa o onlajn privatnosti. Kalifornija ima najrigoroznije zakone koji se oslanjaju na Kalifornijski zakon o privatnosti potrošača, a slične zakone ima i nekoliko drugih država. Nedostatak federalne regulative rezultuje sistemom sa različitim zakonima o privatnosti, što otežava poslovanje kompanijama.

Read More