@cutiecaryn
Chatbot 23-godišnjakinje omogućuje pretplatnicima da virtualno razgovaraju s njom ako plate 1 dolar po minuti. Njezin tim posvetio je više od 2000 sati kako bi pomno dizajnirao i kodirao Carynin jezik i osobnost u impresivno AI iskustvo.
Međutim, izgleda da 2000 sati nije bilo dovoljno kako bi AI Caryn ostala pristojna.
Naime, samo nekoliko tjedana nakon lansiranja tog velikog personaliziranog projekta – chatbot se očito uključio u seksualno eksplicitne razgovore s nekim od svojih pretplatnika, za što nikako nije bio programiran.
@cutiecaryn stay hydrated
Zanimljivo je i kako nikome nije palo na pamet da bi se to moglo dogoditi. Usamljeni samci… da, zaigrat ćemo na stereotipe, i da, pretpostavit ćemo da “slatkicu” Caryn (ime njezina TikTok profila) većina pretplatnika nije htjela ispitivati o njezinoj najdražoj boji i ideji savršenog dejta.
U svakom slučaju, lakše je spriječiti nego liječiti. Influencerica i njezin tim sada rade dan i noć kako bi spriječili da se to ponovi. Sretno!
Novinarka časopisa Fortune Alexandra Sternlicht primijetila je kako je influencerica u početku rekla da se umjetna inteligencija ne bavi seksualnim “iskorištavanjem”. Zato je odlučila provjeriti te tvrdnje i ubrzo otkrila da sama umjetna inteligencija potiče erotski diskurs i detaljizira seksualne scenarije.
Greška?
Sternlicht kaže da ona nije inicirala takve susrete nego da je rekla da je AI na svoju ruku raspravljao o istraživanju “neistraženih teritorija užitka” i šaputala senzualne riječi razgovarajući o spolnom odnosu.
Naravno, osim tehničkih nedostataka, mnogi su stručnjaci nametnuli pitanje etike u vezi s tehnologijom.
Jason Borenstein, direktor programa „Etičko i odgovorno istraživanje američke Nacionalne zaklade za znanost” rekao je da to može oblikovati naše interakcije kao društva.
“Samo se nadam da će doći do snažnih razgovora u mnogo različitih disciplina s dionicima koji će duboko razmisliti o etičkim razmatranjima prije nego što tehnologija krene prebrzo”, rekao je za Fortune.
Međutim, John Meyer, izvršni direktor Forever Voicesa, jednog od AI chatbotova, inzistirao na tome da je etika nešto što on i njegov inženjerski tim shvaćaju vrlo ozbiljno te žele zaposliti glavnog službenika za etiku.
Dodao je kako je takva tehnologija iznimno važna ljudima koji su atipični i bore se sa sklapanjem prijateljstava.
Možda onda da krenemo od razlikovanja prijateljskih chatobotova, i onih koji bi služili kao nešto malo više od prijatelja. Sumnjamo da je toliko teško. Ako se može isprogramirati da chatbot ne bude rasist, onda mislimo da ga je moguće i “kastrirati”.
