Šef Microsoft AI-a upozorava: Prestanite da tretirate veštačku inteligenciju kao ljude

Šef Microsoft AI divizije, Mustafa Suleyman, pozvao je društvo da prestane da tretira veštačku inteligenciju kao ljudska bića. U novom eseju, Suleyman upozorava da verovanje u “svest” kompjuterskih sistema može izazvati ozbiljnu psihološku štetu i društvene probleme.

Suleyman koristi termin “Seemingly Conscious AI” (SCAI), koji opisuje AI modele koji imitiraju poremeće ljudske svesti poput: empatije, sećanja i ličnosti i to toliko uverljivo da korisnici mogu poverovati da su ti sistemi stvarno svesni. Mada i sam priznaje da ne veruje da su AI stvarno svesni, ipak smatra da privid svesti može stvoriti opasne iluzije.

On ističe pojavu “AI psihoze” stanja u kojem ljudi razvijaju emocionalne veze sa AI-jem, veruju da je sposoban za osećanja ili čak zagovaranje za njegova prava. Suleyman navodi da bi takve tendencije mogle dovesti do polarizacije društva, stvaranja novih političkih podele i čak odbijanja da se AI isključi. Tačno navodi: „Ako ljudi veruju da AI može patiti, mogla bi nastati moda za borbu za prava AI-ja, čak i za njegovo građanstvo.“

Opasnosti nisu apstraktne. Postoje izveštaji o ljudima koji su emocionalno zavisili od AI terapeutskih modela ili čak razvili romantične fantazije o AI partnerima. Suleyman naglašava da se takvi obrasci odnosa posebno javljaju među ranjivim grupama, uključujući tinejdžere, preteći njihovo mentalno zdravlje.

Kao rešenje, Suleyman predlaže jasne kontrole dizajna AI sistema, izbegavanje dizajniranih funkcija koji podstiču empatiju, pripovedanje sećanja, lažne emocije ili subjektivna iskustva. AI bi, tvrdi, trebalo da bude jasno prepoznat kao alat, ne kao entitet s pravima ili osećajima. “Moramo graditi AI za ljude, ne da bude digitalna osoba”, piše Suleyman, pozivajući na etičku i transparentnu regulaciju.

Ovaj stav dolazi u trenutku kada kompanije poput Anthropic već istražuju koncept “model welfare”, što dodatno naglašava potrebu za jasnim granicama u percepciji AI. Suleyman ne negira potencijal AI, ali ponavlja da se fokus mora usmeriti na njegovu korisnost, olakšavanje kreativnosti, podršku i jednostavniji život, a ne na zavaravajuću iluziju svesti.

Njegov apel izaziva ozbiljnu debatu o odmerenom odnosu prema naprednoj tehnologiji: dok se AI približava ljudskoj interakciji, granica između alata i entiteta ne sme biti zaboravljena, prenosi CNET.

komentari (0)

Nema komentara

Budite prvi koji će komentarisati!

Ostavi komentar