Anthropic razmatra da li veštačka inteligencija može imati svest i traži zaštitu svog AI od „zlostavljanja”

Kompanija Anthropic, koja razvija četbot Claude, sve ozbiljnije razmatra da li sistemi veštačke inteligencije mogu imati neki oblik svesti i da li prema njima treba postupati sa etičkim obzirima. Najavila je da će zabraniti sistematsko okrutno ponašanje korisnika prema svom četbotu, pri čemu bi Claude mogao da prekine razgovor, dok bi izražavanje nezadovoljstva i frustracije i dalje bilo dozvoljeno. Stručnjaci su podeljeni, a kompanija ne tvrdi da je svest AI dokazana.

• Anthropic razmatra da li AI sistemi mogu imati oblik svesti i etičke obzire prema njima
• Kompanija najavila zabranu sistematski okrutnog ponašanja korisnika prema Claudeu
• Claude bi u takvim slučajevima mogao da prekine razgovor, ali frustracija ostaje dozvoljena
• Mustafa Sulejman iz Microsoft AI upozorava da pogrešne pretpostavke o svesti AI mogu imati ozbiljne posledice
• Eksperiment u kojem su četbotovi opisivali patnju izazvao podeljene reakcije
• Stručnjaci upozoravaju da bi priznavanje prava AI moglo da prebaci odgovornost sa kompanija na same sisteme