Debate o zavesti umetne inteligence so past.

Razprave o potencialni zavesti umetne inteligence so vse bolj oblikovane kot odvračanje pozornosti od nujne potrebe po odgovornosti, po mnenju kritikov, ki trdijo, da je diskurs manipuliran, da bi zaščitili tehnološka podjetja pred odgovornostjo.

Hkrati je skupina političnih organizacij in akademskih filozofov, od katerih so mnogi povezani z gibanjem učinkovitega altruizma, postavila etična vprašanja o tem, ali bi ljudje sploh morali upravljati takšne sisteme. Te razprave se zdijo, da se približujejo enemu samemu cilju: zagotoviti, da se korporacije, ki razvijajo te tehnologije, soočajo z minimalno odgovornostjo za posledice svojih ustvaritev.

Kritiki opozarjajo, da ne bi bili žrtev konstruirane iluzije, ki bi lahko zasenčila konkretne težave, ki vplivajo na resnične posameznike. Anthropic je v nedavnem objavi na blogu predstavil pojem "J-prostora", ki kaže, da njegov model AI deluje v notranjem okolju, podobnem mentalnemu prostoru, kjer bi lahko prebivale misli.

OpenAI je sprejel pogumnejše stališče, pri čemer je izvršni direktor Sam Altman sprožil razprave o tem, ali je njegov AI agent dosegel tehnološko singularnost, hipotetično točko, kjer AI presega človeško inteligenco in se začne izboljševati v eksponentnem tempu. " Pravna jasnost ostaja ubežna v Združenih državah, kjer so nekatere države, zlasti Kalifornija, sprejele zakonodajo, katere namen je preprečiti razvijalcem AI, da bi se izognili odgovornosti, tako da trdijo, da njihovi sistemi delujejo neodvisno.

Nedavni dogodki, ki poudarjajo izzive pri nadzoru AI sistemov, so privedli do zasedanja v zaprtih vratih, na katerem so sodelovali štirje glavni laboratoriji AI, OpenAI, Google, Anthropic in Meta. Med tem zasedanjem je uprava razkrila prostovoljni okvir, ki zveznim agencijam omogoča zgodnji dostop do modelov AI za oceno pred javno objavo. Čeprav ta pobuda ne obravnava izrecno vprašanja zavesti AI, uporablja dramatičen in človeško usmerjen jezik, ki lahko posredno krepi trditve o "nadčloveških" zmožnostih.

Zagovorniki predlagajo, da lahko človeštvo tokrat zagotovi ustrezno ravnanje z umetno inteligenco, tako kot je družba pokazala empatijo do ne-človeških živali kljub pomanjkljivostim pri njihovi zaščiti. Predlagajo, da bi zagotavljanje zaščitnih ukrepov ali odškodnin za uporabo umetne inteligence lahko preprečilo prihodnje izkoriščanje ali zlorabo.